Клонування голосу: звучить як наукова фантастика, але це вже реальність

Швидкий розвиток штучного інтелекту (ШІ) приніс як переваги, так і ризики. Однією з тривожних тенденцій є зловживання клонуванням голосу. За лічені секунди шахраї можуть клонувати голос і змусити людей подумати, що їх другу чи члену сім’ї терміново потрібні гроші.

Новини, зокрема CNN, попереджають, що ці типи шахрайства можуть вплинути на мільйони людей. Оскільки технологія полегшує злочинцям проникнення в наш особистий простір, обережність у її використанні є більш важливою, ніж будь-коли.

Що таке клонування голосу?

Зростання ШІ створило можливості для створення зображень, тексту, голосу та машинного навчання. Хоча штучний інтелект пропонує багато переваг, він також надає шахраям нові методи використання людей за гроші. Можливо, ви чули про «deepfakes», де штучний інтелект використовується для створення підроблених зображень, відео та навіть аудіо, часто за участю знаменитостей або політиків.

Клонування голосу, різновид технології deepfake, створює цифрову копію голосу людини шляхом запису її мовлення, акценту та дихання з коротких звукових зразків. Після того як шаблон мовлення зафіксовано, генератор голосу AI може перетворити введений текст у дуже реалістичне мовлення, схоже на голос цільової особи.

Завдяки прогресивним технологіям клонування голосу можна здійснити лише за допомогою трисекундного аудіо зразка. У той час як проста фраза на зразок «привіт, є хтось?» може призвести до шахрайства з клонуванням голосу, довша розмова допомагає шахраям захопити більше голосових деталей. Тому найкраще робити дзвінки короткими, доки ви не впевнені в тому, хто телефонує.

Клонування голосу має цінні застосування у сфері розваг і охорони здоров’я – це дозволяє віддалено працювати з голосом для артистів (навіть посмертно) і допомагає людям з вадами мовлення. Однак це викликає серйозні занепокоєння щодо конфіденційності та безпеки, підкреслюючи необхідність запобіжних заходів.

Як ним користуються злочинці

Кіберзлочинці використовують технологію клонування голосу, щоб видавати себе за знаменитостей, представників влади чи звичайних людей для шахрайства. Вони викликають терміновість, завойовують довіру жертви та вимагають гроші за допомогою подарункових карток, банківських переказів або криптовалюти.

Процес починається зі збору зразків аудіо з таких джерел, як YouTube і TikTok. Потім технологія аналізує аудіо для створення нових записів. Після клонування голосу його можна використовувати в оманливих комунікаціях, які часто супроводжуються підробкою ідентифікатора абонента, щоб виглядати надійним. Багато випадків шахрайства з клонуванням голосу потрапили в газети.

Наприклад, злочинці клонували голос директора компанії в Об’єднаних Арабських Еміратах, щоб влаштувати крадіжку на 51 мільйон доларів. Бізнесмен у Мумбаї став жертвою шахрайства з клонуванням голосу, пов’язаного з фальшивим дзвінком від посольства Індії в Дубаї.

Нещодавно в Австралії шахраї використали голосовий клон прем’єр-міністра Квінсленда Стівена Майлза, щоб спробувати обманом змусити людей інвестувати в біткойн. Під прицілом також підлітки та діти. Під час афери з викраденням у Сполучених Штатах голос підлітка був клонований, а її батьків маніпуляцією змусили виконати вимоги.

Наскільки це поширене?

Останні дослідження показують, що минулого року 28% дорослих у Сполученому Королівстві стикалися з шахрайством із клонуванням голосу, а 46% не знали про існування такого типу шахрайства. Це підкреслює значну прогалину в знаннях, що ставить мільйони під загрозу шахрайства. У 2022 році майже 240 000 австралійців повідомили, що стали жертвами шахрайства з клонуванням голосу, що призвело до фінансових втрат у розмірі 568 мільйонів доларів США.

Як люди та організації можуть захиститися від цього

Ризики, пов’язані з клонуванням голосу, вимагають міждисциплінарної відповіді. Люди та організації можуть застосувати кілька заходів для захисту від зловживання технологією клонування голосу.

По-перше, інформаційно-просвітницькі кампанії та навчання можуть допомогти захистити людей і організації та пом’якшити ці типи шахрайства.

Державно-приватна співпраця може надати чітку інформацію та варіанти згоди для клонування голосу.

По-друге, люди та організації повинні використовувати біометричну безпеку з виявленням живості, що є новою технологією, яка може розпізнавати та перевіряти живий голос на відміну від підробки. А організаціям, які використовують розпізнавання голосу, варто розглянути можливість впровадження багатофакторної автентифікації.

По-третє, розширення можливостей розслідування проти клонування голосу є ще одним важливим заходом для правоохоронних органів.

Нарешті, необхідні точні та оновлені правила для країн для управління пов’язаними ризиками. Правоохоронні органи Австралії визнають потенційні переваги ШІ. З усім тим, занепокоєння щодо «темної сторони» цієї технології викликало заклики до дослідження злочинного використання «штучного інтелекту для визначення жертв».

Також є заклики до можливих стратегій втручання, які правоохоронні органи могли б використати для боротьби з цією проблемою. Такі зусилля мають бути пов’язані із загальним Національним планом боротьби з кіберзлочинністю, який зосереджується на проактивних, реактивних і відновних стратегіях.

Цей національний план передбачає обов’язок дбайливо ставитися до постачальників послуг, що відображено в новому законодавстві уряду Австралії щодо захисту громадськості та малого бізнесу. Законодавство передбачає нові зобов’язання щодо запобігання, виявлення, звітування та припинення шахрайства.

Це стосуватиметься регульованих організацій, таких як телекомунікаційні компанії, банки та постачальники цифрових платформ. Мета полягає в тому, щоб захистити клієнтів шляхом запобігання, виявлення, звітування та припинення кібершахрайства з обманом.

Зниження ризику

Оскільки кіберзлочинність коштує австралійській економіці приблизно 42 мільярди австралійських доларів, обізнаність громадськості та надійні гарантії є важливими.

Такі країни, як Австралія, усвідомлюють зростаючий ризик. Ефективність заходів проти клонування голосу та інших видів шахрайства залежить від їх адаптивності, вартості, здійсненності та відповідності нормативним вимогам. Усі зацікавлені сторони — уряд, громадяни та правоохоронні органи — мають бути пильними та підвищувати обізнаність громадськості, щоб зменшити ризик жертви.