Расистські висловлювання директора школи були підробкою ШІ. Його колегу затримали

На 42-секундному записі Співробітника, 31-річного Дажона Дар'єна, колишнього спортивного директора середньої школи Пайксвілла, взяли під варту в міжнародному аеропорту Балтімор-Вашингтон Маршалл

«Мене просто так нудить від неадекватності цих людей», — глузував голос на записі, який був опублікований у соціальних мережах у січні, викликавши обурення та спонукавши шкільний округ відправити директора у відпустку.

Але, як повідомила поліція округу Балтімор, запис був не таким, яким здавався. Співробітник школи, якого слідчі звинуватили в четвер, використовував інструменти штучного інтелекту, щоб сфабрикувати аудіо з наміром неправдиво представити директора, Еріка Ейсверта, як фанатика та антисеміта.

Співробітника, 31-річного Дажона Дар'єна, колишнього спортивного директора середньої школи Пайксвілла, взяли під варту в міжнародному аеропорту Балтімор-Вашингтон Маршалл у четвер, коли він збирався летіти до Х'юстона. Співробітники служби безпеки аеропорту, затримавши Дар’єна за те, що він мав вогнепальну зброю, виявили, що суддя щойно видав ордер на його арешт у справі AI.

Дарієн у текстовому повідомленні відмовився від коментарів у п’ятницю та передав запитання адвокату, який не був доступний. Його звільнили під заставу в розмірі 5000 доларів на слуханнях у четвер, де його звинуватили у зриві шкільних заходів, помсті свідкам, переслідуванні та крадіжці, згідно з протоколами суду.

Айсверт не відповів на повідомлення про коментар.

Цей випадок привернув увагу далеко за межами округу Балтімор, викликавши нове занепокоєння щодо легкодоступних інструментів штучного інтелекту, які можуть дозволити користувачам створювати правдоподібні клони політиків, знаменитостей і звичайних громадян за допомогою лише кількох секунд реального аудіозапису.

«Будь-хто може створювати такі типи дипфейків, поширювати їх в Інтернеті та дуже швидко й без особливих зусиль сіяти хаос у житті людини», — сказав Хані Фарід, професор інформатики Каліфорнійського університету в Берклі, який сказав, що поліція округу Балтимор проконсультувалася з ним щодо цієї справи. . Звертаючись до інциденту в Балтіморі, він сказав: «Він точно не буде останнім».

Арешт Дарієна є ще одним нагадуванням про те, що громадськість не повинна «приймати те, що ви бачите в Інтернеті за чисту монету», сказав Річард Форно, помічник директора Центру кібербезпеки Університету Меріленда в окрузі Балтимор. «Це може бути несправжнім. Стає важче довіряти своїм очам і вухам. Ви повинні критично подумати, перш ніж робити ретвіт».

Слідчі, які прагнуть висунути звинувачення в таких типах кіберзлочинів, часто стикаються з обмеженими правовими механізмами, кажуть AI та експерти з права. Скотт Шелленбергер, прокурор округу Балтімор, чия канцелярія переслідує Дарієна, сказав, що ця справа «показала, що нам, можливо, доведеться прийняти нові закони».

«Ми дуже старалися знайти додаткові речі, у яких його можна звинуватити, і у нас не було достатньо конкретних статутів», — сказав Шелленбергер у телефонному інтерв’ю. «Це нова сфера з штучним інтелектом і нове зловживання штучним інтелектом, і нам доведеться створити нові закони, щоб впоратися з цією ситуацією, щоб запобігти людям, які хочуть це зробити, і покарати тих, хто це зробив. .”

Запис став вірусною сенсацією після того, як користувач Instagram опублікував його 17 січня, викликавши заклики до усунення Айсверт, викликавши обурення учнів і батьків і підштовхнувши шкільний округ до кризи, яка привернула увагу всієї країни.

«Світ був би кращим місцем, якби ви були по той бік бруду», — написав коментатор в обліковому записі в соцмережі, що належить Ейсверту, після оприлюднення запису і до того, як стало зрозуміло, що він підробка, за словами слідчих. Запис змусив поліцію виставити офіцерів біля будинку Ейсверта як запобіжний захід, а керівництво школи викликало консультантів, щоб поговорити з учнями та персоналом.

Серед тих, хто спочатку вимагав звільнення директора, був Дерей Маккессон, активіст громадянських прав, який сказав, що він був колишнім учнем Ейсверта. «Я жодним чином не здивований його коментарями в цьому записі», — написав Маккессон на X, де він має 932 000 підписників, додавши, що «ліцензії на викладання та адміністраторські ліцензії Айсверта мають бути відкликані назавжди».

Після арешту Дарієна Маккессон написав на X: «Це підлий вчинок. І я помилявся, оскільки думав, що запис міг бути правдивим».

Були також ті, хто з самого початку говорив, що не вірить у запис автентичності, включно з помічницею директора, якій Ейсверт нібито зробив зауваження, яка сказала слідчим, що «вона думала, що ніколи не розмовляла» і що це «не схоже на те, що вона спостерігала від» нього.

Біллі Берк, виконавчий директор Ради адміністративних і наглядових працівників, профспілки, що представляє директорів та інших керівників державних шкіл округу Балтімор, також висловив сумнів щодо автентичності запису незабаром після його оприлюднення. «Я сподіваюся, що ми зможемо винести уроки на тлі шкоди, яку це спричинило», — сказав Берк у заяві після арешту Дарієна. «Я сподіваюся, що ми дізнаємося, що люди невинуваті, доки їх не доведено».

Після оприлюднення запису Айсверт у публічній заяві заперечив свої зауваження, серед яких було те, що він намагався змусити Дарієна «Black a--» усунути зі школи «так чи інакше». Я візьму щось, що можна приклеїти». На записі підроблений голос Ейсверта також поскаржився на отримання «ще однієї скарги від ще одного єврея».

Перед публікацією запису Айсверт був залучений у суперечку з Дарієном, яка була зосереджена на виплаті 1916 доларів, яку спортивний директор дозволив іншому працівнику школи, який також був його сусідом по кімнаті, згідно з документом про стягнення. Айсверт стверджував, що Дарієн здійснив платіж, не отримавши відповідних дозволів.

Під час розслідування запису поліція опитала Ейсверта, який сказав їм, що він вважає, що Дарієн сфабрикував запис, згідно з документом про звинувачення поліції. Він також сказав слідчому, що не хотів продовжувати контракт з Дарієном через «часті проблеми з продуктивністю».

Відстежуючи генезис запису, слідчі встановили, що він був надісланий електронною поштою трьом працівникам школи, включаючи Дарієна, за день до того, як він опинився в Instagram. Одна з цих співробітниць, яка не вказана в документі про звинувачення, сказала поліції, що вона надіслала запис учню, «який, як вона знала, швидко поширить повідомлення по різних сайтах соціальних мереж і по всій школі». Співробітниця також повідомила слідчим, що надіслала повідомлення до ЗМІ та NAACP.

Під час інтерв’ю з поліцією Дарієн заперечив будь-який зв’язок із «існуванням і оприлюдненням запису» і сказав, що не знає особи, яка надіслала йому запис електронною поштою, згідно з обвинувачувальним документом. Але поліція, викликавши Google, змогла пов’язати обліковий запис електронної пошти з Darien.

У рамках свого розслідування поліція попросила експерта-криміналіста Університету Колорадо, який працював з ФБР, прослухати запис. Згідно з обвинуваченням, аналітик дійшов висновку, що «запис містив сліди створеного ШІ контенту з редагуванням людини після факту, що додало фоновий шум для реалізму».

Фарід сказав, що він був другим судово-медичним експертом, вказаним у звинувачувальному документі, який, як цитується, сказав слідчим, що «запис було підроблено, і кілька записів були з’єднані разом».

Слідчі заявили, що вони встановили, що Дарієн мав платний обліковий запис для інструментів OpenAI. Компанія створює ChatGPT і генератор зображень Dall-E. Але незрозуміло, який конкретно сервіс використовувався для створення створеного ШІ аудіоклону.

Цей інцидент є одним із кількох резонансних внутрішніх випадків, у яких дипфейки аудіо ШІ спричинили хаос. У січні політичний оперативник Демократичної партії підробив голос президента Байдена для автоматичного дзвінка, закликаючи виборців на первинних виборах у Нью-Гемпширі не йти на вибори — цей трюк мав на меті привернути увагу до проблем із ЗМІ, які призвели до розслідування штату. За словами заступника генерального прокурора Нью-Гемпшира Джеймса Боффетті, розслідування триває, кримінальні звинувачення ще не висунуті.

За словами юридичних експертів, арешт у Балтіморі представляє інтерес, оскільки немає прецедентів для кримінальних справ, пов’язаних із створеними штучним інтелектом дипфейками. Федерального закону про дипфейки не існує, і хоча понад три десятки законодавчих зборів штатів просувають законопроекти про штучний інтелект, пропозиції, що регулюють дипфейки, здебільшого обмежуються політичною рекламою та порнографією без згоди .

Тамарін Лінденберг, засновник Lindenberg Law Group, сказав, що заслуговує на увагу аспект Балтіморської справи, що передбачуваним злочинцем є не тіньова анонімна кібермережа, а її колега. «Зловмисники не ті, ким ви їх вважаєте», — сказала вона. «Це колега, це хтось інший у школі».

Фарід сказав, що ці випадки не припиняться найближчим часом, враховуючи зростання доступних високоякісних інструментів для клонування голосу. «Тепер, коли комерційні додатки для клонування голосу... доступні будь-кому практично безплатно, — сказав він, — я очікую, що таких інцидентів буде більше».