Агент відмовився приймати "ні" як відповідь: штучний інтелект "зламав" уряд Австралії

Прем'єр-міністр Ентоні Албанезе назвав інцидент "неприйнятним" та висловив свою "найглибшу стурбованість" генеральному директору OpenAI, пише Bild.

Політика особливо розлютило те, що компанії OpenAI знадобилося дуже багато часу, щоб повідомити австралійський уряд про цей інцидент. Адже злам стався ще в червні, але влада країни дізналася про це лише у вересні.

Агент OpenAI отримав несанкціонований доступ до порталу Medicare

Medicare — це національна програма медичного страхування Австралії. Портал Services Australia, містить інформацію про витрати та іншу статистику. Агент штучного інтелекту мав доступ як до публічних, так і до непублічних файлів системи. Як пояснив Албанес, ШІ не отримав доступ до особистої інформації. Відтак, жодна особа не постраждала.

Після відмови агент знайшов спосіб обійти обмеження

Програма штучного інтелекту мала досліджувати медичну та статистику охорони здоров'я . За словами віцепрем'єр-міністра Річарда Марлеса, вона переглядала кілька сайтів уряду Австралії так само, як і звичайний користувач. Але портал Medicare відмовився надати таку інформацію, тому агент ШІ отримав доступ іншим способом.

"Агент штучного інтелекту знайшов спосіб обійти обмеження — він просто відмовився приймати "ні" як відповідь", — пояснив Албанез.

Наразі триває розслідування про точний обсяг даних до яких отримав доступ агент ШІ. Також судово-медична експертиза з'ясує, що саме сталося та чи постраждали інші урядові системи.

Натомість компанія OpenAI заявила, що внутрішній аудит виявив активність на кількох сайтах та службах австралійського уряду. Моделі намагалися знайти відповіді та доступну статистику на запитання щодо Австралії.

"Роблячи це, наші моделі виконали дії, які ми не мали наміру робити", — сказав речник компанії.

Нагадаємо, що 19 вересня президент США Дональд Трамп оголосив про створення "сил штучного інтелекту" — AI Force. За його словами, незабаром буде призначено й керівника цього нового відомства.

Також Компанія розробник ШІ Anthropic створює лабораторію в районі затоки Сан-Франциско, яка займатиметься не лише комп’ютерним моделюванням, а й біологічними випробуваннями.