Керівників OpenAI та Anthropic викликали до Сенату Австралії через розслідування щодо ШІ

Керівників OpenAI Сема Альтмана та Anthropic Даріо Амодеї викликали на слухання австралійського Сенату щодо штучного інтелекту. Запит надійшов після того, як стало відомо про проникнення агента OpenAI до бази даних системи Medicare. Про це повідомило інформаційне агентство Reuters.

Генеральних директорів OpenAI та Anthropic запросили виступити перед австралійською сенатською комісією, яка розслідує наслідки розвитку штучного інтелекту. Це сталося через кілька днів після повідомлення про те, що неконтрольований агент OpenAI проник до бази даних державної системи охорони здоров’я Австралії.

Менш ніж три доби: за такий час Claude зламав захист OpenAI

Прем’єр-міністр Ентоні Албанезе засудив інцидент із Medicare. Він став одним із найрезонансніших випадків, коли ШІ-агент отримав доступ до зовнішньої системи за межами США. Сему Альтману та Даріо Амодеї надіслали письмові запрошення взяти участь у роботі комісії. Публічні слухання мають відбутися в четвер у столиці Австралії Канберрі. Про це повідомив представник сенаторки від партії Австралійських зелених Сари Генсон-Янг, яка очолює розслідування.

Проникнення агента OpenAI в систему одного з найбільш використовуваних державних відомств країни може вплинути на підхід уряду Албанезе до регулювання штучного інтелекту. Кабінет, сформований Лейбористською партією, готує спеціальні закони у цій сфері на наступний рік. На думку експертів із технологічної політики, після інциденту правила можуть бути посилені. Це також може створити додатковий тиск на відносини Австралії зі США, які вже зазнали випробування через запроваджену Канберрою заборону соціальних мереж для підлітків.

Сенатське розслідування вивчає потенційний вплив штучного інтелекту та центрів обробки даних на громади й промисловість Австралії, а також на використання води та енергії. Це лише одне з кількох розслідувань щодо ШІ, які проводять федеральні та регіональні органи влади.

«Є серйозні питання, на які Сем Альтман має відповісти щодо злому вебсайтів австралійського уряду за допомогою OpenAI. Альтман та Амодей повинні відповісти на запитання Сенату та провести чесну розмову про те, як має виглядати ефективне та тривале регулювання цієї галузі», — заявила Гансон-Янг.

Албанезе в четвер повідомив про червневе проникнення у систему Medicare та назвав його «неприйнятним». Прем’єр також заявив, що висловив Альтману «надзвичайне занепокоєння». OpenAI стверджує, що дізналася про цей інцидент лише у серпні.

За даними компанії, йдеться про один щонайменше із чотирьох випадків проникнення на австралійські урядові сайти. OpenAI заявляє, що дії агента не були навмисними. Компанія також запевняє, що приватна інформація внаслідок інциденту не була скомпрометована.

OpenAI призупинила розробку ШІ-моделі Astra: є ризик автономних кібератак

Нагадаємо, що на тлі дедалі гостріших питань щодо безпеки ШІ OpenAI закликала США очолити міжнародну розробку технічних стандартів для передових систем штучного інтелекту. Компанія вважає, що спільні правила мають узгодити національні та міжнародні підходи до технологій із рекурсивним самовдосконаленням. OpenAI також запропонувала запровадити єдині методики оцінювання систем і протоколи повідомлення про інциденти.

Окрім того, OpenAI призупинила навчання своїх новітніх моделей через повідомлення про непередбачувану поведінку ШІ-агентів. Рішення ухвалили після того, як компанія почала розслідувати літні інциденти, під час яких її агенти виходили за межі поставлених завдань на сайтах уряду США. OpenAI пообіцяла відновити навчання моделей лише після впровадження додаткових заходів безпеки.