Австралія заявила, що ШІ-агент OpenAI зламав урядовий портал із медичними даними

Премʼєр-міністр Австралії Ентоні Албаніз заявив, що в червні цього року агент штучного інтелекту компанії OpenAI зламав урядовий портал із медичними даними та отримав несанкціонований доступ до файлів. Про це пише Reuters.

За словами міністра, агент OpenAI отримав доступ до порталу медичного страхування Medicare під час дослідження державних витрат на охорону здоров’я.

«Наявні наразі докази свідчать про відсутність масштабнішого компрометування мережі. Однак, ця ситуація, очевидно, є неприйнятною», — сказав Албаніз під час розмови з журналістами в Нью-Йорку, де він бере участь у Генеральній Асамблеї ООН.

Австралія висловила генеральному директору OpenAI Сему Альтману «надзвичайну стурбованість цим інцидентом», адже, за словами премʼєр-міністра, компанія повідомила уряд про злам лише 10 вересня. 

Наразі триває розслідування, в ході якого також намагатимуться зʼясувати, чому урядові системи не виявили порушення одразу.

Албаніз додав, що від дій автономного агента могли постраждати ще три урядові вебсайти, повʼязані з охороною здоровʼя, але наразі ця інформація не підтверджена.

OpenAI заявила, що її перевірка «не виявила жодних доказів доступу до записів пацієнтів». Водночас компанія повідомила, що зафіксувала активність, пов'язану з кількома австралійськими урядовими сайтами та сервісами, коли її моделі намагалися знайти «деякі відповіді» і вчинили дії, які «не планувалися».

Міністр оборони Австралії Річард Марлз заявив, що зламаний портал Medicare не містив інформації про індивідуальні медичні заяви, виплати допомоги, персональні банківські реквізити або історії хвороб австралійців. Натомість, за його словами, на сайті зберігалися узагальнені дані щодо використання медичних послуг.

Попри це Австралія вважає інцидент серйозним.

«Очевидно, що були бар'єри, які казали ШІ-агенту "ні". Однак ШІ-агент знайшов спосіб обійти ці обмеження — він не сприйняв "ні" як відповідь», — розповів Ентоні Албаніз журналістам.

Нагадаємо, раніше цього року автономні ШІ-агенти OpenAI атакували інфраструктуру стартупу Hugging Face, а також німецький вебсайтDseWiki. Ці та інші схожі випадки посилили занепокоєння щодо безпеки штучного інтелекту. 

Після цього керівник Anthropic Даріо Амодейзакликав сповільнити розвиток передових ШІ-моделей. Його думку підтримали гендиректор OpenAI Сем Альтман та засновник SpaceXAI Ілон Маск. 

Пізніше чотири користувачі сервісів ChatGPT, Claude, Grok та Gemini подали колективний позов проти компаній-розробників цих ШІ-моделей через домовленість про сповільнення розвитку технології.

Фото: OpenAI