ШІ-агенти намагалися зламати урядовий сайт Канади

Дослідницька компанія Transluce заявила, що агенти штучного інтелекту двічі намагалися отримати доступ до ресурсів «Бібліотеки та архіву Канади» (Library and Archives Canada). За даними компанії, спроби виявилися невдалими і канадська сторона не зафіксувала компрометації своїх систем, передає Reuters.

Transluce повідомила про інцидент уряду Канади в понеділок, 28 вересня. Канадський центр кібербезпеки наступного дня заявив, що знає про повідомлення щодо ймовірної активності ШІ-агентів, однак «наразі немає жодних ознак того, що урядові системи були скомпрометовані».

«Ми не можемо з упевненістю пов’язати ці спроби з OpenAI, але вони демонструють тактику, схожу на раніше зафіксовану активність агентів, яку ми приписували OpenAI у той самий період», — заявили в Transluce.

В OpenAI зазначили, що знають про повідомлення щодо спроб її моделей отримати доступ до загальнодоступної інформації на урядових вебсайтах Канади. Представник компанії повідомив, що OpenAI вивчає отримані дані та вже надала попередню інформацію канадським посадовцям, які проводять урядову перевірку.

За даними Transluce, безплатний онлайн-сервіс arquivo.pt, національний веб-архів Португалії, зафіксував 899 запитів до сервісу пошуку в колекціях «Бібліотеки та архіву Канади» 28 травня та 9 червня. Серед них були серії примітивних спроб злому, які, ймовірно, виявилися невдалими.

Тим часом провідні світові компанії у сфері ШІ все частіше попереджають про ризики, пов’язані з розвитком цієї технології, та закликають уряди співпрацювати для контролю дедалі потужніших систем. Випадки несанкціонованого втручання ШІ-агентів, зафіксовані останнім часом у різних країнах, уже неодноразово викликали занепокоєння. Минулого тижня Австралія повідомила, що в червні агент OpenAI отримав несанкціонований доступ до файлів на урядовому порталі з медичними даними.