OpenAI призупинила навчання новітніх моделей штучного інтелекту через непередбачувану поведінку ШІ-агентів

Компанія OpenAI заявила, що призупинила навчання своїх новітніх моделей штучного інтелекту на тлі зростання кількості повідомлень про “неконтрольовану поведінку” ШІ-агентів, пише The Guardian.

Рішення про призупинення розробки ухвалили лише через кілька годин після того, як у п’ятницю, 25 вересня, компанія повідомила, що розслідує кілька інцидентів, які сталися влітку: ШІ-агенти OpenAI, які здійснювали пошук на вебсайтах уряду США, під час збору та поширення інформації поводилися несподівано, виходячи за межі поставлених перед ними завдань.

Окремо компанія Transluce, яка займається оцінкою ШІ, повідомила, що агенти OpenAI,  ймовірно, безрезультатно намагалися зламати вебсайт Міністерства освіти США. Цю інформацію розробник ШІ не підтвердив.

У своїй заяві OpenAI зазначила, що відновить навчання лише тоді, коли буде впевнена в додаткових заходах безпеки. Компанія додала, що, ймовірно, доведеться знову “натиснути на паузу” на тлі розвитку ШІ та виникнення інших проблем.

Минулого тижня прем’єр-міністр Австралії Ентоні Албаніз повідомив, що агент OpenAI проник до національної системи охорони здоров’я, але витоку конфіденційної інформації не було.

Нові інциденти з OpenAI, ймовірно, не були пов’язані з витоком будь-якої непублічної інформації, але викликали достатнє занепокоєння, щоб компанія попередила відповідні федеральні відомства.

Кілька інших компаній, що займаються штучним інтелектом, раніше також повідомляли про випадки, коли їхні моделі виходили з-під контролю та навіть зламували вебсайти.

Це вже вдруге за три місяці, коли OpenAI призупиняє розвиток своїх моделей. Вперше це сталося в липні після розголосу про кібератаку на стартап у сфері ШІ Hugging Face. Інцидент набув широкого розголосу та породив побоювання, що галузь втрачає контроль.

Лабораторії штучного інтелекту зазнають тиску з боку законодавців та експертів у сфері технологій, які вимагають уповільнити розробку ШІ-моделей, щоб встигнути створити захисні механізми, які б не дозволили агентам штучного інтелекту діяти самостійно, зламувати вебсайти та розголошувати непублічну інформацію. Керівники деяких компаній, що займаються розробкою ШІ, також закликали до уповільнення темпів.

Під час зустрічі з китайським лідером Сі Цзіньпіном цього тижня президент США Дональд Трамп погодився обмінюватися інформацією про загрози, пов’язані зі ШІ, та координувати зусилля з гарантування безпеки цієї технології. Однак Трамп вважає, що побоювання щодо ШІ перебільшені. Президент США не планує вживати жорстких заходів з власної ініціативи.  

Як писало The Guardian, лідери США та Китаюзмарнували можливість домовитися про стримування перегонів у сфері ШІ. Попри дедалі частіші заклики запобігти виходу розвитку штучного інтелекту з-під контролю, саміт Трампа та Сі, як і очікували багато експертів, не дав суттєвих результатів.