Потрібні суворіші правила. У Microsoft заявили, що ШІ регулюють слабше, ніж побутову техніку

Президент Microsoft Бред Сміт заявив, що штучний інтелект потребує суворішого регулювання на міжнародному рівні, адже навіть молоко та пральні машини підпадають під жорсткіші правила безпеки.

Про це Сміт розповів в інтерв'ю BBC, опублікованому 12 жовтня.

Він пропонує зобов’язати компанії повідомляти про інциденти та передбачити можливість екстреного вимкнення небезпечних систем.

За його словами, компанії мають бути юридично зобов’язані повідомляти людей, які постраждали через збої або несанкціоновані дії ШІ-агентів, а також звітувати про інциденти, пов’язані з безпекою. Він також виступає за визначення випадків, коли нові моделі ШІ повинні проходити незалежну оцінку перед випуском.

Ще одна пропозиція Сміта — запровадити механізми екстреної зупинки, які дозволять людям призупиняти роботу систем або повністю вимикати їх, якщо ті виходять з-під контролю.

«Ми знаємо, як це робити для інших продуктів. Ми повинні використати ці знання та подумати, як застосувати їх до ШІ», — сказав президент Microsoft.

Він звернув увагу на різницю між регулюванням штучного інтелекту та звичайних споживчих товарів. За словами Сміта, пральні машини підпадають під більшу кількість правил безпеки, ніж ШІ, а молоко в магазинах проходить перевірки відповідно до встановлених вимог.

Генеральний директор Microsoft Сатья Наделла також підтримав ідею екстрених механізмів зупинки. У дописі в соцмережі X у суботу він зазначив, що моделі ШІ повинні мати засоби, які дозволяють людям призупиняти їхню роботу або вимикати їх безпосередньо під час виконання завдань.

Заклики до посилення контролю пролунали на тлі побоювань щодо можливих небезпечних наслідків розвитку ШІ. За даними Axios, деякі представники галузі вважають, що масштабна катастрофа, пов’язана зі штучним інтелектом, може статися протягом наступних шести-дванадцяти місяців.

Позиція Сміта відрізняється від підходу президента США Дональда Трампа, який переважно виступає за саморегулювання галузі. Трамп побоюється, що надмірні обмеження послаблять позиції США в конкуренції з Китаєм у сфері ШІ.

29 вересня представники Google, Meta, Anthropic, OpenAI, xAI та Nvidia підписали в Білому домі добровільну угоду, яка передбачає дотримання певних стандартів безпеки ШІ. Документ не має механізму юридичного примусу до виконання. Трамп назвав ці стандарти морально обов’язковими.

Сміт вважає, що Великобританія може стати відправною точкою для розроблення міжнародних правил. Він звернув увагу на британський Інститут безпеки ШІ та припустив, що американські посадовці можуть бути більш готовими до співпраці з Лондоном, ніж із деякими іншими урядами, зокрема Європейського Союзу.

«Коли йдеться про ШІ-агентів, які вийшли з-під контролю людини, та моделі, настільки потужні, що вони створюють загрози для кібербезпеки всього світу, я б сказав: цей момент настав», — заявив Сміт.