Трамп підписав угоду про безпеку штучного інтелекту з керівниками технологічних компаній — Reuters

Президент Сполучених Штатів Дональд Трамп оприлюднив односторінкову угоду про контроль і безпеку систем штучного інтелекту. Документ передбачає чотири рівні нагляду. Угоду підписали Трамп і керівники Google, Anthropic, Meta, OpenAI, X та NVIDIA, з якими зустрівся у Вашингтоні. Про це повідомило інформаційне агентство Reuters.

Односторінковий документ президент США розмістив у своїй соціальній мережі Truth Social. До цього він назвав домовленість «морально обов’язковою». Угода пропонує компаніям запровадити чотири рівні контролю за системами ШІ.

Перший рівень передбачає співпрацю із зовнішнім аудитором або незалежним оцінювачем. Він має перевіряти, чи працюють системи контролю та моніторингу штучного інтелекту так, як було задумано компанією. Незалежна оцінка повинна дозволити окремо перевіряти ефективність механізмів, які самі розробники використовують для контролю своїх моделей.

Другий рівень стосується корпоративного управління. Компаніям рекомендують створити незалежний комітет у складі ради директорів. Він повинен здійснювати нагляд і отримувати звіти від внутрішніх та зовнішніх аудиторів, а також від команд, які відповідають за роботу механізмів контролю ШІ. Таким чином, інформація про ефективність цих систем має надходити безпосередньо до незалежної структури на рівні керівництва компанії.

Третій рівень передбачає внутрішній моніторинг можливостей моделей та їхньої відповідності встановленим цілям під час навчання і використання. Окрему увагу документ приділяє кібербезпеці, біологічній безпеці та хімічним загрозам. Компанії мають контролювати системи так, щоб моделі не здійснювали злам і не отримували доступ до технічних систем способами, які не передбачали їхні розробники.

Четвертий рівень передбачає створення окремої внутрішньої команди. Її завданням має бути перевірка того, що всі запроваджені механізми контролю, моніторингу та виявлення ризиків працюють відповідно до задуму. Таким чином, компаніям пропонується поєднати зовнішню незалежну оцінку з постійним внутрішнім контролем своїх ШІ-систем.

Документ підписали Дональд Трамп і керівники Google, Anthropic, Meta, OpenAI, соціальної платформи X та NVIDIA. У тексті угоди зазначено, що з часом ці кроки, можливо, буде доцільно закріпити у законодавстві або нормативних актах. Водночас учасники домовленості вважають запровадження таких механізмів контролю та аудиту важливим незалежно від того, чи стануть вони обов’язковими для компаній.

Підписанти також заявили про готовність застосовувати ці заходи. Компанії, які приєдналися до угоди, також домовилися регулярно проводити зустрічі. Під час них учасники мають розробляти стандарти та найкращі практики, спрямовані на підвищення безпеки їхніх систем штучного інтелекту.

Нагадаємо, що OpenAI раніше закликала США очолити міжнародні зусилля зі створення глобальних технічних стандартів для передових систем ШІ. Компанія запропонувала узгодити національні й міжнародні правила для технологій із рекурсивним самовдосконаленням, які можуть автономно покращувати власні можливості. OpenAI також виступила за спільні методики вимірювання та протоколи повідомлення про інциденти, щоб покращити координацію між країнами.

Окрім того, США і Китай після переговорів Дональда Трампа та Сі Цзіньпіна домовилися започаткувати окремий діалог щодо штучного інтелекту. Наступний раунд таких консультацій сторони запланували на листопад. Вашингтон і Пекін також вирішили створити канал зв’язку для обміну інформацією про інциденти, пов’язані зі ШІ. Китайське МЗС позитивно оцінило використання США терміна «суперінтелект» і заявило про необхідність шукати спільні підходи до розвитку технології.