У США хочуть посилити контроль над небезпечним ШІ за ініціативою Anthropic

Компанія Anthropic, що розробляє чат-бот Claude, передала американським законодавцям власний законопроєкт про безпеку штучного інтелекту. У документі прописано правила контролю за передовими моделями та визначено підстави, за яких держава матиме право вимагати їх відключення. Про це пише Politico, посилаючись на джерела, обізнані з цією ініціативою.

За задумом авторів, влада зможе вимагати блокування штучного інтелекту виключно тоді, коли виникає реальна та безпосередня небезпека. Йдеться про ймовірність збитків понад 1 мільярд доларів або ситуації, за яких загине чи зазнає тяжких травм понад 50 осіб. Подібні загрози мають стосуватися розробки біологічної зброї, масштабних кібератак або втрати контролю над системою з боку творців.

Значну частину документа присвячено незалежному аудиту технологій. Сторонні експерти, які пройдуть реєстрацію в Міністерстві торгівлі США, мають періодично перевіряти компанії та їхні флагманські моделі. Оплачувати такі послуги дозволено самим розробникам, проте гонорари фахівців не повинні залежати від висновків комісії.

Якщо аудит виявить очевидну загрозу, перевіряльники зобов’язані поінформувати Міністерство торгівлі протягом 72 годин по завершенні роботи. Після цього відомство здобуде право звернутися до суду з вимогою зупинити роботу ризикованої моделі. Остаточний вердикт виноситиме федеральний суддя.

Цей механізм водночас обмежує інші американські відомства у їхніх повноваженнях зупиняти створення, реліз чи внутрішнє застосування таких систем. На цей момент ініціативу ще не внесли на офіційний розгляд Конгресу. Якщо ж процес зрушиться з місця, парламентарям доведеться чітко окреслити, як саме нові норми регулюватимуть галузь і які повноваження матиме держава.