OpenAI, Anthropic і Google готують створення регулятора ШІ

OpenAI, Anthropic та Google обговорюють створення нового органу, який займатиметься стандартами у сфері штучного інтелекту. Про це у вівторок повідомила OpenAI. Ініціатива з’явилася на тлі зростання побоювань щодо ризиків ШІ та тиску на індустрію з вимогою посилити контроль за розробкою технології, повідомляє France 24.

Ідею створення такого органу запропонував керівник Google DeepMind Деміс Хассабіс. У липні він закликав США створити структуру, яка перевірятиме найпотужніші моделі ШІ перед їхнім виходом на ринок.

За задумом Хассабіса, новий орган переважно фінансуватиме сама індустрія. Це дозволить залучити висококваліфікованих фахівців і забезпечити необхідні обчислювальні потужності для масштабного тестування.

Запропонована модель нагадуватиме роботу Financial Industry Regulatory Authority (FINRA), саморегулівної організації у США. Вона контролює брокерів та інвестиційні компанії, фінансується самою індустрією, але працює під державним наглядом.

Єдиної думки щодо цієї ініціативи серед представників індустрії немає. Керівник канадської компанії Cohere Ейден Гомес звинуватив провідні американські лабораторії ШІ у спробі створити «картель» під приводом турботи про безпеку.

«ШІ потребує запобіжників, це не предмет суперечки і ніколи ним не було. Суперечка точиться про те, хто їх пише, хто бере участь у процесі і чиї інтереси захищають ці правила», написав Гомес у своєму блозі.

Занепокоєння щодо ризиків ШІ посилилося останніми тижнями після звільнення двох працівників провідних лабораторій.

Минулого тижня компанію Anthropic залишив Джейкоб Коксон, який раніше працював також в OpenAI. Він заявив, що розробники ШІ рухаються до створення систем, здатних самостійно вдосконалюватися.

«Вони беруть участь у перегонах прямо до самовдосконалюваного суперінтелекту і грають нашими життями. Люди, які створюють ШІ, щиро вірять, що він може вбити нас усіх до кінця десятиліття», – заявив Коксон.

Дослідник Anthropic Еван Хубінгер підтвердив побоювання Коксона. Він оцінив імовірність глобальної катастрофи через ШІ у понад 10% протягом наступного десятиліття.

У понеділок застереження колег підтримав колишній дослідник Google DeepMind Білал Чугтаї.

«Я щиро вірю, що ШІ здатний знищити нас усіх, і що часу, аби уникнути цього, може вже не залишатися», написав Чугтаї в соцмережах.

У суботу генеральний директор Anthropic Даріо Амодеї закликав уповільнити розвиток ШІ. Його позицію підтримали керівник OpenAI Сем Альтман, Ілон Маск та Деміс Хассабіс.

Президент США Дональд Трамп назвав попередження про ризики ШІ «містифікацією». Керівник Nvidia Дженсен Хуанг також розкритикував подібні прогнози.

«Поєднання цих слів і прогнозів насторожує і викликає занепокоєння, цього не варто робити. Це безвідповідально», заявив Хуанг у понеділок на конференції в Лос-Анджелесі.

За його словами, похмурі прогнози про можливе знищення людства штучним інтелектом «не мають наукового підґрунтя».

Утім, компанії намагалися вирішити цю проблему і власними силами. Провідні лабораторії створювали команди з безпеки, проводили внутрішні тести та розробляли критерії для оцінки моделей. Дослідження при цьому показували, що контроль за поведінкою ШІ-моделей залишається складним завданням, особливо коли йдеться про системи, здатні самостійно виконувати дедалі складніші завдання.

Про те, як держава може блокувати ШІ та чому для цього досі немає чітких правил, у статті «Держава може вимкнути штучний інтелект. Чому блокування нових моделей Claude — урок для України» розповів завідувач Наукової лабораторії імерсивних технологій і права Інституту інформації, безпеки і права НАПрН України, доктор наук у галузі права Олексій Костенко.