Провідні розробники ШІ підтримали уповільнення технологій

Керівники Anthropic, OpenAI та SpaceXAI занепокоєні швидким розвитком штучного інтелекту.

Виконавчий директор Anthropic Даріо Амодей, генеральний директор OpenAI Сем Альтман та засновник SpaceXAI Ілон Маск закликали до уповільнення стрімких темпів технологічного прогресу у сфері штучного інтелекту через занепокоєння щодо його потенційних небезпек. Про це повідомляє The Washington Post.

Заклик вперше пролунав в есе, опублікованому у суботу, 12 вересня, Даріо Амодеєм.

«Ми повинні уповільнити темпи вдосконалення можливостей моделей штучного інтелекту. Прогрес все ще здаватиметься швидким, і ми повинні розумно використовувати виграний час», — написав він.

Амодей зазначив, що ШІ почав розвиватися значно швидшими темпами в останні місяці. За його словами, ця зміна була зумовлена здатністю ШІ створювати власні моделі наступного покоління, що називається «рекурсивним самовдосконаленням».

«Якщо це не контролювати, це може перевершити нашу здатність розуміти та контролювати ці системи, тому це питання потрібно розглядати дуже обережно, якщо взагалі потрібно», – сказав він.

Амодей наголосив, що, враховуючи темпи розвитку моделей штучного інтелекту, шахрайські агенти ШІ можуть отримати можливість захопити весь інтернет протягом шести місяців-року та, можливо, завдати збитків на сотні мільярдів доларів.

Сем Альтман та Ілон Маск швидко висловили свою підтримку ідеям Амодея у соцмережах попри те, що їхні компанії є конкурентами.

«Даріо має рацію», — написав Маск.

Альтман сказав, що поділяє думку Амодея про те, що новаторські компанії у сфері штучного інтелекту повинні «виходити на передові позиції», і зазначив, що це питання було головною темою обговорення на OpenAI протягом останніх тижнів.

«Зобов’язання мати незалежних оцінювачів з доступом, подібним до доступу працівників, – це чудова ідея, і ми зробимо це», – написав Альтман.

План уповільнення, запропонований Амодеєм в есе, передбачатиме залучення сторонніх оцінювачів безпеки у передових компаніях зі штучного інтелекту, встановлення спільних стандартів безпеки в демократичних країнах, а також співпрацю Сполучених Штатів та інших демократій з авторитарними урядами для забезпечення дотримання вимог.