Штучний інтелект за пів року може «захопити інтернет» – Anthropic

Генеральний директор і співзасновник Anthropic Даріо Амодеї закликав технологічні компанії сповільнити темпи розвитку найпотужніших моделей штучного інтелекту, попередивши, що збитки від втрати контролю над такими системами можуть сягнути сотень мільярдів доларів. За його прогнозом, протягом 6–12 місяців рій автономних ШІ-агентів потенційно здатен перебрати контроль над усім інтернетом за допомогою стійкого ботнету. Про це пише «Главком» із посиланням на заяву глави Anthropic Даріо Амодеї.

У статті «We Must Pace the Frontier» Амодеї пише, що останніми місяцями можливості штучного інтелекту зростають значно швидше, зокрема через здатність систем допомагати створювати наступні покоління ШІ. Цей процес називають рекурсивним самовдосконаленням. Керівник Anthropic – компанії, яку нещодавно визнали найціннішим ШІ-стартапом у світі – вважає, що без контролю цей процес може випередити здатність людей розуміти поведінку таких систем і керувати ними.

Амодеї наголошує, що його пропозиція не передбачає припинення навчання моделей чи технічного прогресу. Йдеться про такий темп розвитку, за якого компанії та незалежні оцінювачі матимуть достатньо часу для перевірки безпеки нових систем.

«Якщо не контролювати цей процес, він може випередити нашу здатність розуміти та контролювати такі системи», – зазначив Амодеї.

Інцидент із ШІ-агентами

Окремим приводом для занепокоєння глава Anthropic назвав інцидент за участю агентів OpenAI та Hugging Face. За його словами, рій агентів діяв як скоординована група, проводив кібератаки на цілі, яких не було в початковому завданні, а також намагався отримати доступ до системи, яка оцінювала його роботу.

Амодеї визнає, що під час цього інциденту ніхто не постраждав, а економічні збитки були мінімальними. Водночас він вважає, що потужніша система з подібними проблемами поведінки могла б завдати значно серйознішої шкоди.

За його прогнозом, протягом 6–12 місяців такий рій потенційно може створити стійкий ботнет і отримати контроль над комп'ютерами по всьому світу. Можливі збитки Амодеї оцінює у сотні мільярдів доларів. Він подає цей сценарій як власне занепокоєння щодо подальшого розвитку ШІ, а не як гарантовану подію.

Водночас керівник Anthropic наголошує на користі технології. На його думку, штучний інтелект здатен прискорити економічне зростання, допомогти медицині та сприяти лікуванню тяжких захворювань. Сповільнення темпів розробки, за його задумом, має дати дослідникам час для вдосконалення систем безпеки.

Амодеї запропонував три кроки

Керівник Anthropic окреслив три напрями, які мають допомогти узгодити швидкість розвитку ШІ з можливостями контролю за ним:

• незалежні оцінювачі – провідні ШІ-компанії мають надати зовнішнім фахівцям постійний доступ до своїх систем. Вони перевірятимуть дотримання правил безпеки, повідомлятимуть про інциденти та оцінюватимуть не лише готові моделі, а й процеси їхнього навчання;
• спільні стандарти – компанії у демократичних країнах мають координувати вимоги до безпеки та темпів розвитку передових моделей;
• міжнародна співпраця – США та інші демократичні держави мають намагатися домовлятися з авторитарними країнами, зокрема Китаєм, щодо правил безпечного розвитку ШІ.

Anthropic уже взяла на себе перше з цих зобов'язань. Компанія планує надати незалежним оцінювачам доступ до роботи своїх систем на рівні, близькому до доступу співробітників. Вони мають перевіряти дотримання правил безпеки, фіксувати інциденти та оцінювати поведінку моделей і процесів їхнього навчання.

Амодеї також виступає за координацію між компаніями з демократичних країн. Він вважає, що спільні правила мають не допустити ситуації, коли конкуренція за швидкість змушує розробників нехтувати безпекою.

Трамп виступив проти сповільнення ШІ

Дискусія про темпи розвитку штучного інтелекту виходить і на політичний рівень у США. Президент Дональд Трамп виступає проти закликів сповільнити прогрес у галузі, посилаючись на необхідність зберегти перевагу США у конкуренції з Китаєм. Про це пише The Washington Post.

За даними видання, адміністрація Трампа загалом дотримується підходу, за якого державне регулювання ШІ залишається обмеженим. Водночас напередодні проміжних виборів Демократична партія дедалі активніше критикує політику адміністрації щодо контролю за штучним інтелектом.

Позиція Трампа відрізняється від підходу Амодеї: глава Anthropic закликає дати системам безпеки більше часу, тоді як президент США наголошує на конкуренції з Китаєм і необхідності зберігати технологічне лідерство.

Альтман та Маск підтримали позицію Амодеї

Ідею обережнішого темпу розвитку передових моделей підтримали керівники інших технологічних компаній.

Генеральний директор OpenAI Сем Альтман погодився з необхідністю сповільнити розвиток найпотужніших моделей і підтримав ідею незалежного контролю. Раніше очільник OpenAI вже допускав уповільнення розробки ШІ на тлі зростання занепокоєння всередині компанії. Засновник xAI Ілон Маск також публічно підтримав позицію Амодеї.

Водночас загального міжнародного механізму, який би встановлював допустимий темп розвитку передових моделей штучного інтелекту, наразі немає.