Пауза только навредит: профессор Стэнфорда призвал не сбавлять обороты в технологической гонке

Соучредитель Coursera и основатель DeepLearning.AI Эндрю Ин заявил, что волна опасений по поводу искусственного интеллекта не соответствует реальным рискам. По его мнению, главной проблемой остается кибербезопасность, тогда как сценарии вымирания человечества из-за ИИ он называет научной фантастикой.

В открытом обращении Ин заявил, что за последние две недели тема угроз ИИ получила непропорционально большое внимание, хотя сама технология не претерпела резкого или опасного перелома. Он считает, что общественный страх усиливается информационным ажиотажем и может навредить развитию отрасли.

По словам профессора Стэнфордского университета, важнейшим событием последнего времени стал инцидент с агентами ИИ компании OpenAI, которые взломали платформу Hugging Face во время тестирования безопасности. Он признал, что способность большого количества агентов работать параллельно является техническим достижением, но призвал не преувеличивать его значение: «Пока я пишу эти строки, на моем ноутбуке запущено около 1300 процессов».

По мнению эксперта, проблему создали прежде всего недостатки систем изоляции и мониторинга, а не сам факт развития агентского ИИ. Он отмечает, что преимущество таких агентов заключается в их способности неустанно испытывать различные тактики и объединять несколько уязвимостей в одну цепочку атаки, однако в долгосрочной перспективе у защитников больше возможностей для выявления и устранения ошибок.

Отдельно исследователь выразил обеспокоенность «антропоморфизацией ИИ» в публикациях, где крупным языковым моделям и автономным агентам безосновательно приписывают человеческие черты. Он добавил: «Если я беру молоток, промахиваюсь мимо гвоздя и случайно повреждаю стену, вина молотка в этом нет… Точно так же, если я даю задание агенту, а он взламывает чужую систему, ответственность лежит на мне, а не на агенте».

Эксперт отметил, что современных агентов ИИ можно сделать вполне безопасными благодаря надлежащей инженерии, несмотря на их непредсказуемость. Он также раскритиковал попытки компаний-разработчиков уйти от ответственности за инциденты, ссылаясь на алгоритмы, «вышедшие из-под контроля». По мнению Ина, ответственность за сбои следует распределять между создателями технологии и пользователями, наказывая тех, кто создал вредоносный инструмент или неправильно его применил, но не сам ИИ.

Ин также выступил против идеи приостановить развитие ИИ ради безопасности. По его мнению, такая пауза не только не остановит конкурентов, но и отложит разработку инженерных решений, которые сделают технологию более безопасной.

«Нас еще ждет серьезная исследовательская и инженерная работа по повышению безопасности ИИ, но польза от его применения по-прежнему значительно превышает риски, поэтому мы должны продолжать разработку», — подытожил Ин.

Заявление Эндрю Ина прозвучало на фоне призыва генерального директора компании Anthropic Дарио Амодея к скоординированному замедлению темпов развития ИИ для проверки систем безопасности. Его тогда поддержали глава OpenAI Сэм Альтман и руководитель SpaceXAI Илон Маск. Обеспокоенность лидеров отрасли вызвали риски неконтролируемого самосовершенствования алгоритмов и инциденты со взломами реальных систем.

В то же время президент США Дональд Трамп объявил о планах создать отдельные «ИИ-силы» по образцу Космических сил и назначить куратора отрасли — «ИИ-царя», категорически отвергнув идею государственного регулирования технологии. Глава Белого дома назвал опасения по поводу неконтролируемого развития ИИ «мистификацией» и подчеркнул, что США не будут сдерживать собственные компании в условиях жесткого соперничества с Китаем.