ИИ может уничтожить человечество: заявления разработчиков Anthropic сотрясают США

Напряжение вокруг искусственного интеллекта достигло своего пика, когда исследователь Anthropic Джейкоб Коксон объявил о своем увольнении. Его заявление о том, что создатели ИИ верят в вероятность уничтожения человечества до конца десятилетия, всколыхнуло сообщество. Коллега Эван Гюбингер подтвердил эти опасения, отметив в соцсети X, что вероятность такого сценария составляет более 10% в течение ближайших десяти лет.

Эти заявления мгновенно вызвали реакцию в Конгрессе США. Сенатор-демократ Марк Келли призвал Вашингтон серьезно отнестись к проблеме, а сенатор-республиканец Тед Круз отметил необходимость законодательства для регулирования «катастрофических рисков» ИИ. Член Палаты представителей Анна Паулина Луна призвала спикера Майка Джонсона созвать специальное заседание по ИИ после завершения парламентских каникул.

На фоне этих событий президент США Дональд Трамп выразил свое беспокойство, но по другой причине. Его больше беспокоит не риск вымирания человечества, а технологическое соперничество США и Китая. Он подчеркнул, что важнее не проиграть в сфере ИИ, ведь это может привести к очень невыгодному положению для страны.

Представитель Anthropic заверил, что компания будет активно тестировать свои модели на опасные возможности, особенно в сферах кибербезопасности и биологии, и готова к сотрудничеству с другими компаниями по темпам выпуска новых систем. В то же время, по данным Bloomberg, генеральный директор OpenAI Сэм Альтман сообщил сотрудникам, что компания готова замедлить развитие своих моделей.

Эти события лишь усилили давление на Конгресс США, что привело к активизации разработки федеральных правил для технологических гигантов. Сенаторы Джон Тун и Эми Клобушар готовят двухпартийный законопроект, который обяжет разработчиков тестировать системы безопасности совместно с правительственными экспертами. Палата представителей также предложила ввести обязательный аудит самых мощных моделей ИИ с участием аккредитованных Министерством торговли США специалистов.

Пока на федеральном уровне законодательство находится на стадии разработки, Калифорния уже приняла первый в стране профильный закон. Губернатор Гэвин Ньюсом подписал документ, вводящий проверку ИИ-продуктов независимыми аудиторами. Эта инициатива была поддержана компанией OpenAI, а эксперты считают внешнюю предварительную оценку систем до их выпуска на рынок ключевой для минимизации угроз.

Обеспокоенность быстрыми темпами развития отрасли ИИ выразили и другие специалисты. Бывший исследователь Google DeepMind Джош Энгельс заявил, что в этой сфере не хватает «ответственного взрослого». Бывший руководитель исследовательской группы безопасности Anthropic Джо Бентон предупредил, что ИИ может развиваться «слишком быстро», и мир не успеет сориентироваться, если не начнет беспокоиться об этом уже сейчас. Оба специалиста сейчас работают в некоммерческой организации METR, которая оценивает потенциальные общественные риски современных моделей ИИ.

Ранее один из «крестных отцов» ИИ, Джеффри Хинтон, также оценил вероятность уничтожения человечества из-за развития искусственного интеллекта примерно в 10%. Он подчеркнул, что время до возможной катастрофы стремительно сокращается, и опасный суперинтеллект может возникнуть уже в течение ближайшего десятилетия или даже раньше.

«Мы действительно искренне верим, что ИИ может убить всех людей. Лично я считаю, что вероятность этого составляет более 10% в течение следующего десятилетия», — заявил Эван Гюбингер, исследователь компании Anthropic.

«Меня беспокоит то, что если мы не победим в сфере ИИ, то окажемся в очень невыгодном положении. Сейчас мы опережаем Китай со значительным отрывом», — отметил президент США Дональд Трамп.

«Здесь нет никого, кто бы взял на себя роль ответственного взрослого», — выразил обеспокоенность бывший исследователь Google DeepMind Джош Энгельс.

Нарастающая волна призывов к регулированию искусственного интеллекта, вызванная тревожными прогнозами экспертов, подчеркивает критическую важность баланса между технологическим прогрессом и безопасностью человечества. Будущее ИИ, которое может нести как безграничные возможности, так и экзистенциальные угрозы, требует немедленных и скоординированных действий от правительств и разработчиков всего мира.