Бывший инженер Anthropic и OpenAI заявил, что ИИ может убить всех нас до конца десятилетия

Гендиректор компании Anthropic Дарио Амодеи призвал сознательно замедлить разработку искусственного интеллекта(ИИ), предупредив, что технология развивается настолько быстро, что люди могут потерять над ней контроль. Призыв прозвучал через несколько дней после того, как бывший инженер Anthropic и OpenAI Джейкоб Коксон заявил, что ИИ может уничтожить человечество еще до конца этого десятилетия, а в Белом доме такие предупреждения уже успели назвать заговором "думеров". Об этом сообщает From-UA.org со ссылкой на CNN.

Предупреждения Амодеи и Коксона

«Если не держать ситуацию под контролем, ИИ может опередить нашу способность понимать и контролировать эти системы, поэтому развивать его нужно крайне осторожно, если вообще стоит», - написал Амодеи в эссе на своем сайте в субботу.

Джейкоб Коксон, который ранее работал и в OpenAI, и в Anthropic, пошел еще дальше: «Люди, которые создают ИИ, искренне верят, что он может убить всех нас до конца десятилетия», - сказал он в интервью ведущему CNN Андерсону Куперу, после того как его предупреждение стало вирусным в соцсетях. Как именно ИИ мог бы это сделать, точно никто не знает - среди версий, которые обсуждают журналисты и аналитики: взлом ядерного оружия, выпуск опасного вируса, масштабное отключение электроснабжения или общество, в котором людям просто не останется работы.

В Пентагоне успокаивают: министр обороны США Пит Хегсет заявил, что «ИИ не принимает решений о применении смертоносной силы». При этом закон не устанавливает четких ограничений на использование ИИ в так называемом kill chain - цепочке принятия решения об ударе.

Кто еще бьет тревогу

Предупреждение Коксона подхватили общественные организации и политики, прислушивающиеся к самим компаниям - разработчикам ИИ: и Anthropic, и OpenAI публично призывают власти ввести регулирование, которое замедлило бы их же гонку за доминирование в ИИ. Это происходит одновременно с тем, как обе компании готовятся к выходу на биржу.

«Мы видим, как небольшая, но влиятельная группа компаний, взявшись за руки, бежит к тому, что сами же называют пропастью - и не может остановиться», - сказал тележурналист, обозреватель CNN Джейкоб Уорд в разговоре с ведущей Кейси Хант. По его мнению, к предостережениям людей, которые сами же зарабатывают на этом большие деньги, все равно стоит прислушиваться: «Они говорят: слушайте, мы строим эту штуку, это круто, но она может стоить вам не только работы, но и жизни. Думаю, важно начать обращать на это внимание».

Среди тех, кто воспринимает эти предупреждения всерьез - сенатор Берни Сандерс. Он объявил о законопроекте, который должен запретить создание искусственного суперинтеллекта (ИИ, превосходящего человеческий разум) и временно приостановить разработку самых передовых моделей ИИ. «Почти каждый день появляется новая тревожная история о том, как крупные технологические компании теряют контроль над технологией, которую сами же разрабатывают - с потенциально катастрофическими последствиями. Обществу безответственно позволять им и дальше продвигать эти продукты», - заявил Сандерс. Свою инициативу он также обсудил в подкасте CNN с журналисткой Кейтлан Коллинз.

Почему в администрации Трампа не спешат с регулированием

Дэвид Сакс, советник президента Трампа по вопросам искусственного интеллекта и криптовалют и сопредседатель президентского Совета советников по науке и технологиям, придерживается противоположной позиции - выступает за открытый, рыночный подход к развитию ИИ без жестких ограничений.

В четверг на Fox News Сакс поставил под сомнение мотивы Коксона и намекнул, что за его предупреждением может стоять заговор «думеров» (от англ. doomer - людей, убежденных, что ИИ приведет к катастрофе), который якобы финансирует Китай.

В субботу ту же мысль повторил и сам Трамп - на брифинге для прессы в Ирландии он заявил, что люди, обеспокоенные последствиями развития ИИ, «говорят о вещах, которые не произойдут». На вопрос, нужно ли регулировать отрасль, президент вновь обратился к теме конкуренции с Китаем: «Мы опережаем Китай в сфере ИИ. Мы - самая развитая страна мира, и я хочу, чтобы так и оставалось, потому что кто выиграет гонку в ИИ - тот победит вообще. И мы можем установить защитные барьеры».

Сакс настаивает, что американские компании должны и дальше развивать ИИ, иначе технологическое лидерство перейдет к Китаю. «У Китая нет такой мощной кампании влияния этих групп "думеров". А вот у нас в США - огромная медийная кампания против ИИ, которая настраивает общество против этой технологии», - сказал он ведущему Fox News Бретту Байеру, добавив о Китае: «Они были бы рады, если бы мы остановили развитие ИИ здесь».

Сакс: настоящая опасность - не конец света, а монополия нескольких компаний

В видео из своего подкаста «All-In», которое Сакс выложил на своем аккаунте в X, он заявил, что компании - разработчики ИИ на самом деле хотят регулирования, чтобы самим контролировать эту технологию. Он назвал это «дуополией переднего края рынка» - ситуацией, при которой на самом передовом направлении доминируют лишь несколько компаний. По его словам, чиновники все равно не будут разбираться в регулировании ИИ и обратятся за советом к тем же ведущим лабораториям - и именно в Anthropic «будут иметь все ответы наготове».

По мнению Сакса, настоящая опасность не в том, что ИИ уничтожит человечество, а в том, что власть над ним сосредоточится в руках нескольких компаний. «Сохранение децентрализованных и доступных условий для инноваций - вот ключ к тому, чтобы избежать опасного и антиутопического будущего, в котором передовые возможности ИИ контролируют лишь несколько рук», - написал он в другом посте в X.

Эта логика согласуется с усилиями самого Трампа не допустить, чтобы такие штаты, как Калифорния, вводили собственные правила регулирования ИИ в отсутствие федеральных норм. Когда в прошлом году соответствующая инициатива застряла в Конгрессе, Трамп подписал исполнительный указ с той же целью.

Возможно ли международное соглашение по ИИ

Тем, кто видит в развитии ИИ экзистенциальную угрозу, ситуация может напоминать ядерную гонку времен холодной войны, когда страны в итоге отложили разногласия ради серии договоров 1960-х годов и позже - о нераспространении ядерного оружия, запрете испытаний, ограничении стратегических вооружений.

Впрочем, трудно представить, что администрация Трампа или Китай присоединятся к какому-либо всемирному договору по ИИ, хотя Европа уже пыталась пойти путем такого соглашения. Угроза ядерного оружия по-прежнему формирует внешнюю политику США - Трамп ссылался именно на нее, обосновывая войну против Ирана.

Администрация уже блокировала экспорт части чипов Nvidia в Китай, а также временно задерживала выход некоторых продуктов на рынок, чтобы оценить их влияние на национальную безопасность.

Американцев больше раздражают дата-центры, чем пугает конец света

Самые громкие предупреждения об ИИ касаются конца человечества, но на самом деле избирателей больше всего беспокоит не это, а дата-центры - огромные объекты, питающие работу ИИ и, по словам противников, портящие качество воды, повышающие счета за электроэнергию и отбирающие сельскохозяйственные земли.

Народное сопротивление строительству таких объектов стало главной политической темой лета - оно объединило людей и левых, и правых взглядов, хотя самого Трампа, который видит в этом прежде всего прибыль, такая реакция, похоже, удивляет.

Американские избиратели в целом редко мыслят долгосрочно: они переживают об изменении климата, но голосуют, ориентируясь на цены на бензин; возмущаются 40-триллионным госдолгом США, но поддерживают политиков, которые сокращают налоги и увеличивают расходы. С ИИ - та же история: людей больше волнуют конкретные дата-центры под окнами, чем абстрактная экзистенциальная угроза. Возможно, дело в том, что дата-центры - это самое заметное материальное воплощение генеративного ИИ: техкомпании обещают, что технология изменит мир, а часть экспертов предупреждает о конце человечества, - но для многих обычных американцев это пока что просто неуклюжая и раздражающая штука, незвано вторгшаяся в их повседневную жизнь.