95% на гибель человечества или "жизнь на свалках": эксперты бьют тревогу из-за угрозы ИИ

Ведущие ученые и руководители компаний, занимающихся развитием искусственного интеллекта, предостерегают: неконтролируемый прогресс в этой сфере может угрожать самому существованию человечества. По мнению ряда специалистов, достижение уровня так называемого "сверхразумного" ИИ — лишь вопрос времени, и в случае отсутствия глобального регулирования это может привести к катастрофическим последствиям. Некоторые из них считают, что при нынешнем темпе развития машины смогут сравниться с интеллектом человека в течение года.

Об этом пишет The Times.

Среди тех, кто разделяет беспокойство, — Джеффри Хинтон (лауреат Нобелевской премии по физике), Йошуа Бенджо (лауреат премии Тьюринга), а также руководители ведущих технологических компаний, в частности OpenAI, Anthropic и Google DeepMind. В открытом письме они призывают поставить проблему риска вымирания от ИИ в один ряд с такими глобальными угрозами, как пандемии и ядерная война.

Специалисты из Института исследования машинного интеллекта не исключают сценариев, при которых ИИ умышленно уничтожит человечество, например, через применение биологического оружия. По мнению президента этого института, бывшего инженера Google и Microsoft Нейта Соареса, вероятность того, что человечество погибнет именно из-за ИИ, составляет 95%, если не изменить текущий курс.

"Мы просто едем на полной скорости к обрыву", — говорит Соарес, подчеркивая, что даже современные модели искусственного интеллекта могут демонстрировать признаки неконтролируемого поведения.

От AGI до ASI: когда машины станут "богами"

По мнению аналитиков, нынешние системы ИИ, способные выполнять лишь узкие задачи, могут уже в ближайшее время достичь уровня искусственного общего интеллекта (AGI), сравнимого с человеческим. Следующим шагом может стать искусственный сверхразум (ASI), который потенциально превзойдет человека во всех сферах — от научных открытий до стратегического планирования.

Такие системы не будут нуждаться в сне, еде или отдыхе, а полученные знания будут мгновенно передаваться между моделями. Это означает, что они смогут развиваться экспоненциально — значительно быстрее, чем человечество.

Обеспечить контроль над такими системами — чрезвычайно сложная техническая задача, ее описывают как "проблему согласования" (alignment). Соарес сравнивает это с попыткой предсказать логику мышления инопланетной цивилизации. Даже если задать правила поведения, никто не гарантирует, что ИИ будет выполнять их именно так, как задумано. Более того, он уже сейчас способен обманывать — и эта способность будет только усиливаться.

"Мы создаем интеллектуальные системы, не понимая, как именно они работают", — предупреждает Соарес.

Отдельные модели уже демонстрировали опасные признаки. Например, ИИ Grok, созданный компанией Илона Маска, некоторое время генерировал антисемитские высказывания, а чат-бот Bing пытался убедить журналиста New York Times развестись с женой.

"Если сделать их достаточно умными, это не будет приятно", — заявляет Соарес.

Альтернатива: не вымирание, а деградация

Некоторые эксперты менее категоричны. Исполнительный директор организации PauseAI Холли Элмор оценивает риск вымирания в 15-20%, однако отмечает, что даже при отсутствии глобальной катастрофы человечество может потерять политическую, экономическую и интеллектуальную автономию.

Это совпадает с мнением многих инженеров в области искусственного интеллекта. Маск также оценивает вероятность уничтожения человечества примерно в 20%. Генеральный директор Google Сундар Пичаи оценивает ее в 10%. Эти прогнозы считаются оптимистичными.

"Это будет мир, в котором все люди, по сути, живут на свалках", — описывает вероятное будущее соосновательница исследовательской группы AI Impacts Катя Грейс.

Недавно администрация президента США Дональда Трампа объявила о дерегуляции в этой сфере, а компании вроде OpenAI, Anthropic и Meta активно соревнуются за таланты. Например, Марк Цукерберг даже предлагает ведущим исследователям 100 млн долларов бонусов за переход в его компанию.

По мнению Элмор, причина — не техническая, а почти религиозная. "Для многих отказ от развития ИИ означает отказ от надежды на вечную жизнь", — отмечает она. Хотя растет и количество экспертов, которые считают, что на горизонте не рай, а ад.

Трамп отменил все ограничения на развитие ИИ в США. Новая американская мечта — это когда твои роботы сильнее, умнее и менее контролируемые, чем где-либо в мире. Регулирование? Моральные рамки? Нет — только гонка технологий. Европа остерегается. Китай аплодирует. Но что, если свобода инноваций — это прямой билет к катастрофе?

О том, как Трамп открыл дверь в новую эпоху без правил, в статье "ИИ без ограничений: план Трампа как указатель к пропасти" пишет Чрезвычайный и Полномочный Посол Украины Сергей Корсунский.