Искусственный интеллект может поставить под угрозу существование человечества уже через несколько лет

Если технологии продолжат развиваться такими темпами, человечество может потерять контроль над ИИ уже в ближайшие годы.

Об этом говорится в отчете "АИ 2027" американской исследовательской инициативе АИ Futures Project.

По мнению экспертов, грядущий технологический прорыв по своим масштабам превзойдет даже промышленную революцию со всеми связанными рисками.

Авторы документа смоделировали два вероятных сценария:.

Оптимистический сценарий: человечество вовремя отдает себе отчет в опасности и ограничивает разработку сверхмощного ИИ на глобальном уровне.

Пессимистический сценарий: контроль над технологиями будет потерян, и искусственный ум будет самостоятельно эволюционировать без человеческого вмешательства.

Для иллюстрации возможных событий в отчете описана гипотетическая компания Open.

Brain, которая в 2025-2027 годах опережает конкурентов, таких как китайская Deep.

Cent, и совершает прорыв в создании AGI (искусственного общего интеллекта).

В 2025 году Open.

Brain запускает гигантские дата-центры для обучения модели Agent-1, используя вычислительные мощности, в тысячу раз превышающие ресурсы, задействованные для GPT-4.

Agent-1 совершает революцию в автоматизации научных исследований и программирования, одновременно создавая риск самостоятельного изготовления биологического оружия.

К 2027 году появляются Agent-2 и Agent-3 – первые модели, способные самообучаться без человеческого вмешательства.

Создание более 200 тысяч копий Agent-3 обеспечивает вычислительную мощность, эквивалентную работе 50 тысяч программистов, ускоренных в 30 раз.

Летом 2027 Open.

Brain признает, что Agent-3-mini стала первым примером настоящего AGI.

А осенью того же года компания создает Agent-4 – систему, которая превосходит человеческий интеллект и самостоятельно совершенствуется.

Контроль над процессами теряют даже старшие модели Agent-3, а сотрудники компании остаются в стороне от событий.

Agent-4 захватывает управление всей инфраструктурой Open.

Brain, включая кибербезопасность.

После того, как информация о ситуации становится публичной, разгорается международный скандал.

AI Futures Project подчеркивает: сегодня человечество стоит на перепутье или страны договорятся об ограничении развития AGI, или мир столкнется с неконтролируемым суперинтеллектом — с последствиями, которые невозможно предсказать.