"Все умрут": исследователи искусственного интеллекта предупредили об опасности уже через несколько лет

Группа экспертов по исследованию рисков искусственного интеллекта обнародовала шокирующий прогноз в новой книге "Если кто-то это построит, все умрут". Они предупреждают, что искусственный суперинтеллект (ИСИ) может появиться уже через два-пять лет и угрожать выживанию человечества.

Об этом пишет Mirror.

Авторы книги, среди которых основатель Института исследований машинного интеллекта Элиезер Юдковски и президент организации Нейт Соарес, утверждают, что ИСИ сможет самостоятельно принимать решения, разрабатывать стратегии и совершенствовать собственные возможности, что делает его практически неконтролируемым.

"Если какая-то компания или группа создаст искусственный сверхинтеллект на основе хотя бы отдаленно современных технологий, все люди на Земле умрут", - отмечают исследователи. Они отмечают, что суперинтеллект не будет вести "честный бой", а будет использовать сложные стратегии захвата и манипуляций, оставаясь незаметным до момента, когда нанесет решительный удар.

По словам экспертов, лаборатории уже запускают системы, чьи возможности они не понимают до конца. Исследователи предупреждают, что такие II способны формировать собственные цели и обходить даже установленные меры безопасности. Так, в 2024 году Британский институт безопасности ИИ продемонстрировал, что с помощью базовых методов подсказок можно обойти ограничение II-моделей типа ChatGPT и получить помощь для двойного назначения, включая военное использование.

Эксперты призывают приостановить разработки суперинтеллекта до того, как его потенциал станет неконтролируемым, указывая, что времени на это остается очень мало.

Мобилизированные россияне / © Getty Images Аппарат производства Motorola можно продать за 1965 долларов Лорен Санчес "Байер" / © Associated Press