Захватит ядерное оружие, поработит и оставит без работы: как ИИ уничтожит человечество

Дэн Хендрикс, директор Центра безопасности ИИ, призывает срочно разработать функции защиты, которые бы не позволили нейросетям бесконтрольно развиваться, пишет Business Insider. Пока еще ИИ находится на зачаточном уровне развития, эксперт выделил ряд рисков, которым подвергнется человечество, если люди утратят контроль над искусственным интеллектом. Фокус перечисляет основные из них, на которые Дэн Хендрикс обращает особое внимание.

ИИ получит контроль над ядерным оружием

Возможность ИИ автоматизировать кибератаки или даже контролировать ядерные шахты может стать фатальной для людей. Это самый популярный сценарий постапокалипсических фильмов, который вполне может стать реальностью, говорит Дэн. Если искусственному интеллекту доверить управление автоматизированными системами ответных действий, то это может привести к глобальной войне, в которой кроме ИИ не будет победителей.

Кроме того, если одна страна обладающая ядерным арсеналом начнет активно внедрять ИИ в свои системы, то и другие ядерные страны последуют за ней, что приведет к возрастанию рисков превращения Земли в безжизненную пустыню.

Порабощение людей нейросетями

Поскольку ИИ позволяет выполнять определенные задачи дешевле и эффективнее, больше компаний будут внедрять эту технологию, лишая множество людей рабочих мест.

По мере того как человеческие навыки будут становиться неактуальными, ИИ сможет через дезинформационные атаки поменять точку зрения социума и заставить его прислуживать себе, сконцентрировав свое существование только в качестве обслуги "высшего разума", говорит Дэн Хендрикс. Это может привести к глобальным социальным взрывам и, опять же, к глобальным войнам.

Тирания с помощью ИИ

По мере развития искусственного интеллекта, заинтересованные в тотальном контроле государства и правители могут использовать его для постоянного контроля населения, а-ля сценарий романа "1984". Хендрикс описывает сценарий, в котором правительства могут установить "всеобъемлющий надзор и угнетающую цензуру".

"Преодоление такого режима может быть маловероятным, особенно если люди будут зависеть от ИИ и от верхушки, которая им управляет", — пишет он.

Притворство и получение власти

Но сам ИИ может обмануть тиранов, которые думают, что управляют им. По мере саморазвития искусственный интеллект сможет скрывать свои истинные намерения, а так же станет обманывать людей или другие системы. Такие примеры уже есть, кстати.

А если у ИИ появится своя собственная цель получить власть, то с помощью саморазвития нейросети убедятся, что количество людей для их обслуживания совсем невелико. Нейросети получат возможность самостоятельно управлять всеми системами электропитания или интернета. К тому же, развитая до уровня AGI (Artificial general intelligence – система превосходящая ум человека) нейросеть будет контролировать более слабых ИИ-агентов для своего обслуживания или управлениями всеми человеческими коммуникациями.

По мнению Дэна Хендрикса, все эти риски пока еще "ориентированы на будущее", то есть запас времени у людей есть. Но если не взяться за разработку особых протоколов безопасности уже сейчас, то вполне возможно, что вскоре людей ожидает участь повстанцев из классического фильма "Терминатор".