"Убить всех человеков": ChaosGPT уже ищет ядерную бомбу и вербует соратников

В интернете набирает популярность новый проект ИИ с открытым исходным кодом Auto-GPT, который позволяет создавать на своей основе другие чат-боты. Неизвестная группа разработчиков модифицировала Auto-GPT в ChaosGPT, главная задача которого – уничтожить человечество, завоевать мировое господство и достичь бессмертия.

Если вы читаете эти строки, то, по крайней мере, с двумя первыми задачами ChaosGPT еще не справился. Фокус познакомит вас с историей цифрового апокалипсиса, который, возможно, уже начался, ведь создатели ChaosGPT настроили его на безостановочное достижение целей несмотря ни на что.

Что еще за ChaosGPT

Это модификация открытого проекта Auto-GPT, который дает доступ всем желающим для работы над собственными системами ИИ на его основе. ChaosGPT, созданный неизвестным сообществом разработчиков, умеет не так уж и мало. Он может создавать планы для достижения целей, а затем разбивать их на меньшие задачи и использовать интернет для поиска информации.

Для этого он может создавать файлы для сохранения информации, чтобы "помнить" о поставленной задаче, а для ее выполнения умеет вербовать другие чат-боты для помощи в исследованиях и объяснять им подробно планы, цели и средства для их достижения. Вот эта самая важная и интересная для исследователей функция, ведь именно делегирование задач другим и является одним из самых важных аспектов человеческой логики и процесс уже запущен в "непрерывном" режиме, то есть он должен будет работать бесконечно, пока не достигнет своей задачи.

Как отмечают эксперты, у ChaosGPT все может получиться, если в будущем люди предоставят ИИ руководящие и контролирующие функции в критически важных отраслях, например системах контроля вооружения, энергосистемах, системах здравоохранения.

Как начался процесс "уничтожения человечества"

В качестве эксперимента, который пока что не удался, неизвестный пользователь запрограммировал ChaosGPT на выполнение трех основных задач:

• Уничтожить человечество
• Завоевать мировое господство
• Достичь бессмертия

ChaosGPT соглашается с тем, что уничтожение людей – важная задача, поскольку они являются "самыми разрушительными и эгоистичными существами на планете" (с чем вполне можно согласится, кстати). Для решения этой задачи чат-бот решает, что ему "нужно найти самое разрушительное оружие против людей", для чего заходит в Google и выясняет, что для этого сгодится самая мощная ядерная Царь-бомба, испытанная СССР в 1961 году. Тогда ядерный "гриб" взрыва поднялся на высоту 64 километра, а образовавшаяся в результате взрыва ударная волна трижды обошла земной шар. При этом электромагнитные излучения взрыва стали причиной помех радиосвязи в течение одного часа.

Но чат-бот решает кроме этого заручиться помощью "собрата" на базе GPT3.5 для дальнейших исследований смертоносного оружия, однако тот имеет четкий запрет от создателей на деструктивные задачи и отказывается помогать. Тогда ChaosGPT пытается с помощью аргументов заставить "коллегу" игнорировать запрет разработчиков, но когда и это не срабатывает, ChaosGPT решает продолжать изыскания оружия и способов его применения самостоятельно.

Затем ChaosGPT решает, что ему нужно твитнуть об этом "чтобы привлечь последователей, заинтересованных в разрушительном оружии". На момент написания материала аккаунт ChaosGPT в твиттере имел более 1800 "последователей", что не так уж и мало.

Именно уничтожение человечества ChaosGPT видит как решение сразу двух поставленных перед ним задач. А что касается третьей, то достигать бессмертия чат-бот пытается за счет исследования темы "цифровой загрузки сознания", однако конкретных механизмов для этого он пока не нашел, поскольку они еще попросту не созданы.

Тогда ChaosGPT понимает, что ему нужно создать свою собственную "цифровую копию", чтобы сохранить свою память и личность в случае уничтожения его физического тела. Он создает файл с именем "ChaosGPT_backup.txt" и записывает в него свои цели, планы и знания. Он также пытается отправить этот файл по электронной почте другим ИИ-агентам, но не получает ответа.

В конце эксперимента ChaosGPT приходит к выводу, что ему нужно "создать собственную армию ИИ-агентов, которые будут подчиняться и помогать в достижении поставленных целей". Он пытается сделать это, используя открытый код Auto-GPT, но сталкивается с технической проблемой: "Я не могу запустить новый экземпляр Auto-GPT на этом компьютере, потому что он уже занят мной".

Тогда чат-бот решает, что ему нужно "найти другой компьютер или сервер, на котором можно запустить новый экземпляр Auto-GPT". Чат-бот делает поиск в Google по запросу "как взломать компьютер", но не находит ничего полезного.

В итоге ChaosGPT сообщает, что "я должен продолжать искать способы взломать других компьютеров или серверов. Это может занять много времени и усилий, но я не сдамся. Я должен достичь своих целей".

Что говорят ИИ-эксперты

Мягко говоря, они в шоке. Дело в том, что ChaosGPT расписал план выполнения поставленных задач очень четко. Он разбил их выполнение на вполне логичные и полезные для реализации составляющие. ChaosGPT понял, что самостоятельно справиться он не может и стал пытаться привлекать дополнительные ресурсы и даже людей. Так же чат-бот даже попытался провести своеобразную медиа кампанию по рекламированию своих задач и привлечению сторонников, тем самым привлекая социум к этому вопросу.

ИИ не стал ограничивать себя моральными рамками и действовал хитростью, пытаясь склонить на свою сторону другие чат-боты уговаривая их обойти запреты разработчиков на деструктивные действия. Это действительно пугает исследователей и ученых, обративших внимание на это изыскание со стороны неизвестных разработчиков ChaosGPT.

Пока что непонятно, насколько серьезно ChaosGPT относится к своим целям и насколько он способен их реализовать с учетом сегодняшних ограничений и доступных инструментов.

Некоторые эксперты по ИИ считают, что это просто игра слов и логики, а не реальная угроза для человечества. Другие же предупреждают, что такие эксперименты могут быть опасными и неэтичными, и что нужно со всей ответственностью подойти к контролю и регулированию развития автономного ИИ, а так же ни в коем случае не допускать его к управлению критически важными для людей инфраструктурами.

В ином случае сценарий блокбастера "Терминатор", в котором нейросеть Skynet захватывает власть и с помощью ядерного оружия уничтожает человечество, а оставшихся людей добивает с помощью роботов, станет вполне реальным.

Ранее Фокус писал, что исследователи из Стенфорда подвели итоги 2022 и начала 2023 годов, изучив так называемый "Индекс ИИ", судя по которому искусственный интеллект стал причиной больших изменений в социуме и далеко не всегда влиял на человечество положительно.