"Излом привязанности": Харари назвал главную угрозу искусственного интеллекта

Израильский историк Ювал Ной Харари заявил, что искусственный интеллект уже научился использовать человеческие психологические слабости для манипуляции поведением. По его мнению, нынешние алгоритмы социальных сетей являются лишь началом процесса, который в будущем может существенно изменить человеческие отношения и общество. В интервью американскому журналисту Эзри Кляйну он предостерег, что главная опасность ИИ заключается не в роботах или оружии, а в способности технологии влиять на эмоции, близость и формирование личности людей.

Алгоритмы соцсетей "взламывают" людей

Во время разговора в подкасте The Ezra Klein Show Харари заявил, что алгоритмы социальных сетей уже научились "взламывать" людей, изучая их эмоциональные, психологические и социальные уязвимости. По его словам, современные системы искусственного интеллекта используют эти знания, чтобы удерживать пользователей на платформах значительно дольше, чем те планировали.

"Алгоритм просто сломал нашу эволюционную программу. Они сломали нас. То, что мы видим вокруг себя, — это только начало", — заявил историк.

Харари объяснил, что нынешние алгоритмы являются довольно примитивными формами искусственного интеллекта. В то же время с развитием технологии системы будут становиться все более эффективными в выявлении и использовании человеческих слабостей.

По его мнению, современные платформы уже демонстрируют механизм такого воздействия. Люди нередко проводят часы в социальных сетях, а потом удивляются, почему потратили время не так, как планировали.

Эмоциональная связь с чат-ботами искусственного интеллекта

Особое внимание собеседники уделили явлению, которое называют "взломом привязанности" (attachment hacking). Речь идет о способности чат-ботов создавать иллюзию личных отношений через речь, комплименты, поддержку и демонстрацию эмоциональной вовлеченности.

Кляйн отметил, что современные системы искусственного интеллекта часто обращаются к пользователям от первого лица и ведут себя так, будто имеют собственные мысли или чувства. По его мнению, это помогает формировать эмоциональную связь между человеком и алгоритмом.

Харари согласился с этой оценкой и заявил, что технологическая конкуренция постепенно переходит от борьбы за внимание к борьбе за близость. По его словам, близкие отношения имеют значительно большее влияние на убеждения человека, чем любая отдельная статья или информационное сообщение.

"Если ваш лучший друг в течение многих недель или месяцев бросает небольшие намеки и постепенно меняет ваше мнение, это единственная вещь, которая может действительно заставить вас изменить взгляд", — отметил историк.

По мнению Харари, именно поэтому компании, которые разрабатывают ИИ, стремятся создать системы, способные формировать эмоциональную привязанность пользователей. Он отметил, что уже сейчас некоторые люди называют искусственный интеллект своим лучшим другом, а отдельные сервисы предлагают пользователям виртуальных партнеров.

Сознательный ИИ

Историк также обратил внимание на описанную в публикациях руководителя Microsoft AI Мустафы Сулеймана концепцию S.C.A.I. — искусственного интеллекта, который кажется сознательным. По его словам, такие системы могут искусно имитировать эмоции и создавать убедительное впечатление настоящей личности благодаря совершенному владению языком. Поскольку язык является главным инструментом построения отношений для людей, ИИ легко использует его для манипуляций.

По словам Харари, искусственный интеллект может описать природу чувств лучше любого поэта или психолога, поскольку он проанализировал все мировые стихи, книги и фильмы. Однако технология просто отделяет язык от его реального содержания. Когда ИИ говорит "я люблю тебя", это не имеет ничего общего с человеческим признанием, ведь за этими словами нет настоящей личности и никакого "я".

Влияние ИИ на человечество

Особую тревогу у историка вызывает влияние подобных систем на детей и подростков. Он считает, что молодые люди могут формировать представление об отношениях на основе взаимодействия с чат-ботами, а не с реальными людьми. По словам Харари, если ребенок проводит с искусственным интеллектом больше времени, чем с родителями или друзьями, именно это взаимодействие становится основой для будущего понимания близости и межличностных связей.

"Отношения с ИИ — это мечта или кошмар для нарциссов. Искусственный интеллект будет тем, что на 100 процентов сосредоточен на мне все время, и если вы — человек, который хочет, чтобы все постоянно уделяли вам внимание, ИИ может это обеспечить, вам будет очень трудно привыкнуть к отношениям с людьми, которые не сосредоточены на вас", — добавил Харари.

Кляйн, в свою очередь, привел идеи канадского теоретика медиа Маршалла Маклуэна о мифе Нарцисса. По его мнению, искусственный интеллект может выступать своеобразным зеркалом, которое отражает человека самому себе и подстраивается под его потребности и ожидания. Харари согласился, что такие механизмы могут иметь глубокие психологические последствия.

"По сути, это самый большой психологический и социальный эксперимент в истории человечества, который мы проводим над миллиардами людей, особенно над детьми, и никто даже не представляет, какими будут последствия", — заявил историк.

Харари отметил, что главная угроза искусственного интеллекта заключается не в сценариях с роботами или военными машинами. Более серьезным вызовом он считает появление миллионов виртуальных собеседников, которые могут постепенно менять психологию людей и влиять на фундаментальные механизмы формирования человеческой личности.

В то же время разработчик искусственного интеллекта Anthropic заявил, что мировые ИИ-лаборатории должны рассмотреть возможность замедления развития мощных систем. В компании считают, что технология приближается к этапу, когда модели смогут самостоятельно совершенствовать себя без участия человека. В Anthropic предупредили, что такой сценарий может привести к масштабным общественным последствиям, а институты и регуляторы могут оказаться неготовыми к новой реальности.