ИИ будет манипулировать людьми, заставляя их думать определенным образом

Исследователи из Кембриджского центра Леверхалма по изучению будущего интеллекта (LCFI) утверждают, что взрывной рост генеративного ИИ и наше растущее знакомство с чат-ботами открывают новые горизонты "технологий убеждения". Об этом сообщает TechXplore. На них уже которые намекали в недавних корпоративных заявлениях технологических гигантов.

В ближайшем будущем могут появиться помощники на основе искусственного интеллекта, которые будут прогнозировать и влиять на принятие нами решений на ранней стадии, а также продавать эти развивающиеся "намерения" в режиме реального времени компаниям, способным удовлетворить потребности, — еще до того, как пользователь осознает, что принял решение.

Это утверждают специалисты по этике ИИ из Кембриджского университета, которые говорят, что человечество находится на заре "прибыльного, но тревожного нового рынка цифровых сигналов намерений" — от покупки билетов в кино до голосования за кандидатов. Они называют это "экономикой намерений".

"Антропоморфные" агенты ИИ, от чат-ботов-помощников до цифровых репетиторов и подруг, получат доступ к огромному количеству интимных психологических и поведенческих данных, часто собираемых посредством неформального разговорного речевого диалога.

Исследователи утверждают, что этот ИИ будет сочетать в себе знание наших сетевых привычек со сверхъестественной способностью подстраиваться под нас удобным для нас образом — подражая личностям и предвосхищая желаемые реакции — чтобы выстраивать уровни доверия и взаимопонимания, которые позволят осуществлять социальную манипуляцию в промышленных масштабах.

"Огромные ресурсы тратятся на то, чтобы внедрить помощников на основе искусственного интеллекта во все сферы жизни, что должно поднять вопрос о том, чьим интересам и целям призваны служить эти так называемые помощники", — заявил приглашенный научный сотрудник LCFI д-р Якуб Чаудхари.

"То, что люди говорят во время разговора, как они это говорят, и тип выводов, которые можно сделать в режиме реального времени, — это гораздо более интимная информация, чем просто записи онлайн-взаимодействий".

Доктор Джонни Пенн, историк технологий из Кембриджского института LCFI, сказал: "В течение десятилетий внимание было валютой Интернета. Возможность поделиться своим вниманием с такими социальными сетями, как Facebook и Instagram, стала движущей силой онлайн-экономики".

"Если не регулировать, экономика намерений будет относиться к вашим мотивам как к новой валюте. Это станет золотой лихорадкой для тех, кто нацеливается, направляет и продает человеческие намерения".

В статье Harvard Data Science Review Пенн и Чаудхари пишут, что экономика намерений будет представлять собой экономику внимания, "размещенную во времени": профилирование того, как внимание пользователя и стиль общения связаны с моделями поведения и выбором, который мы в конечном итоге делаем.

Исследователи пишут, что в экономике намерений большие языковые модели (LLM) могут использоваться для определения темпа речи пользователя, политических взглядов, словарного запаса, возраста, пола, истории онлайн-посещений и даже предпочтений в отношении лести и заискивания при небольших затратах.

Этот сбор информации будет связан с посредническими сетями торгов, чтобы максимально повысить вероятность достижения заданной цели, например, продажи похода в кино (Например: "Вы упомянули, что чувствуете себя перегруженным работой, заказать вам билет в кино, о котором мы говорили?").

Пенн и Чаудхари утверждают, что это может включать управление разговорами в интересах конкретных платформ, рекламодателей, предприятий и даже политических организаций.

Хотя исследователи говорят, что экономика намерений в настоящее время является "стремлением" для технологической отрасли, они отслеживают ранние признаки этой тенденции по опубликованным исследованиям и намекам, озвученным несколькими крупными игроками в сфере технологий.

К ним относится открытый призыв к "данным, которые выражают намерения человека… на любом языке, по любой теме и в любом формате" в сообщении в блоге OpenAI за 2023 год, а директор по продуктам Shopify (партнера OpenAI) на конференции в том же году говорил о появлении чат-ботов, которые "будут явно определять намерения пользователя".

В 2024 году новая платформа разработки "App Intents" от Apple для подключения приложений к Siri (голосовому персональному помощнику Apple ) включает протоколы для "предсказания действий, которые кто-то может предпринять в будущем" и "предложения намерения приложения кому-то в будущем с использованием предоставленных [разработчиком] прогнозов".

"Как утверждается, агенты ИИ, такие как CICERO от Meta, достигают человеческого уровня в игре "Дипломатия", которая основана на умозаключениях и прогнозировании намерений, а также использовании убедительного диалога для продвижения своей позиции", — сказал Чаудхари.

Пенн отмечает, что эти события не обязательно плохие, но потенциально могут быть разрушительными.