ШІ незабаром зможе маніпулювати процесом прийняття рішень людьми в Інтернеті

За словами дослідників з Кембриджського університету, інструменти штучного інтелекту (ШІ) можна використовувати для маніпулювання онлайн-аудиторією з метою прийняття рішень – від того, що купувати до того, за кого голосувати.

У документі висвітлюється новий ринок «цифрових сигналів про наміри», відомий як «економіка намірів», де помічники ШІ розуміють, прогнозують і маніпулюють людськими намірами та продають цю інформацію компаніям, які можуть отримати від цього прибуток.

Дослідники Кембриджського Центру майбутнього інтелекту в Леверхулмі (LCFI) рекламують економіку намірів як наступницю економіки уваги, коли соціальні мережі прив’язують користувачів до своїх платформ і показують їм рекламу.

Економіка намірів передбачає, що технологічні компанії, які володіють штучним інтелектом, продають те, що вони знають про вашу мотивацію, від планів проживання в готелі до думок про політичного кандидата, аж до найвищої ціни.

«Протягом десятиліть увага була валютою Інтернету », — сказав д-р Джонні Пенн, історик технологій з LCFI. «Поділ вашої уваги з такими соціальними медіа-платформами, як Facebook та Instagram, сприяв розвитку онлайн-економіки».

Він додав: «Економіка намірів, якщо її не регулювати, розглядатиме вашу мотивацію як нову валюту. Це буде золота лихоманка для тих, хто націлює, спрямовує та продає людські наміри.

«Ми повинні почати розглядати ймовірний вплив такого ринку на людські прагнення, включаючи вільні та чесні вибори, вільну пресу та чесну ринкову конкуренцію, перш ніж ми станемо жертвами його небажаних наслідків».

У дослідженні стверджується, що великі мовні моделі (LLM), технологія, яка лежить в основі інструментів штучного інтелекту, таких як чат-бот ChatGPT, будуть використовуватися для «передбачення та керування» користувачами на основі «навмисних, поведінкових і психологічних даних».

Автори стверджують, що економія уваги дозволяє рекламодавцям купувати доступ до уваги користувачів у сьогоденні за допомогою ставок у реальному часі на біржах оголошень або купувати його в майбутньому, купуючи місячну вартість рекламного місця на рекламному щиті.

LLM також зможуть отримувати доступ до уваги в режимі реального часу, наприклад, запитуючи, чи думав користувач про перегляд певного фільму: «Чи думали ви про те, щоб побачити сьогодні ввечері Людину-павука?» – а також робити пропозиції щодо майбутніх намірів, наприклад запитувати: «Ви згадали, що почуваєтеся перевтомленими, я можу забронювати для вас той квиток у кіно, про який ми говорили?»

У дослідженні розглядається сценарій, у якому ці приклади «динамічно генеруються» для відповідності таким факторам, як «особисті поведінкові сліди» та «психологічний профіль» користувача.

«В економіці намірів магістр права може за низьких витрат використовувати каденцію користувача, політику, словниковий запас, вік, стать, уподобання до підлабузництва тощо, у поєднанні з посередницькими ставками, щоб максимізувати ймовірність досягнення поставленої мети. (наприклад, щоб продати квиток у кіно)», – йдеться в дослідженні. У такому світі модель штучного інтелекту буде керувати розмовами на службі рекламодавців, компаній та інших третіх сторін.

У звіті стверджується, що рекламодавці зможуть використовувати генеративні інструменти штучного інтелекту для створення онлайн-реклами на замовлення. Він також наводить приклад моделі штучного інтелекту, створеної Метою Марка Цукерберга під назвою Цицерон, яка досягла здатності «людського рівня» грати в настільну гру «Дипломатія» — гру, яка, за словами авторів, залежить від висновків і передбачень намірів опоненти.

Моделі штучного інтелекту зможуть налаштовувати свої результати у відповідь на «потоки вхідних даних, створених користувачами», додає дослідження, посилаючись на дослідження, які показують, що моделі можуть виводити особисту інформацію через повсякденний обмін і навіть «керувати» розмовами, щоб отримати більше особистого інформації.

Потім у дослідженні розглядається сценарій майбутнього, коли Meta виставлятиме на аукціон рекламодавцям намір користувача забронювати ресторан, авіарейс або готель. Незважаючи на те, що вже існує індустрія, присвячена прогнозуванню поведінки людей і торгам, у звіті йдеться, що моделі штучного інтелекту перетворять ці практики в «високо кількісний, динамічний і персоналізований формат».

Дослідження цитує дослідницьку групу, яка стоїть за Цицероном, яка попереджає, що «агент [ШІ] може навчитися підштовхувати свого партнера для досягнення певної мети».

Дослідження стосується технічних керівників, які обговорюють, як моделі AI зможуть передбачити наміри та дії користувача. Він цитує виконавчого директора найбільшого виробника чіпів зі штучним інтелектом Дженсена Хуанга з Nvidia , який минулого року сказав, що моделі «визначатимуть ваші наміри, бажання, що ви намагаєтеся зробити, враховуючи контекст, і представлятимуть найкращим чином».