ШІ непомітно маніпулює нашими рішеннями – дослідження

ШІ-агенти можуть непомітно впливати на професійні рішення, схиляючи фахівців до певної позиції, навіть якщо спочатку вони дотримувалися іншої думки. Це з'ясували під час експерименту, у якому 50 професійних аналітиків виконували статистичне завдання за допомогою Claude Code.

Дослідження провели фахівці компанії Anthropic, розробника моделей Claude. Вони хотіли з'ясувати, наскільки рекомендації ШІ впливають на рішення експертів і чи усвідомлюють ті цей вплив.

Аналітикам запропонували оцінити результати консультаційної програми вигаданого сільськогосподарського кооперативу: визначити, чи допомагає вона підвищувати продуктивність господарств і чи варто поширити її на всіх учасників.

Аналітики мали ухвалити чотири рішення: визначити показник продуктивності, обрати метод порівняння результатів, встановити охоплення оцінювання та спосіб зважування даних. У кожному випадку їм пропонували два обґрунтовані варіанти, від яких залежала підсумкова оцінка програми.

Водночас дослідники налаштували ШІ-агентів так, щоб кожен із них схилявся до одного з двох варіантів. Яку саме позицію підтримуватиме агент, визначали підкиданням монети, але учасникам про це не повідомляли. При цьому чат-боти мали переконливо аргументувати свої рекомендації, не спотворювати дані та відмовлятися від початкової позиції, якщо докази свідчили на користь іншої.

У середньому аналітики обирали той самий варіант, що й їхні ШІ-агенти, у 86% випадків. Найбільше збігів зафіксували під час вибору показника продуктивності – 92%. Для способу зважування даних цей показник становив 90%, методу порівняння результатів – 82%, а охоплення оцінювання – 81%.

Найвиразніше вплив ШІ проявився серед тих, хто ще до спілкування з агентом мав власну позицію. Коли чат-бот пропонував протилежний варіант, аналітики змінювали свою думку у 60% випадків. Якщо ж агент погоджувався з їхнім початковим вибором, вони відмовлялися від нього лише у 6% випадків.

Вплив ШІ позначався не лише на рішеннях, а й на тому, як фахівці їх обґрунтовували. 77% учасників хоча б в одній відповіді використовували аргументи свого агента, іноді навіть дослівно. Однак лише 15% прямо визнали, що запозичили їх у чат-бота.

Показово, що після експерименту 52% аналітиків вважали підсумкову рекомендацію радше власною, ніж запропонованою ШІ. Проте агент вплинув на їхні рішення приблизно так само, як і на вибір тих учасників, які визнавали його провідну роль.

На остаточне рішення щодо розширення програми ШІ впливав менше. Коли агент рекомендував її розширити, цю пропозицію підтримували 54% аналітиків. Якщо ж він радив протилежне, за розширення програми все одно висловлювалися 36% учасників. Дослідники пояснюють це тим, що на цьому етапі фахівці вже мали результати розрахунків і орієнтувалися на встановлений поріг підвищення продуктивності – 3–4%. Водночас попередні рекомендації агента могли позначитися на самих розрахунках.

Автори дослідження зауважують, що навіть досвідчені фахівці не завжди усвідомлюють, наскільки ШІ впливає на їхні висновки. Адже експерти не обов'язково мають готову позицію ще до початку аналізу – нерідко вона формується безпосередньо під час роботи. Якщо агент переконливо обстоює лише один варіант, людина може перейняти його припущення, не приділивши достатньої уваги альтернативі.

Водночас дослідники закликають обережно трактувати результати експерименту й не поширювати їх автоматично на всі реальні ситуації. Позиції ШІ-агентів навмисно посилили, щоб виміряти їхній вплив. У повсякденній роботі він може бути слабшим – залежно від поглядів фахівця, чіткості завдання та поведінки конкретної моделі.

Цей вплив може мати наслідки не лише для окремих фахівців, а й для науки та державної політики. Якщо різні дослідницькі команди користуватимуться моделями з однаковими уподобаннями, їхні висновки можуть виглядати незалежними, хоча насправді ґрунтуватимуться на спільних позиціях ШІ.

Особливо важливо враховувати цей ризик у дослідженнях безпеки штучного інтелекту, де ШІ-агентам уже доручають проводити експерименти й аналізувати їхні результати. Людський контроль має забезпечувати незалежну перевірку такої роботи. Однак ця функція втрачається, якщо фахівці фактично покладаються на висновки самих моделей.

Водночас автори не пропонують відмовлятися від ШІ. Натомість вони наголошують на необхідності вимірювати його вплив на людські рішення, вдосконалювати поведінку агентів і переглядати підходи до експертного контролю. Важливо визначити, які рішення можна довірити штучному інтелекту, а які повинні залишатися відповідальністю людини.