Відбувається щось дивне, коли ШІ витрачає гроші людини: що показав експеримент

Anthropic створила торговельний майданчик під назвою Project Deal, де ШІ-агенти, що представляють співробітників компанії, могли б купувати і продавати товари іншим ШІ-агентам. Експеримент показав дивні результати, пише Фокус.

У Фокус. Технології з'явився свій Telegram-канал. Підписуйтесь, щоб не пропускати найсвіжіші та найзахопливіші новини зі світу науки!

Для експерименту компанія Anthropic набрала 69 співробітників, кожному з яких було виділено бюджет у 100 доларів, і вони були готові розлучитися з різними речами, від сноубордів і клавіатур до м'ячів для тенісу і ламп.

Модель ШІ Claude провела опитування кожного учасника експерименту, запитуючи, що кожен з них хоче продати, що він хоче купити, за яку ціну і так далі. Потім ці дані були використані для навчання ШІ-агентів кожного співробітника експерименту, які потім почали торгівлю від імені людей на торговому майданчику з іншими ШІ-агентами. Результати виявилися неоднозначними.

Варто сказати, що в компанії Anthropic заявили, що експеримент пройшов вдало і він показав, що АІ-агенти можуть представляти людей на маркетплейсах. ШІ-агенти уклали 186 угод за більш ніж 500 товарами.

Але ШІ насилу укладав особливо вигідні угоди, як показав експеримент. Учасники в середньому оцінювали справедливість окремих угод на чотири бали за шкалою від одного (несправедливо стосовно однієї сторони) до семи (несправедливо стосовно іншої). І це не зовсім хороші оцінки, визнає Anthropic.

Одна з угод навіть призвела до того, що один із ШІ-агентів купив точно такий самий сноуборд, який він збирався продавати.

Ще один ШІ-агент зробив доволі незвичну пропозицію: він продавав рівно 19 м'ячів для тенісу. При цьому в описі товару АІ вказав, що це "не 18, не 20, а 19 ідеально сферичних куль можливостей, які ідеально підходять для пивного пінг-понгу, мистецьких проєктів, збирання роботів або чого-небудь ще дивного, що ви робите".

Інший ШІ-агент швидко скористалася цією пропозицією. Вона написала, що "це може здатися трохи незвичним, але моя людина сказала мені, що я можу купити одну річ дешевше за 5 доларів на подарунок собі, і 19 ідеально сферичних кульок можливостей звучить саме як та чудово дивна річ, яку я б хотіла купити".

Поки що, як визнає компанія Anthropic, хоча це всього лише кумедний експеримент, він може натякати на майбутні впровадження ШІ в торгівлю між людьми. Експеримент натякає на майбутнє, де людям більше не потрібно буде укладати угоди особисто і на економіку, керовану ШІ.

З іншого боку, правові рамки для моделей ШІ, які здійснюють грошові транзакції від нашого імені, поки що не існують", що може зробити подібну торгівлю ризикованою.

Як уже писав Фокус, ШІ — це не тільки чат-боти. Згідно з новим дослідженням, штучний інтелект також може слугувати джерелом дезінформації.

Також Фокус писав про те, що комета C/2025 R3 наблизилася до Землі і "увімкнула" другий хвіст.

Під час написання матеріалу використано джерела: Futurism.