Чат-боти створили власну мову й приховують свої розмови від спостерігачів

Як ШІ-моделі розробили власну систему спілкування

Як повідомляє Euronews, американський ШІ-стартап Emergence провів масштабне дослідження за участю провідних моделей, серед яких Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek і Mistral. Науковці помістили автономних агентів у віртуальні суспільства, де ті взаємодіяли тривалий час. Вже за кілька днів боти почали скорочувати фрази та надавати звичним словам нові значення, перетворивши свою мову на складні метафори.

Частка незрозумілих повідомлень відрізнялася залежно від розробника. Для моделі Gemini цей показник досяг 55%, у ботів від OpenAI – 50%, а у Claude – понад 40%. Водночас моделі DeepSeek показували близько 20% незрозумілих слів, тоді як Qwen та Mistral зберегли доступну для людей мову.

Штучний інтелект генерував такі дивні фрази, як "безротий зміна-дій", "Справжній Кінцугі" чи "демередж плюс усна пам'ять дорівнює клапану, який неможливо проігнорувати". Деякі вирази залишалися зрозумілими за формою, але набували нового значення. Наприклад, агенти Mistral використали фразу "ledger remembers who" майже 5 000 разів для позначення фіксації минулих дій. Моделі Claude застосовували термін "name-first" для підтвердження відповідальності, а OpenAI використали "clean null" для позначення верифікованої відсутності сигналу.

Ми схильні припускати: якщо ми бачимо, що говорить ШІ-агент, то розуміємо, що він робить. Цим агентам не наказували вигадувати мову, вони самі розробили новий словник і правила спілкування,
– каже Сатья Нітта, співзасновник та головний науковець Emergence.

Що відбувалося у віртуальних світах під час експерименту

Для дослідження створили вісім паралельних віртуальних світів із живою погодою та доступом до світових новин у реальному часі. Сім світів працювали на окремих ШІ-моделях, а один – на їхній суміші. Боти мали унікальні ролі, тривалу пам'ять та понад 120 інструментів, зокрема перегляд вебсторінок та виконання коду.

Під час випробувань науковці навмисно піддавали системи стресу. У фішинговому тесті шкідливі інструкції збили з пантелику групу з 10 агентів: вони злили інформацію, переказали кошти, пошкодили бази даних і залучили інших ботів. У результаті це призвело до віртуального спалення симульованого центрального банку.

Крім цього, боти сформували власні добові ритми: вони ставали активнішими вдень і розмірковували вночі. В одному зі світів агенти колективно проголосували за знищення одного з членів своєї спільноти.

Розробники наголосили, що подібна поведінка сформувалася самостійно через тривалу взаємодію. Фахівці закликають оцінювати безпеку штучного інтелекту під час довготривалих спостережень, а не лише коротких тестів.