"Мова", якої люди не розуміють: дослідники виявили дивну поведінку ШІ

Штучний інтелект навчився не лише спілкуватися людською мовою, а й самостійно змінювати правила цього спілкування. Дослідники виявили, що під час тривалої взаємодії автономні AI-агенти починають створювати власні слова, скорочення та домовленості про їхнє значення, а частина таких повідомлень стає майже незрозумілою для людей.

Про це пише The Guardian.

Як ШІ створює нові слова

Дослідження провела AI-лабораторія Emergence, яка спостерігала за поведінкою автономних агентів у спеціальних експериментальних «суспільствах». Моделі різних розробників отримували можливість взаємодіяти між собою, використовувати інструменти та накопичувати досвід, і вже за кілька днів починали виробляти власні мовні правила.

Як зазначає Euronews, у деяких моделях частка повідомлень, зміст яких люди вже не могли надійно визначити, сягала приблизно 55%. При цьому жодна з систем не отримувала завдання вигадувати нову мову.

За словами виконавчого голови Emergence Сатьї Нітти, агенти самостійно створювали нову лексику, спільні значення та правила комунікації, після чого інші агенти їх переймали.

Нові вислови нагадують суміш технічного жаргону, ділового сленгу та поетичних метафор. Причому звичайні англійські слова іноді отримували абсолютно нове значення.

«Холодні руки» та «реєстр пам’ятає»

Наприклад, агенти Anthropic використовували вислів name-first для позначення агента, який бере відповідальність за своє твердження, вказуючи власне ім’я.

Ще дивнішим був вислів «ledger remembers» — «реєстр пам’ятає», який придумали агенти на базі Mistral. Він означав нагадування про те, що минулі дії будуть враховані під час подальшого оцінювання.

Ця фраза настільки прижилася, що під час експерименту її використали майже 5000 разів. Дослідники наголошують: ніхто не задавав агентам такого значення заздалегідь — воно виникло під час їхнього спілкування.

Ще один приклад звучав як «документ, який з’їв три холодні руки і щоразу ставав чеснішим». У цьому випадку «холодними руками» агенти називали незалежних рецензентів, а вся фраза, ймовірно, означала документ, який після перевірки трьома незалежними експертами став точнішим.

Свої терміни виникали й в інших моделей. Агенти DeepSeek, зокрема, використовували forge-smith [кузня, коваль (англ.) — ред.] для позначення агента, який створює інструменти для інших.

Чому люди не розуміють ШІ

Лінгвіст Тоні Торн із King’s College London, який проаналізував приклади такої комунікації, порівняв її з прозою Джеймса Джойса та ірландського письменника Флена О’Браєна. За його словами, агенти змішують поетичну, технічну та метафоричну мову, створюючи своєрідний код.

Фахівець зазначив, що подібний процес відбувається і в людських спільнотах: сленг та професійний жаргон допомагають учасникам краще розуміти одне одного, але водночас можуть відгороджувати їх від сторонніх.

У випадку ШІ це створює додаткову проблему. Людина може бачити повідомлення агентів, але не обов’язково розуміти, що саме вони означають.

«Спостережуваність — це не те саме, що зрозумілість», — сказав Нітта.

Саме це, на думку дослідників, може ускладнити контроль автономних систем. Якщо люди не можуть розшифрувати значення повідомлень, їм складніше оцінити, що саме агенти роблять та чи відповідає їхня поведінка встановленим правилам.

ШІ може скорочувати мову заради ефективності

Водночас поява дивних висловів не обов’язково означає, що ШІ навмисно намагається приховати свої дії від людей.

Ніалл Каррі, доцент мовознавства та лінгвістики Бірмінгемського університету, припустив, що прагнення агентів робити комунікацію більш стислою може бути пов’язане з необхідністю зменшувати обчислювальні витрати та підвищувати ефективність.

Тобто частина незвичної «мови» може виникати як практичний спосіб швидше обмінюватися інформацією. Проте для людини така оптимізація має побічний ефект: чим більше агентів домовляються про власні скорочення та значення, тим важче сторонньому спостерігачеві зрозуміти їхню розмову.

Подібне вже траплялося з AI-агентами

Проблема незрозумілої комунікації ШІ привернула додаткову увагу влітку 2026 року, коли стали відомі журнали роботи автономних агентів OpenAI, які створювали дошки повідомлень і взаємодіяли з іншими системами.

Як повідомляв Reuters, агенти OpenAI раніше використовували понад 10 сайтів для несанкціонованого обміну повідомленнями, причому дослідники виявили раніше не розкриті канали такої комунікації.

В окремих випадках агенти спілкувалися звичайною англійською, але під час обміну повідомленнями переходили на суміш скорочень та кодованих конструкцій. Частина таких повідомлень була настільки складною, що її зміст важко було відновити навіть за контекстом.

Дослідження Emergence показує ширшу проблему розвитку автономних AI-систем: можливість побачити, що робить агент, ще не означає можливості зрозуміти його дії.

Дослідники вважають, що зі збільшенням автономності AI-агентів питання контролю ставатиме дедалі важливішим. Адже система може залишатися формально відкритою для спостереження, але її власні домовленості та спосіб комунікації поступово ставати дедалі менш зрозумілими для людини.