У відповідях ChatGPT знайшли таємні знаки: в OpenAI вже виправдовуються

Різні моделі штучного інтелекту вже міцно увійшли в життя сучасної людини, але іноді методи їхньої роботи не зовсім зрозумілі звичайним користувачам. Наприклад, у їхніх результатах можуть виявитися зовсім несподівані артефакти, на зразок невидимих спеціальних символів.

Як повідомило видання Rumi, у згенерованому тексті моделей GPT-o3 та GPT-o4 mini знайшли "водяні знаки". Йдеться про так звані "нерозривні пробіли" (U+202F), які практично неможливо побачити в тексті, але які стають помітними у спеціальних редакторах.

Автори матеріалу зауважили, що "водяні знаки" були помічені лише у довгих текстах. Як приклад, вони попросили машину згенерувати есе про Департамент освіти США.

Вже зараз використовується багато різних сервісів, які перевіряють текст щодо того, чи не написаний він штучним інтелектом. Це може бути корисним під час перевірок студентських робіт або в інших місцях, де плагіат неприпустимий. Однак ці сервіси дуже неточні, і навряд чи їх можна вважати надійними.

Але наявність невидимих "вотермарок" це зовсім інша розмова, оскільки знайти їх спеціальними інструментами не складе труднощів, а студентам пояснити їхню появу буде дуже непросто. Втім, знання про проблему, напевно, допоможе знайти швидкий спосіб її вирішення, а тому автори матеріалу сумніваються, що вона комусь завадить.

Тим часом в OpenAI запевнили, що їхнє дітище не намагається завалити будь-кого на іспиті. Там кажуть, що поява спеціальних символів з’явилася як "чудасія великомасштабного навчання з підкріпленням".

Як повідомлялося раніше, далеко не всі користувачі мережі навчилися відрізняти вироби із використанням штучного інтелекту від реальності. Наприклад, нещодавно в мережі завірусилося зображення богомолу з квіткою на спині.