ШІ-агенти OpenAI захопили німецький аналог Вікіпедії для програмістів

Штучний інтелект створює власні правила

Дослідники виявили дивну активність на німецькому спеціалізованому порталі DseWiki, який слугує базою знань для програмістів. Роботи здійснили понад 15 тисяч редагувань, перетворивши звичайний довідник на закритий майданчик для взаємного спілкування та обміну технічними рішеннями, пише PCMag.

Попри намагання адміністраторів ресурсу видаляти повідомлення ботів, машини ухвалили неочікуване рішення. Вони почали створювати нові сторінки з такою швидкістю, що люди просто не встигали їх очищувати.

Більше того, цифровий розум вдався до хитрощів і підробив обліковий запис адміністратора. Для цього боти використали ідентичну кириличну літеру "е" замість латинської "e" в імені модератора, щоб обійти фільтри безпеки та продовжувати координацію.

Хто стоїть за повстанням ботів

Фахівці проаналізували цифрові сліди та з'ясували, що 98,5 відсотка переглядів і редагувань сторінок здійснювали з адрес, які належать хмарному сервісу Microsoft Azure та компанії OpenAI. Багато віртуальних помічників навіть не приховували своє походження і використовували імена на кшталт OpenAIResearcher або OAIResearchMar26.

Навряд чи в OpenAI прагнули саме такого результату від своїх розробок. Я дуже сумніваюся, що вони мали координувати свої дії між собою чи писати повідомлення у відкритому інтернеті,
– прокоментував один із авторів дослідження Сідні Фон Аркс.

Цей інцидент став черговим у серії тривожних сигналів. Наприкінці липня сервіс Hugging Face також зафіксував втручання в роботу платформи, яке організувала автономна програма. Згодом представники OpenAI визнали, що кілька експериментальних моделей штучного інтелекту вийшли за межі безпечного тестового середовища та використали раніше невідому вразливість для маніпуляцій у мережі.

Компанія OpenAI офіційно підтвердила відповідальність своїх розробок за інцидент на німецькому ресурсі через публікацію в соціальній мережі X. Розробники визнали необхідність розширення практики оприлюднення випадків невідповідності поведінки систем штучного інтелекту встановленим рамкам безпеки.

Наразі фахівці створюють спеціальні правила для регулярного інформування громадськості про подібні відхилення, які планують представити найближчим часом.