Новий ШІ-агент ChatGPT довів, що він «не робот» — система CloudFlare довірилась йому без CAPTCHA

Виявляється, один із найпоширеніших способів перевірки безпеки в інтернеті — лише дитячі забавки для ChatGPT Agent. Іронія полягає в тому, що тест вимагає довести, що ви «не бот», що й вдалось… боту OpenAI.

ChatGPT Agent — це нова функція, яка дозволяє ШІ-боту OpenAI працювати в ізольованому середовищі із власною віртуальною ОС і браузером, який разом з тим надає доступ до реального інтернету. Користувачі можуть спостерігати за діями ChatGPT в інтерфейсі програми, але попередньо мають надати на них дозвіл.

В одному з таких експериментів користувач Reddit (через Arstechnica) виявив, що новий ШІ-агент без особливих зусиль проходить перевірку CloudFlare. На скриншотах відображено, як агент спочатку натискає галочку «Підтвердьте, що ви людина», а потім починає конвертацію відео з коментарями:

Виглядає абсурдно, зважаючи на те, що бот успішно довів, що він… не бот. В коментарях агента підтримали жартівливими коментарями:

Попри те, що агент не стикався з реальною візуальною CAPTCHA-головоломкою, успішне проходження поведінкового скринінгу Cloudflare, який вирішує, чи потрібно показувати такі завдання, демонструє високий рівень автоматизації браузера.

Щоб зрозуміти значення цієї можливості, слід знати, що системи CAPTCHA вже десятиліттями слугують основним заходом безпеки в Інтернеті. Комп’ютерні дослідники винайшли цю технологію в 1990-х роках для фільтрації ботів на вебсайтах — початково як зображення з викривленими цифрами й літерами, щоб ускладнити розпізнавання для ботів; а нині із картинками світлофорів, пішохідних переходів та автобусів (тест, який, по правді, може довести до нервових судом і деяких людей).

Система скринінгу Cloudflare під назвою Turnstile зазвичай передує CAPTCHA і є одним із найпоширеніших методів виявлення ботів на сьогодні — галочка аналізує чимало сигналів, зокрема рухи миші, швидкість натискання, цифровий «відбиток» браузера, репутацію IP-адреси та шаблони виконання JavaScript, щоб визначити, чи користувач поводиться як людина. Якщо усі ці перевірки пройдено, користувача пропускають далі без CAPTCHA (як і було у випадку з ChatGPT).

Водночас здатність ШІ-моделей долати самі CAPTCHA-головоломки не є новою, що ставить під сумнів ефективність цих перевірок в майбутньому та створює нові виклики для компаній, що їх розробляють.