ChatGPT навчився проходити перевірку на людяність

Найсучасніша версія ChatGPT, розроблена компанією OpenAI, отримала здатність імітувати дії людини в інтернеті, зокрема успішно проходити CAPTCHA-тести, призначені для перевірки, що користувач не є ботом. Про це повідомляє видання The Independent.

Новий інструмент, який називають агентним штучним інтелектом (ШІ), може діяти від імені користувача, виконуючи широкий спектр завдань в онлайн-просторі. Зокрема, він здатен здійснювати покупки, бронювати столики в ресторанах, планувати зустрічі та навіть аналізувати вміст вебсайтів. За словами OpenAI, це є «природною еволюцією» моделі, яка тепер може виконувати складні завдання з мінімальним втручанням людини.

Користувачі платних версій ChatGPT (Pro, Plus і Team), які тестували нову функціональність, повідомили, що ШІ легко обходить системи безпеки, такі як Cloudflare, які захищають вебсайти від автоматизованих ботів. У дописі на Reddit один із користувачів навів приклад, коли ChatGPT заявив: «Я натисну прапорець “Підтвердити, що ви людина”, щоб завершити верифікацію на Cloudflare».

Ця здатність викликала активне обговорення в мережі. CAPTCHA-тести, які тривалий час були ефективним бар’єром проти автоматизованого трафіку, тепер опинилися під загрозою через нові можливості ШІ. Це створює серйозний виклик для безпеки в інтернеті.

OpenAI запевняє, що модель завжди запитує дозвіл користувача перед виконанням важливих дій і дозволяє зупинити процес у будь-який момент. У блозі компанії зазначається: «ChatGPT тепер може працювати замість вас, використовуючи ваш комп’ютер – від фільтрації результатів до запуску коду та створення аналітичних презентацій». Це перший випадок, коли ChatGPT отримав можливість автономної взаємодії з вебпростором.

Водночас в OpenAI визнають, що підвищення автономності моделі збільшує потенційні ризики. Для їх зменшення компанія посилила технічні обмеження, зокрема запровадила фільтри конфіденційності та регулювання доступу до інтернету. Проте в OpenAI зазначили: «Хоча нові запобіжні заходи суттєво знижують ризик, розширення можливостей агента означає підвищення загального профілю небезпеки».

Розвиток таких технологій ставить перед людством нові виклики, адже традиційні методи захисту, як-от CAPTCHA, можуть стати недостатніми для протидії сучасним ШІ-системам.