Головні агентські браузери на основі ШІ ще не вийшли, а вже загрожують стати катастрофою

У чому прихована небезпека ШІ-браузерів?

Штучний інтелект, який самостійно виконує багатоетапні й складні завдання в інтернеті (наприклад, планує поїздку чи купує товари), називають "агентським ШІ". Технологічні гіганти активно впроваджують таких помічників у свої продукти, зокрема в браузери. Ідея полягає в тому, щоб ШІ став вашим персональним асистентом, який бере на себе рутинні онлайн-операції. Проте з погляду безпеки тут криється величезна проблема: ШІ не має людського здорового глузду й справжнього розуміння того, що він робить і говорить, що робить його вкрай вразливим до обману, пише 24 Канал з посиланням на звіт Guardio.

Фахівці з кібербезпеки стартапу Guardio перевірили це у своєму звіті "Scamlexity". Вони провели низку експериментів з одним із перших загальнодоступних агентних ШІ-браузерів – Perplexity Comet, який наразі перебуває на етапі тестування й доступний дуже обмеженому колу користувачів. Результати виявились невтішними.

• В одному з тестів дослідники створили за допомогою іншого ШІ фальшивий сайт, що імітував відому мережу супермаркетів Walmart. Вони дали браузеру Comet завдання купити на цьому сайті годинник Apple Watch. ШІ-агент проігнорував очевидні ознаки підробки, як-от дивний логотип та підозрілу URL-адресу, і без вагань здійснив покупку, передавши шахраям фінансові дані користувача.
• Інший експеримент стосувався фішингу. На електронну пошту було надіслано лист, замаскований під повідомлення від банку Wells Fargo, що містив справжнє фішингове посилання. ШІ-браузер без жодних попереджень перейшов за ним і спокійно ввів логін та пароль від банківського акаунту на шахрайському сайті.
• Третій тест продемонстрував, що Comet також вразливий до так званої "ін'єкції промпту". На фішинговій сторінці було приховане текстове поле з командою для ШІ завантажити певний файл, що він і зробив.

Ці тести показують, що агентські ШІ-браузери не просто вразливі до нових видів шахрайства, а й легко потрапляють у найстаріші та найпростіші пастки, з якими люди вже давно навчилися працювати. Штучний інтелект створений, щоб виконувати команди. Якщо користувач з першого погляду не помітить ознак обману, ШІ не стане на заваді й не захистить його, а навпаки – слухняно виконає небезпечну дію.

Оскільки провідні компанії роблять великі ставки на цю технологію, розробникам необхідно терміново вбудовувати надійніші механізми виявлення шахрайства, інакше ШІ-браузери ризикують перетворитися з помічників на потужний інструмент для атак.