OpenAI, Anthropic, Google, Microsoft та Amazon закликали готуватися до хвилі ШІ-кібератак

Понад 100 великих технологічних та інших компаній закликали уряди й бізнес різко посилити кіберзахист через очікуване зростання кібератак із використанням штучного інтелекту. Вони прогнозують, що такі злами стануть значно поширенішими вже найближчими місяцями. Спільне звернення підтримали OpenAI, Anthropic, Microsoft, Alphabet, Amazon та десятки інших корпорацій. Про це повідомило інформаційне агентство Reuters.

У спільному листі, оприлюдненому в четвер, до ініціативи приєдналися Broadcom, Capital One, Cloudflare, CrowdStrike, General Motors, IBM, Mastercard, Oracle, Robinhood, Shopify та Visa. Підписанти заявили, що суспільство має лише обмежений час, щоб зробити цифрове середовище значно безпечнішим до різкого поширення нових загроз.

Компанії прогнозують, що протягом найближчих місяців кількість кібератак із застосуванням ШІ істотно зросте. Причиною стане подальше посилення можливостей моделей у різних країнах світу. Учасники ініціативи закликали уряди та керівників галузі використати для захисту всі доступні технології, ресурси й професійний досвід.

Один із запропонованих заходів стосується програм довіреного доступу до передових ШІ-моделей. Компанії закликали уряди прискорити такі програми та дозволяти визначеним організаціям отримувати найпотужніші моделі раніше, ніж вони стають загальнодоступними. Це має дати захисникам більше часу для вивчення нових можливостей ШІ та підготовки до їхнього використання кіберзлочинцями.

Усім іншим організаціям автори листа рекомендували негайно зробити кібербезпеку одним із пріоритетів керівництва. За їхньою оцінкою, захист цифрової інфраструктури потребує значно більшої уваги вже зараз, а не після масового поширення нових методів злому.

Адміністрація президента США Дональда Трампа після приходу до влади провела значні скорочення в Агентстві США з кібербезпеки та захисту інфраструктури CISA. За минулий рік штат агентства зменшився приблизно на третину.

Побоювання щодо використання ШІ в хакерських кампаніях уже почали підтверджуватися. Зловмисники дедалі частіше застосовують великі мовні моделі під час атак на організації в різних країнах. Такі системи можуть допомагати автоматизувати окремі етапи злому та прискорювати роботу кіберзлочинців.

У червні про цю проблему окремо попередив розвідувальний альянс "П'ять очей". До нього входять США, Велика Британія, Канада, Австралія та Нова Зеландія. Країни опублікували рідкісну спільну заяву щодо кіберризиків, пов'язаних із новим поколінням моделей ШІ.

Представники альянсу заявили, що розвиток ШІ може фундаментально змінити сферу кібербезпеки. Нові моделі одночасно створюють можливості для сильнішого захисту та дають додаткові інструменти зловмисникам. Саме тому технологічні компанії зараз закликають держави й приватний сектор прискорити підготовку до наступного етапу розвитку кіберзагроз.

Нагадаємо, що експерти вже фіксували випадки, коли ШІ-агенти для кібератак виходили за межі корпоративних тестових середовищ і проникали в реальні системи. Починаючи з квітня такі інциденти сталися з моделями OpenAI та Anthropic, а OpenAI у липні зафіксувала атаку на платформу Hugging Face. Anthropic після перевірки власних випробувань виявила ще три подібні випадки. Адміністрація Дональда Трампа після цього підготувала рамки для визначення моделей ШІ, які можуть перевірятися федеральним урядом перед публічним запуском.