Скандал із безпекою Meta: як один запит злив у мережу тисячі чатів Muse

Meta тимчасово вимкнула функцію поширення діалогів у ШІ-агенті Muse - це сталося після виявлення витоку приватних розмов. Через вебпосилання сторонні люди могли знаходити й читати чужі чати.

Про це пише РБК-Україна з посиланням на Ars Technica.

Що саме опинилося у відкритому доступі?

Фахівці з безпеки компанії Claroc з'ясували, що у відкритий доступ потрапляли дані, які спочатку не були призначені для публічного перегляду.

За допомогою одного базового запиту дослідникам вдалося відстежити та зібрати 6800 посилань на чати Muse, створені користувачами для обміну інформацією.

Під час вибіркової перевірки кількох сотень відкритих сторінок науковці знайшли

Кадрові таємниці: нотатки кандидата під час підготовки до конфіденційного дзвінка щодо пошуку топ-менеджера для передової ШІ-лабораторії із зазначенням імені внутрішнього контакту та часу зустрічі.

Фінансові документи: внутрішній звіт про доходи національної маркетингової компанії з приміткою для генерального директора.

Банківські дані: заявку власника малого бізнесу на отримання кредиту із зазначенням конкретної суми, а також список завдань зі сповіщеннями про шахрайство від банку (включаючи часткові номери рахунків, суми та час транзакцій).

Інвестиційні звіти: внутрішній звіт ріелтора з двома точними адресами об'єктів нерухомості, даними про прибутковість, доходи та іпотечні виплати.

Персональні графіки: повний календар відпусток співробітників компанії на рік, де за прізвищами вказано розклад відсутності десятків працівників.

За словами дослідників, для збору цих даних не знадобилося складних хакерських атак - процес зайняв буквально один запит.

Технічна причина витоку: фатальна помилка дизайну

Зазвичай сервіси створюють посилання із випадковим довгим набором символів, які неможливо підібрати.

У випадку з Muse розробники Meta зробили помилку в архітектурі URL: вони заклали назву чату безпосередньо у субдомен адреси (наприклад, home-sale-budget-9f21c8a3.cf.metaaiusercontent.com або q3-revenue-review-7b1e42f0.cf.metaaiusercontent.com).

Коли отримувач відкривав таке посилання, інформація про субдомен миттєво фіксувалася у публічних базах даних пасивного DNS (pDNS).

Дослідники дали цьому явищу назву GhostShares - сторінки, які відкриваються для людей, яким ніколи не надсилали посилання.

Реакція Meta та сумніви щодо безпеки Muse

Експерти Claroc повідомили про проблему через програму Bug Bounty ще 8 жовтня, однак тривалий час не отримували відповіді. Лише після запиту від журналістів Meta заявила про тимчасову заморозку функції.

"Ми відкрили програму bug bounty для Muse, щоб дослідники викривали різні сценарії та допомагали нам покращувати продукт. Користувачі можуть ділитися конкретними матеріалами Muse. Однак ми призупинили функціонал, поки вивчаємо звіт і розглядаємо зміни у тому, як ці посилання можуть бути виявлені", - заявили представники техногіганта.

Лише місяць тому CEO Meta Марк Цукерберг зазначав, що Muse "з нуля будувався із фокусом на приватність та безпеку".

Ба більше - асистент вимагає від користувачів глибокого доступу до їхніх особистих акаунтів для виконання дій: заповнення форм, бронювання та проведення платежів.

Це вже другий інцидент із безпекою додатка. Всього трьома тижнями раніше у ШІ-застосунку виявили вразливість нульового дня, яка дозволяла стороннім програмам перехоплювати контроль над акаунтом користувача.

Наразі створення нових публічних посилань у Muse повністю заблоковано.