Google починає сканувати фотографії на смартфонах: чим це загрожує користувачам

Про це повідомило видання 9to5Google.

Google Messages почали попереджати користувачів про те, що зображення, які їм надіслали, можуть бути шкідливими. Одержувач може сам вирішити: переглянути або ж заблокувати номер. Відправники ж отримають нагадування про те, що надсилати оголені зображення і випадкові репости можуть бути небезпечними, і повинні будуть підтвердити або скасувати відправлення.

Як зазначили автори, функція поки що не набула широкого розповсюдження і наразі доступна лише на двох пристроях із бета-версією додатка "Повідомлення", які вдалося перевірити. Для дорослих користувачів сканування фотографій є опціональними і за замовчуванням вимкнені, але обов'язковими для осіб, молодших за 18 років. Дорослі можуть увімкнути нові заходи безпеки в налаштуваннях Google Messages у розділі "Захист і безпека" — "Управління попередженнями про конфіденційний контент". Залежно від віку дитини її налаштування можна змінити тільки в налаштуваннях її облікового запису або Family Link.

За словами розробників, система працює на базі Android System SafetyCore і аналізує зображення прямо на пристрої, не відправляючи жодних файлів або викривальних даних на сервери. Системна служба SafetyCore активна тільки тоді, коли додаток інтегрується з SafetyCore і спеціально запитує класифікацію контенту. Зображення не класифікуються, якщо вони не надсилаються через Google Messages з увімкненою функцією попереджень про чутливий контент.

Розробник операційної системи Android GrapheneOS підтвердив цю інформацію виданню Forbes. Він запевняє, що SafetyCore не сканує контент, який використовується в повідомленнях, на стороні клієнта. Він надає моделі машинного навчання на пристрої, які можуть використовуватися додатками для класифікації контенту як спаму, шахрайства, шкідливого ПЗ тощо. Це дає змогу застосункам перевіряти контент локально, не ділячись ним зі службою, і позначати його попередженнями для користувачів.

Але в GrapheneOS також поскаржилися, що у розробників немає доступу до моделі, і Google не розкрила вихідний код. Таким чином експерти не зможуть переконатися, чи дійсно це все безпечно і без підводних каменів.

Оновлення Google Messages було очікуваним, адже його анонсували ще у 2024 році, але подія все одно викликає багато запитань щодо можливих наслідків. Спірну функцію впроваджують у той самий час, коли безпечний, зашифрований користувацький контент перебуває під дедалі більшим тиском законодавців і служб безпеки по всьому світу. Захисники конфіденційності тривожаться щоразу, коли з'являється подібна технологія.

Google зіткнулася з власною критикою, коли вперше рекламувала впровадження Gemini в Messages, натякаючи, що ШІ може сканувати історію повідомлень користувача, щоб формувати тон і контекст пропонованих відповідей. Як було сказано в той час, це складне поєднання із зашифрованою платформою обміну повідомленнями.

Google Messages — не єдина платформа обміну повідомленнями, яка впровадила спірну функцію ШІ цього тижня. Месенджер WhatsApp вирішив не залишатися, і ситуація з ним може бути ще гіршою. Там ввели Meta AI — додаткову послугу від Meta з використанням генеративної моделі, яка "може відповісти на ваші запитання, навчити вас чогось або допомогти придумати нові ідеї". Головна проблема в тому, що користувачі не можуть видалити або відключити цей ШІ.

Раніше писали, що мільйони користувачів Gmail можуть зламати хакери. Google працює над запобіганням атаці, мета якої — розкрити особисту інформацію користувачів.