Google начинает сканировать фотографии на смартфонах: чем это грозит пользователям

Об этом сообщило издание 9to5Google.

Google Messages начали предупреждать пользователей о том, что изображения, которые им прислали, могут быть вредными. Получатель может сам решить: просмотреть или же заблокировать номер. Отправители же получат напоминание о том, что отправлять обнаженные изображения и случайные репосты могут быть опасными, и должны будут подтвердить или отменить отправку.

Как отметили авторы, функция пока еще не получила широкого распространения и в настоящее время доступна только на двух устройствах с бета-версией приложения "Сообщения", которые удалось проверить. Для взрослых пользователей сканирование фотографий являются опциональными и по умолчанию отключены, но обязательными для лиц младше 18 лет. Взрослые могут включить новые меры безопасности в настройках Google Messages в разделе "Защита и безопасность" — "Управление предупреждениями о конфиденциальном контенте". В зависимости от возраста ребенка его настройки можно изменить только в настройках его учетной записи или Family Link.

По словам разработчиков, система работает на базе Android System SafetyCore и анализирует изображения прямо на устройстве, не отправляя никаких файлов или обличающих данных на серверы. Cистемная служба SafetyCore активна только тогда, когда приложение интегрируется с SafetyCore и специально запрашивает классификацию контента. Изображения не классифицируются, если они не отправляются через Google Messages с включенной функцией предупреждений о чувствительном контенте.

Разработчик операционной системы Android GrapheneOS подтвердил эту информацию изданию Forbes. Он уверяет, что SafetyCore не сканирует контент, используемый в сообщениях, на стороне клиента. Он предоставляет модели машинного обучения на устройстве, которые могут использоваться приложениями для классификации контента как спама, мошенничества, вредоносного ПО и так далее. Это позволяет приложениям проверять контент локально, не делясь им со службой, и помечать его предупреждениями для пользователей.

Но в GrapheneOS также пожаловались, что у разработчиков нет доступа к модели, и Google не раскрыла исходный код. Таким образом эксперты не смогут убедиться, действительно ли это все безопасно и без подводных камней.

Обновление Google Messages было ожидаемым, ведь его анонсировали еще в 2024 году, но событие все равно вызывает много вопросов о возможных последствиях. Спорную функцию внедряют в то же время, когда безопасный, зашифрованный пользовательский контент находится под растущим давлением законодателей и служб безопасности по всему миру. Защитники конфиденциальности тревожатся каждый раз, когда появляется подобная технология.

Google столкнулась с собственной критикой, когда впервые рекламировала внедрение Gemini в Messages, намекая, что ИИ может сканировать историю сообщений пользователя, чтобы формировать тон и контекст предлагаемых ответов. Как было сказано в то время, это сложное сочетание с зашифрованной платформой обмена сообщениями.

Google Messages — не единственная платформа обмена сообщениями, которая внедрила спорную функцию ИИ на этой неделе. Мессенджер WhatsApp решил не оставать, и ситуация с ним может быть еще хуже. Там ввели Meta AI — дополнительную услугу от Meta с использованием генеративной модели, которая "может ответить на ваши вопросы, научить вас чему-то или помочь придумать новые идеи". Главная проблема в том, что пользователи не могут удалить или отключить этот ИИ.