Что настоящее, а что ИИ: Microsoft представила план проверки контента в Интернете

Корпорация Microsoft предложила новый подход к подтверждению подлинности онлайн-контента на фоне стремительного распространения материалов, созданных или измененных с помощью искусственного интеллекта. В то же время, компания пока не обязалась внедрить эти рекомендации в собственных продуктах.

Об этом говорится в MIT Technology Review.

«AI-дезинформация все глубже проникает в цифровое пространство — от распространяемых должностными лицами манипулятивных изображений до видео влиятельных кампаний, направленных на аудиторию в разных странах», — напоминают в издании.

Исследовательская команда Microsoft по безопасности ИИ подготовила техническую «дорожную карту», которая должна помочь отличать настоящий контент от измененного.

Как это будет работать

Специалисты проанализировали около 60 различных комбинаций методов цифровой проверки — от метаданных и водяных знаков до криптографических подписей, чтобы выяснить, какие инструменты остаются надежными даже в случаях частичных изменений файла или умышленных манипуляций.

Принцип проверки Microsoft сравнивает с экспертизой картины Рембрандта. То есть, нужно иметь подтверждение происхождения, скрытый машиносчитываемый знак и цифровой «отпечаток», удостоверяющий оригинальность.

По словам главного научного сотрудника компании Эрика Горвица, толчком к работе стали как новые законодательные инициативы, в частности, закон штата Калифорния о прозрачности ИИ, так и быстрое развитие технологий, способных создавать гиперреалистические видео и аудио.

Впрочем, Горвиц подчеркнул: речь идет не об определении правдивости контента, а о его происхождении.

Это не о том, чтобы решать, что правда, а что нет. Это о маркировке, которая показывает, откуда взялся материал», — объяснил он.

Введет ли Microsoft собственные стандарты?

Несмотря на амбициозность инициативы, Microsoft не гарантирует полного внедрения этих стандартов в своей экосистеме. Компания управляет сервисом Copilot, облачной платформой Azure, профессиональной сетью LinkedIn, а также имеет значительную долю в OpenAI.

В компании отметили, что исследование уже влияет на обновление продуктов, однако конкретные обязательства по обязательной маркировке всего AI-контента не предоставили.

Ограничение технологий

Эксперты подчеркнули, что даже самые лучшие системы проверки не определяют, является ли информация правдивой. Они лишь фиксируют факт редактирования или создания материала с помощью ИИ.

Профессор цифровой криминалистики из Калифорнийского университета Гани Фарид считает, что внедрение таких стандартов значительно усложнило бы массовое распространение манипуляций. Однако целиком проблему это не решит.

Исследования также свидетельствуют, что даже когда пользователям сообщают об искусственном происхождении контента, это не всегда уменьшает его влияние.

Регулировка и политика

Новые правила маркировки AI-контента уже готовятся в Европейском Союзе и ряде других стран. Калифорнийский закон может стать первым масштабным тестом эффективности подобных инструментов в США.

Однако слишком поспешное или неточное внедрение систем проверки может подорвать их доверие. Исследователи Microsoft предостерегают: в некоторых случаях лучше не показывать никакой маркировки, чем демонстрировать ошибочное.

На фоне глобального роста количества дипфейков и манипулятивных материалов вопрос цифровой подлинности становится не только технологическим, но и политическим вызовом. И хотя инициатива Microsoft может задать новый стандарт, ее реальное влияние будет зависеть от того, готовы ли сами технологические гиганты применять эти правила к собственным продуктам.

Между тем, компания Meta получила патент на искусственный интеллект, который якобы помогает продолжать активность в соцсетях даже после смерти пользователя.

Идея заключается в создании цифрового «клона» личности, реагирующего на посты, комментарии и сообщения, имитируя поведение пользователя.

Почему лучше бодрствовать головой к дверям: что говорят об этом традиции, поверья, эргономика Лавина в Калифорнии унесла жизни по меньшей мере восьми лыжников / © Архів Александр Рудинский / © instagram.com/sasha_rudinskiy Путин на распутье: оппозиционер назвал срок, когда РФ может остановить войну / © ТСН.ua