Pangram обнаруживает видео и изображения, созданные с помощью ИИ

Компания Pangram, известная своим инструментом для выявления текстов, созданных искусственным интеллектом, добавила поддержку анализа видео и изображений. Новые функции помогают определить, использовался ли ИИ для создания или редактирования контента, сообщает Engadget.

Подписчики Pangram могут загружать видео и получать оценку вероятности использования ИИ. Инструмент различает полностью сгенерированные ролики и видео, в которых искусственный интеллект применялся только для отдельных элементов, а тепловая карта показывает фрагменты, которые могли быть созданы с помощью таких технологий.

По данным компании, во время внутреннего тестирования модель выявляла ИИ-видео с точностью более 98%. Разработчики утверждают, что она особенно хорошо распознает контент, созданный с помощью самых современных генеративных систем.

Pangram также обновила модель для анализа изображений Image 1.0. Теперь она доступна через расширение для Chrome, которое автоматически проверяет картинки на веб-страницах и отмечает те, которые, вероятно, созданы искусственным интеллектом.

В ходе тестирования модель обнаружила более 99% ИИ-изображений, а доля ложноположительных результатов составила 0,27%. При этом для изображений с разрешением менее 512 × 512 пикселей система предупреждает о более низкой степени уверенности в результате.

Одной из проблем при разработке стало разграничение полностью сгенерированных изображений и настоящих фотографий, обработанных с помощью ИИ. Генеральный директор Pangram Макс Сперо пояснил, что современные смартфоны, в частности iPhone, используют алгоритмы искусственного интеллекта для улучшения детализации снимков.

Из-за этого компании пришлось настроить модель так, чтобы она не маркировала обычные фотографии как ИИ-контент только из-за автоматической обработки камеры. По словам Сперо, Pangram даже отложила выпуск инструмента, чтобы проверить его на нескольких смартфонах iPhone 18 Pro: сначала система ошибочно классифицировала сделанные ими снимки как сгенерированные ИИ.

Новые функции анализа видео и изображений уже доступны подписчикам Pangram. Пользователи бесплатных аккаунтов также могут проверять ограниченное количество изображений без оплаты.

Ранее Pangram выяснила, что почти 14% из более чем миллиона проанализированных постов в соцсетях были созданы искусственным интеллектом. Главным источником автоматически сгенерированных текстов оказался LinkedIn, где более 40% длинных публикаций написал ИИ. Напротив, наименьшую долю синтетического контента зафиксировали на платформах Substack и Reddit, где до сих пор преобладают авторские комментарии.