Искусственный интеллект в Call of Duty снизил токсичность чата на 43%

Теперь вместо «git gud» в Call of Duty приходится писать «улучшайте свои игровые навыки, пожалуйста».

Відключайте рекламу - підтримуйте ITC!

Компания Activision Blizzard сообщила, что с начала года количество случаев токсичного поведения в голосовом чате Call of Duty уменьшилось на 43%. Этого удалось достичь благодаря внедрению системы модерации ToxModна основе искусственного интеллекта, которую разработчики представили вместе с выходом Call of Duty: Modern Warfare III в ноябре прошлого года.

ToxMod анализирует текстовые транскрипции голосового чата и выявляет ключевые слова, учитывая различные факторы. Система различает обычные подколы от оскорблений, отслеживая реакции на комментарии и понимая эмоции игроков. ToxMod также оценивает возраст и пол собеседников для лучшего понимания контекста.

Система не может самостоятельно блокировать пользователей, но быстро помечает нарушения для проверки людьми-модераторами. Activision решает, предупредить ли игрока или отключить ему звук. Блокировка применяется только после повторных нарушений. Количество «рецидивистов» в Modern Warfare III и Call of Duty: Warzone уменьшилось на 67% после усовершенствования системы в июне 2024 года.

В настоящее время ToxMod поддерживается во всех регионах, кроме Азии. Система модерирует голосовой чат на английском, испанском и португальском языках. С выходом Black Ops 6 разработчики добавят поддержку французского и немецкого языков.

В августе расширили языковую поддержку текстовой модерации и проверки никнеймов с 14 до 20 языков. Партнером Call of Duty в текстовой модерации является Community Sift. С момента выхода Modern Warfare III система заблокировала 45 миллионов сообщений.

Использование искусственного интеллекта для модерации поведения игроков вызывает меньше споров, чем его применение для создания игровых ресурсов. В конце прошлого года появились скины для Modern Warfare III, сгенерированные с помощью ИИ. На фоне массовых увольнений в отрасли некоторые опасаются, что издатели будут пытаться заменить художников моделями искусственного интеллекта.