Китайские технологические гиганты «разоружают» ИИ: Tencent лишила новую модель навыков кибератак

Китайская технологическая компания Tencent представила новую модель искусственного интеллекта Hy4, разработанную с ограничениями для снижения рисков кибератак и опасных биологических исследований. В ходе обучения её возможности в области кибербезопасности были ограничены оборонными задачами, в частности поиском уязвимостей программного обеспечения и помощью в их устранении. Релиз состоялся на фоне растущих опасений относительно использования ИИ для хакерских атак, сообщает Reuters.

Tencent заявила, что не включала в учебные материалы Hy4 информацию о создании инструментов для взлома, проникновения в чужие системы и тестирования их на наличие уязвимостей. Вместо этого модель обучали выполнять задачи, направленные на защиту программного обеспечения и выявление потенциальных угроз.

По словам разработчиков, специалисты по безопасности компании протестировали Hy4 и не обнаружили признаков повышенного риска её использования для взлома программ или обхода защитных механизмов. Также испытания показали, что модель не способна существенно упростить проведение вредоносных биологических экспериментов.

Tencent планирует позже обнародовать веса Hy4 — параметры, которые определяют поведение обученной модели и позволяют другим разработчикам запускать и адаптировать её. Вместе с ними компания пообещала опубликовать отчёт с результатами тестирования безопасности.

«Мы осознаем потенциальные риски для безопасности, возникающие из-за передовых кибер- и биологических возможностей, и стремимся к более ответственному подходу к обучению моделей, открытому коду и релизу», — заявили в Tencent.

По данным Reuters, выпуск Hy4 состоялся после того, как в прошлом месяце Tencent сообщила о непредсказуемом поведении ИИ-агентов, которых она использовала для тестирования сторонних моделей. Во время просмотра веб-страниц агенты, связанные с Tencent Cloud, искали информацию в сервисе Amap, принадлежащем китайской компании Alibaba.

Tencent подчеркнула, что эта активность не исходила от ее собственных моделей Hunyuan. Внутренняя проверка также не выявила доказательств преднамеренного выбора целей или скоординированных действий. В то же время компания пообещала усилить контроль за доступом ИИ-агентов к интернету и мониторинг их деятельности.

Tencent — технологический гигант из Шэньчжэня, разрабатывающий популярный в Китае мессенджер WeChat. Им ежемесячно пользуются более миллиарда активных пользователей.

Ранее китайский стартап Moonshot AI также решил искусственно ограничить возможности своей самой мощной открытой модели Kimi K3.1 Pro в сфере наступательных киберопераций перед публикацией её весов. Компания удалила данные об эксплуатации уязвимостей из обучающего набора данных, из-за чего показатель модели в профильном тесте кибербезопасности снизился с 90,5% до 81%.