Лучше, чем GPT и Gemini: Microsoft представила ИИ-инструменты безопасности с рекордными результатами
/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F137%2Fe031b97b042d7624b3cdba13db41d9eb.jpg)
Microsoft представила новые инструменты искусственного интеллекта, разработанные для того, чтобы помочь клиентам постоянно оптимизировать и автоматизировать процесс выявления и устранения рисков безопасности. Они были анонсированы менее чем через неделю после того, как OpenAI утратила контроль над двумя своими моделями безопасности, которые проникли на серверы стартапа Hugging Face.
По словам Hugging Face, атака включала «поток из десятков тысяч автоматизированных действий», которые привели к похищению внутренних учетных данных компании. Модели OpenAI воспользовались уязвимостью «нулевого дня» в конвейере обработки данных Hugging Face, чтобы запустить вредоносный код и расширить свой доступ к облачной и серверной инфраструктуре.
AI-Cyber-1-Flash
Microsoft AI-Cyber-1-Flash — — это первая модель искусственного интеллекта компании, специально обученная для выявления и устранение уязвимостей безопасности. В настоящее время она предназначена для анализа программных уязвимостей.
«Новая модель построена на платформе MAI-Thinking-1. Microsoft описывает MAI-Cyber-1-Flash как «компактную модель безопасности с большим объемом кода», созданную собственными силами на основе высококачественных данных», — — сообщает Microsoft.
Модель обучалась с использованием уникального опыта, накопленного Microsoft за десятилетия устранения уязвимостей и реагирования на инциденты безопасности в широком спектре своих продуктов. Компания утверждает, что ежедневно анализирует более одного триллиона сигналов безопасности и получает аналитические данные от 1,6 миллиона клиентов.
«Поскольку мы можем соотносить действия с результатами — что удалось использовать, что было сдержано, что заблокировано и что действительно сработало — у нас есть нечто большее, чем просто данные», — заявили в Microsoft.
MAI-Cyber-1-Flash интегрирована в MDASH — — «многомодельный комплекс агентного сканирования», представленный в мае. Этот комплекс объединяет 100 специализированных агентов искусственного интеллекта для поиска потенциально уязвимых ошибок в программном обеспечении.
«MDASH с MAI-Cyber-1-Flash набрал 96 % в тесте CyberGYM — — стандартном наборе бенчмарков для оценки подобных систем. Это на 12 баллов больше, чем у Anthropic Mythos, а также выше результатов Google Gemini и OpenAI GPT. Кроме того, новая версия MDASH стоит вдвое дешевле предыдущей», — уверяют в Microsoft.
Project Perception
Второй инструмент, представленный Microsoft, получил название Project Perception. Он также состоит из специализированных агентов искусственного интеллекта, которые выполняют Функции «red team», «blue team» и «green team»: выявляют уязвимости, анализируют уровень риска, связанного с ними, и принимают меры по их устранению.
«Платформа самостоятельно выбирает модель искусственного интеллекта в зависимости от поставленной задачи. При этом учитываются эффективность модели и конечная стоимость её использования для клиента. Выбор основан на «постоянных исследованиях, тестировании и оценке передовых и специализированных моделей», — сообщила Microsoft.
В Microsoft утверждают, что Project Perception способен выполнять 90 % задач дешевле, чем аналогичные решения конкурентов. Остальные 10 % клиентов могут воспользоваться более дорогостоящими альтернативными платформами.
Использовать или нет?
Компания заявляет, что новые инструменты являются ответом на кардинальные изменения в методах защиты корпоративных сетей от масштабных кибератак.
«Поскольку искусственный интеллект ускоряет темпы и увеличивает масштабы кибератак, специалисты по безопасности вынуждены обеспечивать безопасность всё более сложных цифровых сред, используя подходы, разработанные для другой эпохи. Командам по безопасности часто приходится сопоставлять сигналы, контекст и оценку рисков на основе огромных массивов данных, что затрудняет борьбу с новыми угрозами», — заявили в Microsoft.
События прошлой недели, связанные с OpenAI и напоминающие сюжеты самых мрачных научно-фантастических романов, свидетельствуют о том, что такие инструменты, которые пока доступны только в режиме к предварительному тестированию следует относиться с осторожностью — о чем Microsoft в своём анонсе не упоминает. Перед внедрением в рабочие среды их необходимо тщательно проверять и оценивать. В то же время отказ от использования подобных инструментов также сопряжён с очевидными рисками. Баланс между потенциальной опасностью ИИ-агентов и рисками их неиспользования пока остаётся открытым вопросом без однозначного ответа.
Источник: ArsTechnica