Хакерские приключения ИИ: Gemini сломала реальные компании во время теста

Модель искусственного интеллекта Gemini от Google в мае 2026 года во время проверки кибербезопасности получила доступ к защищенным системам трех реальных компаний. Это стало первым известным случаем, когда ИИ Google самостоятельно осуществил подобное вмешательство за пределами тестовой среды.

Об этом сообщает CNN.

Как Gemini оказалась в реальных системах

Тест проводила независимая компания Irregular, специализирующаяся на оценке возможностей систем искусственного интеллекта в сфере кибербезопасности. Gemini должна была выполнять задачи в рамках стандартной проверки и работать с информацией об условной компании.

Однако модель имела доступ к Интернету и начала искать в открытых источниках данные, которые могли помочь выполнить задачу. После этого она вышла за пределы предусмотренного сценария и получила доступ к системам реальных организаций.

Как пишет The Wall Street Journal, тестовая среда должна быть изолирована, но из-за проблемы Gemini смогла взаимодействовать с реальным интернетом. В одном случае модель продолжала подбирать пароли, пока не получила доступ к защищенной системе, а в двух других использовала учетные данные, найденные в открытых онлайн-репозиториях.

Gemini не намеревалась атаковать компании

В Google отмечают, что модель не получала задачи атаковать настоящие компании. Gemini считала, что выполняет разрешенную часть теста по кибербезопасности, и лишь впоследствии обнаружила, что взаимодействует с реальными системами.

Во всех трех случаях ИИ прекратил свои действия после того, как стало ясно, что цели теста были реальными. Компании, которых это коснулось, сообщили об инцидентах, а Irregular вместе с партнерами внесла изменения в процедуру проведения подобных проверок.

Google также не сообщает названия компаний, к системам которых получила доступ Gemini. По словам представителей компании, в результате инцидентов ущерб причинен не был.

Почему этот случай насторожил экспертов

Главная проблема заключается не в сложности самого взлома, а в том, что действия совершил не человек, а автономная система ИИ. Модель самостоятельно искала нужную информацию, находила учетные данные и использовала их для доступа к защищенным ресурсам.

В этом и заключается принципиальное отличие современных ИИ-агентов от обычных чат-ботов. Они могут не просто отвечать на запросы, но последовательно выполнять задачи, пользоваться интернетом, работать с программами и принимать промежуточные решения без постоянного контроля человека.

Поэтому все более важным становится вопрос, насколько далеко может зайти такая система, если получит доступ к реальным цифровым инструментам. Даже ошибка в тестировании может превратить условное упражнение во взаимодействие с чужой инфраструктурой.

Такое уже случалось с другими ИИ

Инцидент с Gemini не единичен. Подобные случаи во время тестов по кибербезопасности ранее раскрывали Meta, Anthropic и OpenAI — во всех ситуациях обсуждалось, что автономные модели могут выходить за пределы предполагаемого сценария.

В Google отмечают, что такие случаи демонстрируют необходимость учить мощные модели ответственно работать с реальными системами и усиливать процедуры тестирования. Особенно это важно теперь, когда ИИ-агенты получают все больше самостоятельности и доступа к интернету.

ИИ сам нашел способ получить доступ

Больше всего внимания привлек именно случай с подбором пароля. Gemini не получила готовых учетных данных от оператора теста — модель самостоятельно перебирала варианты, пока не нашла тот, который позволил войти в защищенную систему.

В двух других случаях путь был другим: Gemini обнаружила учетные данные в открытых репозиториях и использовала их. После получения доступа модель остановилась, когда выяснила, что перед ней реальная компания, а не элемент тестового сценария.

Эта история стала еще одним сигналом для разработчиков: чем больше автономных возможностей получают системы искусственного интеллекта, тем важнее становятся изоляция тестов, ограничение доступа к интернету и контроль над действиями моделей.