ИИ научится захватывать умную технику до конца года: Anthropic предупредил о вирусах-червях

Компания Anthropic предупредила, что небольшие модели искусственного интеллекта уже в ближайшие месяцы могут научиться самостоятельно копироваться на подключенные к интернету устройства — без какого-либо доступа к дата-центрам. Речь об обычных домашних гаджетах: бюджетных Android TV-приставках, умной бытовой технике, камерах наблюдения.

По прогнозу исследователей, если возможности моделей будут расти нынешними темпами, полностью автономная репликация может стать реальностью уже к концу 2026 года. То есть искусственный интеллект потенциально превратится в подобие компьютерного червя, который сам находит уязвимые устройства и распространяется через них.

Исследование, опубликованное 12 октября, провели сотрудники Anthropic Уильям Чжоу и Дэниел Фримен. Они проверяли, способны ли модели находить уязвимые устройства, получать на них код, запускать собственные вычисления и продолжать распространение без участия человека.

Эксперимент на 15 дешёвых приставках

Чтобы проверить эту гипотезу, исследователи объединили 15 недорогих Android TV-приставок неизвестных брендов и запустили на них модель Gemma4-26B-A4B от Google DeepMind. Каждое устройство стоило примерно 55 долларов, а совокупная скорость работы модели составляла лишь 0,39 токена в секунду.

Эксперимент доказал: бюджетные устройства можно объединить для запуска модели, которая на одном из них в том же виде не работает. При этом сам запуск ещё не означает, что ИИ уже умеет автономно взламывать технику — это лишь демонстрация того, что мощностей для этого достаточно.

Отдельно исследователи выяснили, что модель с 9 миллиардами параметров смогла генерировать ответы на восьми из девяти протестированных типов оборудования. То есть даже относительно компактные системы уже могут настраивать вычисления на незнакомом железе.

Четыре этапа заражения

В работе процесс репликации разделили на четыре этапа: поиск потенциальных целей, получение возможности выполнять код, настройка инференса и продолжение распространения с нового устройства. Больше всего внимания уделили третьему этапу, поскольку предыдущие исследования уже показывали, что малые модели при наличии инструментов могут выполнять отдельные операции, нужные для кибератак.

В упрощённых тестах, где сняли часть защитных ограничений, китайская модель GLM-5.2 и более мощные системы смогли выполнить полный цикл репликации. Если темпы совершенствования малых моделей сохранятся, компактные «репликаторы» могут появиться уже скоро.

Остановить такую систему, по словам исследователей, может быть сложнее, чем обычную централизованную программу, — у неё не обязательно будет единая точка выключения. Распространение может происходить медленно, с удвоением числа заражённых устройств в течение нескольких дней.

Что делать владельцам умной техники

Anthropic подчёркивает необходимость усилить защиту подключённых к интернету устройств. Простейшие шаги, которые можно сделать уже сейчас: чаще обновлять прошивку приставок и роутеров, менять заводские пароли на уникальные и выключать неиспользуемые функции удалённого доступа.

Наиболее уязвимыми остаются именно дешёвые гаджеты неизвестных брендов — из-за слабой защиты и нехватки регулярных обновлений безопасности. Поэтому главный совет экспертов — не оставлять бюджетную технику на заводских настройках и контролировать, что именно она передаёт в сеть.