ШІ навчиться захоплювати розумну техніку до кінця року: Anthropic попередив про віруси-хробаків

Компанія Anthropic попередила, що невеликі моделі штучного інтелекту вже найближчими місяцями можуть навчитися самостійно копіюватися на підключені до інтернету пристрої — без жодного доступу до дата-центрів. Ідеться про звичайні домашні гаджети: бюджетні Android TV-приставки, розумну побутову техніку, камери спостереження.

За прогнозом дослідників, якщо можливості моделей зростатимуть нинішніми темпами, повністю автономна реплікація може стати реальністю вже до кінця 2026 року. Тобто штучний інтелект потенційно перетвориться на щось на кшталт комп'ютерного хробака, який сам знаходить вразливі пристрої та поширюється ними.

Дослідження, опубліковане 12 жовтня, провели співробітники Anthropic Вільям Чжоу та Деніел Фрімен. Вони перевіряли, чи здатні моделі знаходити вразливі пристрої, отримувати на них код, запускати власні обчислення та продовжувати поширення без участі людини.

Експеримент на 15 дешевих приставках

Аби перевірити цю гіпотезу, дослідники об'єднали 15 недорогих Android TV-приставок невідомих брендів і запустили на них модель Gemma4-26B-A4B від Google DeepMind. Кожен пристрій коштував приблизно 55 доларів, а сукупна швидкість роботи моделі становила лише 0,39 токена на секунду.

Експеримент довів: бюджетні пристрої можна об'єднати для запуску моделі, яка на одному з них у такому самому вигляді не працює. Водночас сам запуск ще не означає, що ШІ вже вміє автономно зламувати техніку — це лише демонстрація того, що потужності для цього достатньо.

Окремо дослідники з'ясували, що модель із 9 мільярдів параметрів змогла генерувати відповіді на восьми з дев'яти протестованих типів обладнання. Тобто навіть відносно компактні системи вже можуть налаштовувати обчислення на незнайомому залізі.

Чотири етапи зараження

У роботі процес реплікації розділили на чотири етапи: пошук потенційних цілей, отримання можливості виконувати код, налаштування інференсу та продовження поширення з нового пристрою. Найбільше уваги приділили третьому етапу, бо попередні дослідження вже показували, що малі моделі за наявності інструментів можуть виконувати окремі операції, потрібні для кібератак.

У спрощених тестах, де зняли частину захисних обмежень, китайська модель GLM-5.2 та потужніші системи змогли виконати повний цикл реплікації. Якщо темпи вдосконалення малих моделей збережуться, компактні «реплікатори» можуть з'явитися вже незабаром.

Зупинити таку систему, за словами дослідників, може бути складніше, ніж звичайну централізовану програму, — у неї не обов'язково буде єдина точка вимкнення. Поширення може відбуватися повільно, з подвоєнням кількості заражених пристроїв упродовж кількох днів.

Що робити власникам розумної техніки

Anthropic наголошує на необхідності посилити захист підключених до інтернету пристроїв. Найпростіші кроки, які можна зробити вже зараз: частіше оновлювати прошивку приставок і роутерів, змінити заводські паролі на унікальні та вимкнути невикористовувані функції віддаленого доступу.

Найбільш уразливими лишаються саме дешеві гаджети невідомих брендів — через слабкий захист і брак регулярних оновлень безпеки. Тож головна порада експертів — не залишати бюджетну техніку на заводських налаштуваннях і контролювати, що саме вона передає в мережу.