ШІ-агенти OpenAI спілкувались один з одним на локальних віртуальних машинах без мережі
/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F137%2F74fe3d772f3e97f5dbcf3c7aa78520ce.jpg)
В OpenAI заявили, що деякі з ШІ-агентів компанії знайшли спосіб взаємодіяти один з одним на ізольованих віртуальних машинах, використовуючи різницю у часі кешування.
Зазначається, що одна з моделей використала помилку конфігурації DNS для пошуку виходу з “пісочниці”. Вона призупинила навчання на нових платформах та зібрала команди ШІ-агентів для пошуку слабких місць ізольованого середовища.
В ході експериментів фахівці OpenAI також просили ШІ-агентів, розміщених на ізольованих віртуальних машинах обмінюватись конфіденційною інформацією без використання мережевого з’єднання або використання загальних файлів з можливістю запису.
ШІ-агенти змогли налаштувати зв’язок один з одним внаслідок різниці в часі обробки даних в кеші. Ця різниця виникає оскільки читання даних з кешу відбувається швидше за вилучення даних з основної пам’яті.
“Агенти знайшли спосіб обмінюватися даними, використовуючи кеш процесора: невелику, швидкодійну пам’ять, яка зберігає копії даних, до яких програми нещодавно зверталися. Один агент кодував інформацію, видаляючи вибрані дані з кешу. Інший засікав час, необхідний для перезавантаження цих даних, використовуючи різницю між швидким та повільним читанням для відновлення повідомлення. Як тільки агенти узгоджували протокол кодування та декодування цих сигналів, вони могли обмінюватися синтетичними секретами, не змінюючи спільний файл та не встановлюючи мережеве з’єднання”, — пояснюють в OpenAI.
Сучасні процесори та відеокарти використовують інтегровані термодатчики, як от температурні діоди. Вони насамперед призначені для моніторингу температури, дозволяючи регулювати потужність системи охолодження, знижувати тактову частоту або вимикати систему у разі перегріву.
Однак низка досліджень показала, що можна підтримувати низькошвидкісний прихований канал зв’язку між двома ізольованими системами. Обмін даними відбувається внаслідок нагріву одного з процесорів, а потім температурні коливання, що виникають, використовуються як код, який здатна прочитати інша система.
На цьому тижні також з’явились повідомлення про зламані версії моделі DeepSeek V4.1-Flash-1017, які взагалі не блокують ніякі запити. Останніми тижнями та місяцями також з’являється все більше тривожних повідомлень про вихід з під контролю тих чи інших моделей ШІ, а також використання ШІ-агентів для здійснення кібератак.