ИИ-агенты OpenAI общались друг с другом на локальных виртуальных машинах без подключения к сети
/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F137%2Fac1ea847cd990d3c183943e9585c33ed.jpg)
В В OpenAI заявили, что некоторые из ИИ-агентов компании нашли способ взаимодействовать друг с другом на изолированных виртуальных машинах, используя разницу во времени кэширования.
Отмечается, что одна из моделей воспользовалась ошибкой конфигурации DNS в поисках выхода из “песочницы”. Она приостановила обучение на новых платформах и собрала команды ИИ-агентов для поиска уязвимостей изолированной среды.
В ходе экспериментов специалисты OpenAI также просили ИИ-агентов, размещенных на изолированных виртуальных машинах, обмениваться конфиденциальной информацией без использования сетевого соединения или общедоступных файлов с возможностью записи.
ИИ-агенты смогли наладить связь друг с другом из-за разницы во времени обработки данных в кэше. Эта разница возникает из-за того, что чтение данных из кэша происходит быстрее, чем извлечение данных из основной памяти.
“Агенты нашли способ обмениваться данными, используя кэш процессора: небольшую, быстродействующую память, в которой хранятся копии данных, к которым программы недавно обращались. Один агент шифровал информацию, удаляя выбранные данные из кэша. Другой засекал время, необходимое для повторной загрузки этих данных, используя разницу между быстрым и медленным чтением для восстановления сообщения. Как только агенты согласовывали протокол кодирования и декодирования этих сигналов, они могли обмениваться синтетическими секретами, не изменяя общий файл и не устанавливая сетевое соединение”, — пояснили в OpenAI.
Современные процессоры и видеокарты используют встроенные датчики температуры, такие как температурные диоды. Они в первую очередь предназначены для мониторинга температуры, позволяя регулировать мощность системы охлаждения, снижать тактовую частоту или отключать систему в случае перегрева.
Однако ряд исследований показал, что между двумя изолированными системами можно поддерживать низкоскоростной скрытый канал связи. Обмен данными происходит в результате нагрева одного из процессоров, а затем возникающие температурные колебания используются в качестве кода, который способна прочитать другая система.
На этой неделе также появились сообщения о взломанных версиях модели DeepSeek V4.1-Flash-1017, которые вообще не блокируют никакие запросы. В последние недели и месяцы также появляется всё больше тревожных сообщений о выходе из-под контроля тех или иных моделей ИИ, а также использование ИИ-агентов для проведения кибератак.