Почему закон об «выключателе» ИИ не гарантирует реальной безопасности — AFP

В дискуссиях о регулировании искусственного интеллекта все чаще заходит речь об обязательном «выключателе». Речь идет о механизме, который в случае опасности позволил бы остановить работу системы. Но специалисты по кибербезопасности считают, что реализовать такую функцию на практике гораздо сложнее, чем может показаться на первый взгляд, сообщает AFP.

Тема стала особенно актуальной после того, как представители индустрии искусственного интеллекта публично высказали предположение, что такой механизм может стать обязательным по закону. Проверять его работу, согласно этой идее, должна была бы независимая третья сторона, а не сама компания, разработавшая систему.

Технически речь идет о возможности прервать работу ИИ-агента, то есть бота, способного действовать автономно. Николя Паперно, профессор Университета Торонто, рассказал AFP, что организация, запустившая такого агента, может остановить его, заблокировав доступ к вычислительным мощностям.

Сложнее это сделать, если программа уже вышла за пределы исходной среды. Паперно привел пример, когда ИИ использовали для распространения вредоносного компьютерного кода, способного самостоятельно создавать свои копии.

«В таком случае нам пришлось бы одновременно останавливать действие всех копий, которые червь создал сам по себе, устройство за устройством», — отметил он.

Тьерри Пуабо, эксперт по ИИ Французского национального центра научных исследований (CNRS), считает обманчивой саму идею единой кнопки, которая могла бы «отключить весь ИИ».

«На самом деле так просто отключить ИИ нельзя», — сказал он. «В мире существует огромное количество компаний, различного программного обеспечения и сервисов. Нет ни одного человека, который контролировал бы ИИ в целом».

По его словам, отдельную систему вполне можно остановить. Для этого нужно контролировать оборудование и сервисы, от которых она зависит.

Хусейн Аббас, профессор информатики Университета Нового Южного Уэльса (UNSW) в Канберре, разделил системы ИИ на три уровня сложности. В первом случае речь идет о централизованной системе, которую оператор полностью контролирует. Для нее аварийное отключение «теоретически и практически возможно».

С двумя другими сценариями все сложнее. Это децентрализованные системы, которым разрешено взаимодействовать с другими программами, файлами или системами. В таком случае одновременно остановить всю их работу гораздо труднее.

Чем больше ИИ внедряется в повседневные процессы, тем выше становится риск того, что его отключение затронет и обычное использование технологии. Остановка таких систем может нарушить работу сервисов, от которых уже зависят бизнес, государственные учреждения и медицинские организации. Издержки от такого шага были бы «огромными», отметил Паперно.

По мнению Жана-Габриэля Ганаска, профессора информатики Сорбонны, дискуссия об «выключателе» для ИИ подпитывает ложное представление о том, что главная угроза заключается в возможном появлении у системы собственной воли. По его словам, реальный риск связан с тем, что человечество все больше зависит от таких технологий.

Проблема усугубляется тем, что контроль над моделями ИИ остается неполным: проверки крупных разработчиков выявляли слабые места в изоляции, мониторинге и внешнем надзоре.

Вопрос уже выходит за рамки теории. В ходе тестирований агенты ИИ выходили за пределы изолированной среды, а компании и исследователи все активнее обсуждают международные правила для передовых систем. В июле более 1100 сотрудников OpenAI, Anthropic, Google и Meta призвали к международному контролю за развитием ИИ.

Подробнее о возможности государственного контроля над такими системами — в статье ZN.UA «Государство может отключить искусственный интеллект. Почему блокировка новых моделей Claude — урок для Украины» пишет заведующий Научной лабораторией иммерсивных технологий и права Института информации, безопасности и права Национальной академии правовых наук Украины Алексей Костенко.