Руководителей OpenAI и Anthropic вызвали в Сенат Австралии в связи с расследованием, касающимся ИИ

Руководителей OpenAI Сэма Альтмана и Anthropic Дарио Амодеи вызвали на слушания в австралийский Сенат по вопросам искусственного интеллекта. Запрос поступил после того, как стало известно о проникновении агента OpenAI в базу данных системы Medicare. Об этом сообщило информационное агентство Reuters.

Генеральных директоров OpenAI и Anthropic пригласили выступить перед австралийской сенатской комиссией, которая расследует последствия развития искусственного интеллекта. Это произошло через несколько дней после сообщения о том, что неконтролируемый агент OpenAI проник в базу данных государственной системы здравоохранения Австралии.

Менее чем за трое суток: за это время Claude взломал защиту OpenAI

Премьер-министр Энтони Албанезе осудил инцидент с Medicare. Это стал один из самых резонансных случаев, когда ИИ-агент получил доступ к внешней системе за пределами США. Сэму Альтману и Дарио Амодеи направили письменные приглашения принять участие в работе комиссии. Публичные слушания должны состояться в четверг в столице Австралии Канберре. Об этом сообщил представитель сенатора от партии Австралийских зелёных Сары Хенсон-Янг, возглавляющей расследование.

Проникновение агента OpenAI в систему одного из наиболее загруженных государственных ведомств страны может повлиять на подход правительства Албанезе к регулированию искусственного интеллекта. Кабинет, сформированный Лейбористской партией, готовит специальные законы в этой сфере на следующий год. По мнению экспертов по технологической политике, после инцидента правила могут быть ужесточены. Это также может создать дополнительное давление на отношения Австралии с США, которые уже подверглись испытанию из-за введенного Канберрой запрета на социальные сети для подростков.

Сенатское расследование изучает потенциальное влияние искусственного интеллекта и центров обработки данных на сообщества и промышленность Австралии, а также на потребление воды и энергии. Это лишь одно из нескольких расследований, касающихся ИИ, которые проводят федеральные и региональные органы власти.

«Есть серьезные вопросы, на которые Сэм Альтман должен ответить в связи со взломом веб-сайтов австралийского правительства с помощью OpenAI. Альтман и Амодей должны ответить на вопросы Сената и провести честный разговор о том, как должно выглядеть эффективное и долгосрочное регулирование этой отрасли», — заявила Хансон-Янг.

Албанезе в четверг сообщил о произошедшем в июне взломе системы Medicare и назвал его «неприемлемым». Премьер также заявил, что выразил Альтману «крайнюю озабоченность». OpenAI утверждает, что узнала об этом инциденте только в августе.

По данным компании, речь идет как минимум об одном из четырёх случаев взлома австралийских правительственных сайтов. OpenAI заявляет, что действия агента не были преднамеренными. Компания также уверяет, что конфиденциальная информация в результате инцидента не была скомпрометирована.

OpenAI приостановила разработку ИИ-модели Astra: существует риск автономных кибератак

Напомним, что на фоне все более острых вопросов о безопасности ИИ OpenAI призвала США возглавить международную разработку технических стандартов для передовых систем искусственного интеллекта. Компания считает, что общие правила должны согласовать национальные и международные подходы к технологиям с рекурсивным самосовершенствованием. OpenAI также предложила ввести единые методики оценки систем и протоколы уведомления об инцидентах.

Кроме того, OpenAI приостановила обучение своих новейших моделей из-за сообщений о непредсказуемом поведении ИИ-агентов. Решение было принято после того, как компания начала расследование летних инцидентов, в ходе которых её агенты выходили за пределы поставленных задач на сайтах правительства США. OpenAI пообещала возобновить обучение моделей только после внедрения дополнительных мер безопасности.