Сотрудники OpenAI на протяжении многих лет предупреждали руководство о пробелах в безопасности — Reuters

Сотрудники OpenAI на протяжении многих лет предупреждали руководство и совет директоров о недостатках внутренней безопасности, рассказали пять осведомлённых собеседников. Компания начала усиливать защиту внутренних систем и направила на эту работу часть инженеров. Об этом сообщило информационное агентство Reuters.

Еще до запуска ChatGPT в конце 2022 года некоторые сотрудники OpenAI поднимали внутри компании вопросы безопасности. Свои предостережения сотрудники передавали высшему руководству и совету директоров. После этих разговоров у части сотрудников сложилось впечатление, что руководство больше озабочено тем, как не отстать от Google и Anthropic, чем вопросами безопасности.

Сотрудники считали, что контроль в OpenAI был недостаточным. По их мнению, посторонние лица, в частности иностранные правительства, могли относительно легко получить конфиденциальную информацию о технологиях компании. Например, сотрудники с доступом к коду могли видеть технические детали многих проектов OpenAI.

По словам двух собеседников, OpenAI начала менять подход к безопасности. Руководитель направления разработки продуктов Тибо Соттио недавно возглавил внутреннюю инициативу по защите систем компании. Один из собеседников сообщил, что в августе Соттио перевел четверть инженеров, отвечающих за работу сервисов OpenAI, на задачи по укреплению инфраструктуры безопасности.

Многолетние обращения сотрудников по поводу внутренних уязвимостей показывают, с какой проблемой столкнулись разработчики ИИ. Некоторые подробности этих обращений ранее не обнародовались. С момента запуска ChatGPT в конце 2022 года искусственный интеллект стал стратегически важной технологией для США. Это усилило давление на американские компании, от которых ожидают защиты своих разработок от иностранных конкурентов.

В то же время дополнительные меры безопасности могут замедлить разработку ИИ. Они также могут осложнить планы OpenAI и Anthropic по масштабным первичным размещениям акций. После выхода на биржу обе компании могли бы оказаться среди самых дорогих в мире.

Бывший исследователь OpenAI Уилл Депью, уволившийся в апреле 2026 года, считает, что в условиях такой острой конкуренции руководители компаний, занимающихся разработкой ИИ, не готовы жертвовать скоростью ради безопасности. По его оценке, быстрое развитие для них важнее защиты даже от главных противников США.

В ответ на вопрос о предостережениях сотрудников и их впечатлении, что руководство не реагировало. Пресс-секретарь OpenAI Элана Видманн заявила, что компания является одной из самых частых целей атак в мире. По её словам, OpenAI вкладывает значительные средства в защиту от угроз со стороны сотрудников, киберпреступников и иностранных государств.

Видманн подчеркнула, что OpenAI серьезно относится к защите своих технологий, данных и людей и считает это вопросом национального значения. По её мнению, недавние действия компании показали, что программа безопасности помогает выявлять риски и оперативно реагировать. OpenAI, по её словам, продолжит усиливать защиту по мере развития технологий и появления новых угроз.

13 октября Министерство юстиции США сообщило, что федеральные агенты задержали гражданина Саудовской Аравии. Его обвинили в том, что он установил в зале для совещаний руководства скрытое устройство для аудиозаписи. На тот момент 35-летний Абдулрахман Альфозан работал инженером в OpenAI.

Согласно судебным документам, Альфозан также воспользовался инструментом ИИ для сотрудников OpenAI, чтобы найти внутренние документы о поездках руководителей компании в Саудовскую Аравию. Он выяснял, кто из представителей OpenAI с наибольшей вероятностью будет участвовать во встречах с саудовскими министрами. Альфозан регулярно общался с членом саудовской королевской семьи, который пытался привлечь его к новому проекту в области искусственного интеллекта в стране.

Некоторых сотрудников давно беспокоило то, насколько широким был доступ к информации внутри OpenAI. Каждый сотрудник, имевший доступ к коду OpenAI, мог видеть подробности многих проектов. Среди них были и конфиденциальные разработки, не имевшие отношения к работе конкретного сотрудника. По словам собеседников, большую часть кода компания хранила в одном хранилище, которое называют монорепозиторием. Раньше его объем и сложная структура могли сдерживать потенциальных злоумышленников. Теперь агенты ИИ способны обрабатывать такой объем материалов.

Ранее OpenAI хранила значительную часть исследовательской документации на GitHub и в Slack. По словам пяти собеседников, некоторые сотрудники опасались, что целенаправленный поиск в этих материалах позволит найти важную информацию. В то же время один из собеседников и сама OpenAI сообщили, что компания ограничила доступ к конфиденциальным разработкам.

В компании подчеркнули, что значительную часть наиболее конфиденциальных материалов хранят в отдельных репозиториях кода со строгим контролем доступа. По словам OpenAI, монорепозиторий не содержит всего кода или критически важных деталей моделей. В частности, в нём нет весов моделей — числовых параметров, определяющих их поведение.

Еще одной проблемой, по словам трех осведомленных собеседников, было отсутствие регулярных проверок безопасности внутренних инструментов. Среди них — так называемые песочницы, изолированные среды, в которых исследователи проверяют поведение новых моделей в сложных условиях. Сотрудники часто модифицировали эти инструменты под свои задачи. Изменения не всегда проверялись на уязвимости, поэтому посторонние злоумышленники потенциально могли ими воспользоваться.

Напомним, что OpenAI объявила о бесплатной передаче Украине системы киберзащиты Daybreak. О сделке компания сообщила 23 сентября во время Генассамблеи ООН в Нью-Йорке. Система призвана защищать от кибератак гражданскую инфраструктуру, в частности больницы и электростанции. Daybreak сочетает модели искусственного интеллекта с инструментами Codex Security для выявления уязвимостей и разработки исправлений.

Кроме того, генеральный директор OpenAI Сэм Альтман заявил, что в условиях дефицита оперативную память эффективнее использовать в дата-центрах. В подкасте Cheeky Pint он отметил, что значительная часть запасов памяти приходится на персональные компьютеры, где она используется лишь около 5 % времени. Производители микросхем Samsung и SK Hynix заключают долгосрочные соглашения с операторами облачных сервисов и крупными инфраструктурными проектами.