Працівники OpenAI роками попереджали керівництво про прогалини в безпеці — Reuters

Працівники OpenAI роками попереджали керівництво та раду директорів про недоліки внутрішньої безпеки, розповіли п’ятеро обізнаних співрозмовників. Компанія почала посилювати захист внутрішніх систем і спрямувала на цю роботу частину інженерів. Про це повідомило інформаційне агентство Reuters.

Ще до запуску ChatGPT наприкінці 2022 року деякі співробітники OpenAI порушували всередині компанії питання безпеки. Свої застереження працівники передавали вищому керівництву та раді директорів. Після цих розмов у частини працівників склалося враження, що керівництво більше переймається тим, як не відстати від Google і Anthropic, ніж питаннями захисту.

Працівники вважали, що контроль в OpenAI був недостатнім. На їхню думку, сторонні особи, зокрема іноземні уряди, могли відносно легко отримати чутливу інформацію про технології компанії. Наприклад, співробітники з доступом до коду могли бачити технічні подробиці багатьох проєктів OpenAI.

За словами двох співрозмовників, OpenAI почала змінювати підхід до безпеки. Керівник напряму розробки продуктів Тібо Соттіо нещодавно очолив внутрішню ініціативу із захисту систем компанії. Один зі співрозмовників повідомив, що в серпні Соттіо перевів чверть інженерів, що відповідають за роботу сервісів OpenAI, на завдання з посилення інфраструктури безпеки.

Багаторічні звернення співробітників щодо внутрішніх вразливостей показують, з якою проблемою зіткнулися розробники ШІ. Деякі подробиці цих звернень раніше не оприлюднювалися. Від запуску ChatGPT наприкінці 2022 року штучний інтелект став стратегічно важливою технологією для США. Це посилило тиск на американські компанії, від яких очікують захисту їхніх розробок від іноземних конкурентів.

Водночас додаткові заходи безпеки можуть сповільнити розробку ШІ. Вони також можуть ускладнити плани OpenAI та Anthropic щодо масштабних первинних розміщень акцій. Після виходу на біржу обидві компанії могли б опинитися серед найдорожчих у світі.

Колишній дослідник OpenAI Вілл Деп’ю, який звільнився у квітні 2026 року, вважає, що за такої гострої конкуренції керівники компаній із розробки ШІ не готові поступатися швидкістю заради безпеки. За його оцінкою, швидкий розвиток для них важливіший за захист навіть від головних противників США.

У відповідь на запитання про застереження співробітників і їхнє враження, що керівництво не реагувало, речниця OpenAI Елана Відманн заявила, що компанія є однією з найчастіших цілей атак у світі. За її словами, OpenAI вкладає значні кошти в захист від загроз з боку працівників, кіберзлочинців та іноземних держав.

Відманн наголосила, що OpenAI серйозно ставиться до захисту своїх технологій, даних і людей та вважає це питанням національного значення. На її думку, нещодавні дії компанії показали, що програма безпеки допомагає виявляти ризики й оперативно реагувати. OpenAI, за її словами, продовжить посилювати захист у міру розвитку технологій і появи нових загроз.

13 жовтня Міністерство юстиції США повідомило, що федеральні агенти затримали громадянина Саудівської Аравії. Його звинуватили в тому, що він установив у залі для нарад керівництва прихований пристрій для аудіозапису. На той час 35-річний Абдулрахман Альфозан працював інженером в OpenAI.

Згідно із судовими документами, Альфозан також скористався інструментом ШІ для працівників OpenAI, щоб знайти внутрішні документи про поїздки керівників компанії до Саудівської Аравії. Він з’ясовував, хто з представників OpenAI найімовірніше братиме участь у зустрічах із саудівськими міністрами. Альфозан регулярно спілкувався з членом саудівської королівської родини, який намагався залучити його до нового проєкту зі штучного інтелекту в країні.

Деяких працівників давно непокоїло те, наскільки широким був доступ до інформації всередині OpenAI. Кожен працівник, який мав доступ до коду OpenAI, міг бачити подробиці багатьох проєктів. Серед них були й чутливі розробки, які не стосувалися роботи конкретного співробітника. За словами співрозмовників, більшу частину коду компанія зберігала в одному сховищі, яке називають монорепозиторієм. Раніше його обсяг і складна структура могли стримувати потенційних зловмисників. Тепер агенти ШІ здатні опрацьовувати такий обсяг матеріалів.

Раніше OpenAI зберігала значну частину дослідницької документації на GitHub і в Slack. За словами п’ятьох співрозмовників, деякі працівники побоювалися, що цілеспрямований пошук у цих матеріалах дасть змогу знайти важливі відомості. Водночас один зі співрозмовників і сама OpenAI повідомили, що компанія обмежила доступ до чутливих розробок.

У компанії наголосили, що значну частину найчутливіших матеріалів зберігають в окремих сховищах коду зі суворим контролем доступу. За словами OpenAI, монорепозиторій не містить усього коду чи критично важливих деталей моделей. Зокрема, у ньому немає ваг моделей — числових параметрів, які визначають їхню поведінку.

Ще однією проблемою, за словами трьох обізнаних співрозмовників, була відсутність регулярних перевірок безпеки внутрішніх інструментів. Серед них — так звані пісочниці, ізольовані середовища, у яких дослідники перевіряють поведінку нових моделей у складних умовах. Працівники часто змінювали ці інструменти під свої завдання. Зміни не завжди перевіряли на вразливості, тож сторонні зловмисники потенційно могли ними скористатися.

Нагадаємо, що OpenAI оголосила про безоплатну передачу Україні системи кіберзахисту Daybreak. Про угоду компанія повідомила 23 вересня під час Генасамблеї ООН у Нью-Йорку. Система має захищати від кібератак цивільну інфраструктуру, зокрема лікарні та електростанції. Daybreak поєднує моделі штучного інтелекту з інструментами Codex Security, щоб виявляти вразливості й розробляти виправлення.

Окрім того, генеральний директор OpenAI Сем Альтман заявив, що в умовах дефіциту оперативну пам’ять ефективніше використовувати в дата-центрах. У подкасті Cheeky Pint він сказав, що значна частина запасів пам’яті припадає на персональні комп’ютери, де її використовують лише близько 5% часу. Виробники мікросхем Samsung і SK Hynix укладають довгострокові угоди з операторами хмарних сервісів і великими інфраструктурними проєктами.