OpenAI підтримує новий проєкт, що намагається запобігти біоатакам ШІ

Це сценарій кошмару: терорист без належної підготовки використовує програму штучного інтелекту для створення супервірусу, що поєднує інкубаційний період ВІЛ, заразність кору та рівень смертності від віспи. Це найгірший варіант розвитку подій для революції штучного інтелекту, написав Центр безпеки штучного інтелекту у своєму нещодавньому звіті . Це також те, що не дає Кетлін Макмехон спати вночі.

Макмегон є співзасновником і головним виконавчим директором Valthos Inc., нью-йоркського стартапу з розробки програмного забезпечення для біобезпеки, який створює інструменти для захисту від атак біологічної зброї, які можуть бути прискорені завдяки розвитку штучного інтелекту. У п'ятницю стартап, що складається з дев'яти осіб, офіційно виходить із прихованої діяльності завдяки фінансуванню у розмірі 30 мільйонів доларів від OpenAI, Founders Fund та Lux Capital.

Програмне забезпечення Valthos об’єднує біологічні дані з комерційних та урядових джерел, таких як моніторинг повітря та стічних вод, а потім використовує інструменти штучного інтелекту для виявлення нових загроз та характеристики ризиків. Компанія також розробляє системи штучного інтелекту для оновлення медичних контрзаходів для нових загроз і планує залучати таких партнерів, як фармацевтичні компанії, для виробництва та дистрибуції.

«Єдиний спосіб стримати атаку — це знати, коли вона відбувається, оновлювати контрзаходи та швидко їх розгортати», — сказав Макмегон, який раніше довго очолював підрозділ наук про життя Palantir Technologies Inc. Макмегон заснувала Valthos разом із Тесс ван Стекеленбург, венчурним партнером Lux Capital, яка має ступені з обчислювальної нейронауки та біології. Ван Стекеленбург сказала, що вона роками шукала компанію з біозахисту для підтримки, перш ніж вирішити створити власну компанію з Макмегоном.

Оборонні технології стали гарячою сферою для венчурних інвестицій, оскільки інвестори з Кремнієвої долини вкладають мільярди в автономні дрони, передові ядерні системи та інші проєкти національної безпеки. Але фінансування біотехнологій, категорії, яка включає захист від біологічної зброї, цього року впало до найнижчого рівня за понад десять років, згідно з даними дослідницької компанії PitchBook.

Водночас прогрес у добре фінансованих дослідженнях штучного інтелекту підвищив ставки для біотехнологічних інновацій. Раніше цього року Комісія національної безпеки з питань нових біотехнологій опублікувала звіт про цей сектор, закликаючи до збільшення інвестицій. «Для біотехнологій настане момент ChatGPT», – писали автори, – «і якщо Китай досягне його першим, то як би швидко ми не бігли, ми ніколи не наздоженемо».

Великі компанії, що розробляють мовні моделі, заявили , що проводять власні оцінки ризиків та працюють над розробкою контрзаходів для виявлення та запобігання злочинному використанню своїх технологій. Директор зі стратегії OpenAI Джейсон Квон сказав, що Valthos — це перша інвестиція в біобезпеку, яку OpenAI обговорювала, хоча він припустив, що робота компанії в цій галузі може бути розширена.

«Потрібна система компенсаційних технологій, щоб зробити систему надійною», – сказав Квон. Він додав, що OpenAI «постійно розвиває» запобіжні заходи для запобігання зловживанню ChatGPT, і що ефективна біобезпека вимагає великої мережі різноманітних зацікавлених сторін. «Ми повинні побудувати екосистему».

Федеральний уряд нещодавно скоротив фінансування проєктів біозахисту, водночас приватний сектор уповільнив власні витрати — частково тому, що біотехнології не завжди окуповувалися для інвесторів. «Питання полягає в тому, чи це правильна сума грошей, і чи можемо ми впровадити ці рішення належним чином», — сказав Деніел Ріган , старший науковий співробітник Ради зі стратегічних ризиків, який спеціалізується на біобезпеці. «Цим компаніям з приватними коштами важко вибратися з інвестиційної долини смерті та знайти шлях до успіху».

Оскільки уряд США буде основним замовником технології Valthos, генеральний директор Макмегон сказала, що стартап застосовуватиме багато тих самих принципів, які вона вивчила в Palantir, щодо роботи як з чиновниками, так і з комерційними клієнтами. «Нам потрібно зустрічатися з операторами там, де вони є», – сказала вона.

Партнер Lux Capital Брендон Рівз сказав, що стартапів, які створюють інструменти у сфері біобезпеки, небагато, але прогнозує, що Valthos буде першою з багатьох компаній, яка зосередиться на цьому секторі. «Ми знаходимося на ранніх стадіях», – сказав Рівз. «Ми вважаємо, що це має бути на тому ж рівні загрози, що й ядерна чи кібербезпека».