OpenAI, Anthropic і Google працюють над створенням органу зі стандартизації ШІ

Компанії-розробники штучного інтелекту OpenAI, Anthropic і Google працюють над створенням органу зі стандартизації, оскільки у світі зростає занепокоєння щодо небезпеки ШІ. Про це пише France24. 

OpenAI повідомила, що працює з Anthropic і Google над ідеєю керівника Google DeepMind Деміса Хассабіса, який запропонував створити саморегульований орган за зразком Служби регулювання галузі фінансових послуг (FINRA), яка наглядає за американськими брокерами та інвестиційними компаніями.

Хассабіс ще в липні закликав США створити організацію, яка тестуватиме найпотужніші ШІ-системи, перш ніж до них отримуватимуть доступ користувачі. Фінансувати цю систему, на його думку, має сама галузь.

За словами Хассабіса, фінансування має бути суттєвим, щоб залучити найкращих технічних фахівців і забезпечити необхідні обчислювальні потужності для масштабного тестування. 

Водночас єдиної позиції щодо того, яким має бути такий орган, поки немає. 

Занепокоєння щодо безпеки штучного інтелекту зросло, зокрема, після попередження про ризики від двох колишніх працівників компаній-розробників ШІ. Так, Джейкоб Коксон, який останні три роки працював в OpenAI та Anthropic, заявив, що ШІ-компанії «граються з нашими життями».

Його думку підтримав колишній дослідник Google DeepMind Білал Чугтаї, який сказав, що штучний інтелект здатен знищити людство, а час, щоб цьому запобігти, спливає.

Після цього керівник Anthropic Даріо Амодей закликав сповільнити розвиток передових ШІ-моделей. Його думку підтримали гендиректор OpenAI Сем Альтман та засновник SpaceXAI Ілон Маск. 

Водночас президент США Дональд Трамп сказав, що вважає невтішні попередження щодо ШІ перебільшеними і що «негативні сили» роблять заяви про те, чого ніколи не станеться.

Нагадаємо, нещодавно стало відомо, що кібершпигуни з Росії використовували штучний інтелект Claude від компанії Anthropic для атак проти України.

Фото: Unsplash