"Може піти дуже погано": Альтман попередив про моторошні сценарії розвитку ШІ

Генеральний директор OpenAIСем Альтманназвав два сценарії розвитку штучного інтелекту, яких, на його думку, людство має уникнути.

Про це Альтман написав в соцмережі Х.

Його заява пролунала після того, як глава Anthropic Дario Амодеї закликав уповільнити розвиток найпотужніших моделей штучного інтелекту та посилити контроль за технологією.

12 вересня Амодеї опублікував есе We Must Pace the Frontier, у якому запропонував план із трьох пунктів для уповільнення розвитку ШІ. Він попередив про ризики, які швидке вдосконалення технології може створювати для суспільства.

Альтман спочатку погодився з необхідністю такого підходу.

«Я погоджуюся з Дario, що нам потрібно встановити темп розвитку передових технологій», — написав глава OpenAI у соцмережі X.

За його словами, OpenAI вже впроваджує додаткові заходи безпеки. Зокрема, компанія заздалегідь формує спеціальні оцінки безпеки перед запуском навчання передових моделей із підкріпленням, якщо очікується суттєве зростання їхніх можливостей.

Альтман також закликав інші компанії розробляти власні підходи та спільні стандарти щодо контролю, моніторингу та безпеки ШІ.

Які два сценарії лякають Альтмана

Пізніше Альтман окремо описав власне бачення головних ризиків розвитку штучного інтелекту.

«Є два способи, як розвиток ШІ може піти дуже погано, і яких ми повинні уникнути», — написав він у X.

Сценарій №1: людство втратить контроль над майбутнім ШІ

«Ми можемо втратити контроль над майбутнім через ШІ. Це неприйнятно», — заявив Альтман.

Він наголосив, що OpenAI однозначно виступає на боці людства, а штучний інтелект, за його словами, завжди має служити людям.

Для цього, вважає глава OpenAI, необхідно забезпечити, щоб методи узгодження поведінки ШІ з людськими цілями та технології безпеки розвивалися швидше або щонайменше не відставали від зростання можливостей моделей.

Сценарій №2: надмірна концентрація влади

Альтман побоюється, що світ може опинитися в ситуації, коли надзвичайно потужний штучний інтелект контролюватиме одна людина або одна компанія.

«Якщо надзвичайно потужний ШІ буде використаний однією людиною або компанією, щоб нав’язати всім іншим своє бачення світу, наслідки можуть бути надзвичайно антиутопічними», — написав він.

Саме тому Альтман погоджується з ідеєю Амодеї щодо «уповільнення» розвитку передових систем ШІ.

Водночас глава OpenAI уточнив, що йдеться не про зупинку прогресу.

«Коли ми говоримо про „уповільнення“, ми не маємо на увазі „зупинку“. Прогрес був швидким і продовжуватиметься. Але він має бути повільнішим, ніж міг би бути за інших умов», — пояснив Альтман.

На його думку, така ціна за додаткову безпеку буде виправданою.

РанішеАльтман також заявляв,що компаніям, які розробляють дедалі потужніший штучний інтелект, необхідно діяти відповідально, а суспільство має бути впевненим у безпеці таких технологій.