Чоловік, який протестує проти розробки наступного покоління ШІ, голодує десятий день

Концепція штучного загального інтелекту (AGI), що перевершує людський, викликає запеклі суперечки. Для одних це мета, для інших – екзистенційна загроза. На знак протесту проти неконтрольованого розвитку таких технологій активіст Гвідо Райхштадтер розпочав голодування біля штаб-квартири однієї з провідних ШІ-компаній Anthropic у Сан-Франциско.

Активіст переконаний, що технологічні компанії, створюючи системи, які перевершують людські можливості в усіх важливих аспектах, породжують абсолютно новий клас небезпеки. Він стверджує, що, попри всі можливі спекулятивні переваги, жодна з цих компаній не має практичного плану контролю над такою могутністю після її створення.

На думку Райхштадтера, корпорації не мають права свідомо ризикувати життям мільйонів людей, тому їхнім правильним кроком було б зупинити глобальну гонку за розробку небезпечного ШІ.

Вибір Anthropic як об'єкта для протесту може здатися дивним, адже її генеральний директор Даріо Амодеї раніше називав AGI "маркетинговим терміном", намагаючись дистанціюватися від інших мільярдерів-засновників техкомпаній. Однак за цією стриманістю ховається оптимізм щодо появи AGI або чогось подібного вже найближчим часом:

• Наприклад, співзасновник Anthropic, Бенджамін Манн, прогнозував появу AGI вже у 2027 або 2028 році, що, за його словами, призведе до зростання безробіття щонайменше до 20%.
• Сам Амодеї заявляв, що ШІ людського рівня зможе вирішити безліч соціальних проблем – від подолання масової бідності до лікування більшості психічних захворювань.

Це свідчить про зацікавленість компанії в технології, навіть якщо вона сама поки що над нею не працює. Адже якщо конкуренти матимуть настільки потужні продукти, то й Anthropic не повинна буде відставати. Ми бачимо це по тому, як швидко у Claude впроваджуються функції, які спочатку з'являються в інших чат-ботах.

Як зазначає Райхштадтер, якби керівництво Anthropic справді було стурбоване перспективами AGI, воно б не нарощувало свої операції такими темпами. Компанія продемонструвала значне зростання після запуску своєї моделі Claude у 2023 році та нещодавно залучила близько 13 мільярдів доларів інвестицій для подальшого розвитку ШІ.

Для активіста голодування – це спосіб залучити увагу критиків індустрії та водночас втілити смертельну загрозу, яку представляють Anthropic та інші ШІ-компанії. Райхштадтер заявляє, що продовжуватиме страйк, доки генеральний директор не зверне на нього увагу. Його мета – або зупинити розробки, або отримати особисте пояснення від керівника компанії.

У якому стані він зараз?

На дев'ятий день протесту організм Райхштадтера увійшов у фазу кетозу, коли тіло для отримання енергії починає спалювати жир, а не вуглеводи. У розмові з журналістами Futurism він запевнив, що почувається нормально, адже вже має досвід двотижневого голодування в рамках кампанії проти зміни клімату.

Зусилля активіста вже дають результати, але не ті, на які він розраховував. Через кілька днів після початку його акції ще двоє людей почали аналогічні голодування біля офісу Google DeepMind у Лондоні. Райхштадтер каже, що ці протести не були скоординовані заздалегідь, але він вітає будь-яку допомогу, закликаючи інших не сидіти склавши руки, поки їхнє життя ставлять під загрозу.