Прибутки компаніям, ризики — людям: експерт закликав зупинити неконтрольовану гонку ШІ

Американський спеціаліст з етики технологій та співзасновник Центру гуманних технологій (Center for Humane Technology, CHT) Трістан Гарріс закликав змінити стимули, які визначають розвиток штучного інтелекту. Він вважає, що гонка за технологічною перевагою може призвести до негативних наслідків, про які індустрія майже не говорить. Серед можливих рішень Гарріс називає обов’язкові тести безпеки, прозорість ШІ-лабораторій та розробку вузькоспеціалізованих систем.

За словами Гарріса, він уже близько двох років запрошує генерального директора OpenAI Сема Альтмана на свій подкаст, однак той не погоджується. Експерт зазначив: “Мені здається, що він, можливо, трохи уникає мене”. На думку Гарріса, однією з причин може бути відсутність чіткої відповіді на питання, до чого зрештою призведе нинішній розвиток ШІ.

Водночас Гарріс наголошує, що не заперечує позитивного потенціалу технології. Він вважає, що ШІ може допомогти дітям вибратися з бідності завдяки демократизації освіти, а також сприяти лікуванню раку. Однак, за словами експерта, потрібно одночасно враховувати непередбачувані наслідки.

“Цілком можливо визнавати істинність двох речей одночасно”, — заявив Гарріс та додав, що головне питання полягає в тому, яку ціну суспільство платить за переваги технології, оскільки люди, які контролюють ШІ, рідко говорять про цю сторону компромісу.

Експерт порівнює ситуацію із соціальними мережами. Вони принесли суспільству певні переваги, однак ціною стали системна поляризація, руйнування спільного розуміння реальності та поява, за словами Гарріса, найбільш тривожного й схильного до депресії покоління в історії. Він пропонує запровадити певні зміни та подолати цю кризу.

На думку Гарріса, проблема полягає не в самих соціальних мережах, а в бізнес-моделі, за якою приватні компанії отримують прибуток, тоді як значна частина шкоди перекладається на суспільство. За словами експерта, їх схема передбачає:

• отримання великих прибутків від продукту;
• приховування або заперечення шкоди;
• політичні кампанії, спрямовані на створення сумнівів;
• обіцянки провести додаткові дослідження в майбутньому. 

У випадку соціальних мереж, як зазначає Гарріс, суспільству пропонували чекати роками, щоб з’ясувати, чи справді вони шкодять дітям. Однак щодо ШІ, на думку експерта, часу на таке очікування немає. Крім того, частину можливих наслідків можна передбачити заздалегідь, якщо проаналізувати стимули, якими керуються компанії.

Гарріс посилається на вислів адвоката Чарлі Мангера: “Покажіть мені стимули — і я покажу вам результат”. Він вважає, що прагнення компаній якомога швидше випередити конкурентів може спонукати їх скорочувати дослідження безпеки, недостатньо захищати системи, ігнорувати зростання витрат на енергію та можливу втрату робочих місць заради першості в гонці. Нещодавно на цьому наголосили також фахівці з технологій безпеки та аналізу даних Брюс Шнаєр і Натан Е. Сандерс, які пропонують націоналізувати техногігантів у разі провалу їхньої бізнес-моделі.

На думку Гарріса, аналіз стимулів дозволяє зрозуміти, яким може бути майбутній розвиток галузі. Він вважає, що суспільству потрібно чітко визначити, який сценарій воно не приймає, а потім створювати альтернативні моделі розвитку.

Одним із таких варіантів Гарріс називає спеціалізовані ШІ-репетитори, які не намагатимуться стати для користувача другом або психотерапевтом. Він наводить приклад Khan Academy та пропонує розробляти системи, зосереджені на конкретних освітніх завданнях.

Подібний підхід, на його думку, можна застосувати й до ШІ-терапевтів. Вони могли б проводити терапію обмеженого спрямування, наприклад когнітивно-поведінкову терапію, не намагаючись втручатися в систему прив’язаності людини або змушувати її розкривати найпотаємніші думки.

Гарріс також пропонує запровадити обов’язкове тестування ШІ-систем на безпеку та єдині стандарти, яких повинні дотримуватися всі компанії. За його словами, нині розробники не зобов’язані проводити такі перевірки.

Ще одним заходом він називає спільні стандарти прозорості, які дозволили б громадськості та урядам провідних країн отримувати інформацію про те, що відбувається в ШІ-лабораторіях. Особливо важливим Гарріс вважає отримання такої інформації до досягнення технологіями межі рекурсивного самовдосконалення. Це, на його думку, дало б державам можливість за необхідності укладати міжнародні угоди, маючи достатньо інформації про розвиток технології. 

Замість створення загального, непрозорого та автономного ШІ, який може бути небезпечним і некерованим, Гарріс пропонує розвивати вузькоспеціалізовані системи. Вони могли б використовуватися для підвищення ефективності сільського господарства, вдосконалення виробництва та покращення освітніх послуг.

На його думку, такий підхід дозволив би розвивати потрібні суспільству галузі економіки, одночасно обмежуючи неконтрольовані ризики. Гарріс вважає, що альтернативний шлях можливий, якщо суспільство визнає нинішню гонку ШІ неприйнятною та змінить систему стимулів, яка її підтримує.

Історик і футуролог Ювал Ной Харарі раніше попереджав про ризик виникнення нових “цифрових імперій” та безпрецедентної концентрації глобальної влади в руках США, Китаю і вузького кола техкорпорацій, які контролюють світові дані й інфраструктуру ШІ. На відміну від імперій минулого, де економічні ресурси фізично залишалися в провінціях, код та інформацію можна повністю зосередити в одному центрі. Це створює загрозу втрати технологічного суверенітету іншими країнами через цілковиту залежність від зовнішніх систем.