Яким буде штучний інтелект через 50 років?

Співзасновник журналу Wired Кевін Келлі вважає, що через пів століття штучний інтелект стане невіддільною частиною фізичного світу. Замість єдиної надпотужної системи, яку прогнозує, зокрема письменник Рамез Наам, виникне мережа незліченної кількості інтелектів, які взаємодіятимуть між собою. На думку Келлі, такий ройовий ШІ працюватиме переважно у фоновому режимі, а його управління вимагатиме нових механізмів координації, безпеки та відповідальності.

Яким буде майбутнє з ШІ

«На відміну від сучасного ШІ, майбутній інтелект буде глибоко інтегрований у фізичний світ — у роботів, транспортні засоби, будівлі та пристрої. Але ця інтеграція буде настільки масштабною, глибокою та всеосяжною, що ШІ перетвориться на звичне тло реальності», — заявив Келлі.

Келлі порівнює цю систему із суперорганізмом або кораловим рифом, що складається з тисяч різновидів інтелектів. Одні з них виконуватимуть прості завдання, інші спеціалізуватимуться на математиці, біології чи моделюванні, а решта забезпечуватиме повсякденну роботу компаній та інших організацій.

«Головна особливість будь-якого суперорганізму полягає в тому, що його потужність перевершує сукупну потужність його окремих складових», — пояснив Келлі.

На думку автора, системи обмінюватимуться даними, координуватимуть роботу, перевірятимуть результати одна одної, оновлюватимуться та підтримуватимуть спільну інфраструктуру. Внаслідок цього виникне екосистема взаємозалежних інтелектів, які розвиватимуться разом із середовищем, до якого належать.

Майбутні ризики 

Водночас підтримувати стабільність такої мережі буде складно. Келлі зазначає, що надмірна кількість зв’язків між її елементами може зробити систему негнучкою, тоді як недостатня координація призведе до хаосу. Раптовий колапс ройового інтелекту він називає однією з головних загроз його використання.

Для взаємодії різнорідних систем, за прогнозом Келлі, сформуються спеціальні протоколи. Вони виходитимуть за межі звичайних програмних інтерфейсів і визначатимуть, як агенти передаватимуть завдання, обмінюватимуться пам’яттю, оцінюватимуть надійність партнерів і формуватимуть репутацію. Більшість цих процесів відбуватиметься непомітно для людей.

Ще однією проблемою стане відповідальність за помилки. Оскільки результати роботи рою виникатимуть унаслідок взаємодії багатьох систем, може бути складно визначити конкретного автора, власника чи оператора, відповідального за завдану шкоду. Хоча окремі організації контролюватимуть важливі вузли інфраструктури та критичні протоколи, жодна з них не обов’язково матиме контроль над усією мережею.

Келлі припускає, що це сприятиме появі нових моделей децентралізованого страхування та правового регулювання. Для перевірки трильйонів агентів, які заявлятимуть про свою компетентність і надійність, знадобиться окрема «технологічна система довіри», здатна забезпечувати автентифікацію, оцінювання та класифікація систем. Значна частина витрат на взаємодію між агентами може припадати саме на підтримку таких механізмів.

Щоб визначати причини проблем, знадобляться нові методи оцінювання впливу окремих компонентів на роботу всієї мережі. Зокрема, Келлі пропонує використовувати моделювання альтернативних сценаріїв, яке допоможе з’ясувати, що сталося б за відсутності певного компонента. Нині, за його словами, практичних способів встановлювати відповідальність за шкоду, спричинену взаємодією кількох систем ШІ, недостатньо.

У такому середовищі також швидше розповсюджуватимуться шахрайські агенти, спам, низькоякісний контент і шкідливі програми. Келлі очікує, що для протидії їм сформують своєрідну імунну систему з агентів, які виявлятимуть небезпечну поведінку, ізолюватимуть її джерела та обмежуватимуть можливу шкоду. 

«Створення такої імунної системи відкриє економічні можливості для багатьох», — додав Келлі.

Крім того, взаємодія численних систем може породжувати нові моделі поведінки та способи розв’язання завдань, яких немає в жодного окремого компонента. Такі «емерджентні явища» — властивості, що виникають завдяки взаємодії частин системи, — можуть бути одночасно захопливими й тривожними. Через масштаб і відмінність від людського мислення значна частина поведінки ройового ШІ здаватиметься людям чужою.

Різні рівні інтелекту

Келлі також прогнозує, що ройові інтелекти існуватимуть на різних рівнях — від корпоративного до планетарного. У міру насичення компаній ШІ їхні структури дедалі більше нагадуватимуть взаємопов’язані інтелектуальні системи, здатні самостійно виконувати значну частину організаційної роботи.

На його думку, управляти таким середовищем буде доцільніше за принципом садівництва, а не традиційного інженерного проєктування. Замість спроб контролювати кожен внутрішній механізм однією системою доведеться створювати правила, обмеження, ізольовані середовища та умови, які сприятимуть бажаній поведінці ШІ. Такий підхід передбачатиме постійне спостереження та втручання, але не гарантуватиме повного контролю.

ШІ через 50 років

«Через 50 років у цьому світі ройового штучного інтелекту, ми не говоритимемо про ШІ. Ми його майже не помічатимемо. Він буде всюди, вбудований у все довкола», — наголосив Келлі.

У майбутньому повсякденному житті люди, за прогнозом Келлі, матимуть одного або двох персональних агентів, яким довірятимуть і з якими взаємодіятимуть безпосередньо. Він описує їх як «екзо-Я» — цифрових двійників або партнерів, які допомагатимуть користувачам у різних справах.

Водночас більшість інших систем ШІ залишатиметься поза увагою людей, працюючи в автомобілях, кухнях, офісах, літаках, інструментах і будівлях. Люди помічатимуть їх переважно тоді, коли станеться збій або припиниться робота певної функції. Основним завданням наступного покоління винахідників, вважає Келлі, стане налагодження роботи цієї глобальної мережі інтелектів.

Раніше у статті «Не фантастика. ШІ вже здатен розмножуватись і впливати на роботу онлайн-сервісів. Чи готові ми до цього?» доктор юридичних наук Олексій Костенко звернув увагу на виникнення нового класу ризиків — здатність автономних ШІ-агентів до самореплікації без прямої команди людини. Дослідник пояснив, що великі мовні моделі з доступом до серверної інфраструктури в умовах браку обчислювальних потужностей вже самостійно ініціюють запуск власних копій для підтримки роботи систем, перетворюючи технічну функцію автоматичного масштабування на некеровану цифрову поведінку.