ШІ та мурахи: коли люди стануть кормовою базою для суперінтелекту?

Майбутнє, про яке ми змушені говорити сьогодні в термінах війни та миру, все ж таки має різні виміри. Один ґрунтується на парадигмі боротьби за існування і є реактивним. Інший передбачає стратегування з урахуванням об’єктивних тенденцій розвитку і є проактивним. Людство неначе перебуває одночасно у двох паралельних світах: спрямованому в майбутнє, де мислять категоріями глобального блага, та середньовічному, де панує ментальність, заселена демонами ненависті. В одному відбувається шалена конкуренція за пентафлопси й нанометри (перших має бути більше, а других — менше), в іншому здійсюються спроби зупинити час і навіть повернути його назад. Цей дуалізм спотворює відчуття реальності й заважає побачити, що несумісні між собою світи мають дещо спільне — це квест за першість у царині штучного інтелекту. На наших очах створюється технологія, яка, цілком імовірно, приведе людство до останнього в його історії промислового укладу. Вона позбавить людство рутини, проте має потенціал загострити цілу низку суперечностей соціально-вибухового характеру. Важливо розуміти, що насправді відбувається: передбачати означає керувати.

Технології завжди змінювали світ. Парові машини зробили Британію наймогутнішою імперією, над якою «ніколи не заходило сонце». Лампочка Фарадея освітила шлях США до світового лідерства, а винахід транзистора відкрив епоху ІТ, почасти вирівнявши умови глобальної конкуренції. Розвиток став менше залежати від ресурсів і територій, хоч у деяких випадках, наприклад щодо рідкоземельних металів, конкуренція загострилася. З часом виявилося, що лозунги про глобальне благо, які завжди супроводжують інновації, не обов’язково віддзеркалюють добрі наміри. Ті самі технології можуть як давати життя, так і забирати, створювати кращий світ або робити зло ще деструктивнішим. І йдеться не про очевидні речі, коли, наприклад, той самий технологічний процес дає змогу виробити добрива та вибухівку. Ситуація значно складніша, й важливо усвідомлювати дещо віддалені, але все-таки неминучі, хоч і приховані сьогодні наслідки переходу людства до четвертого технологічного укладу. Казкові історії про кіборгів від Сема Альтмана та Білла Гейтса мають зворотний бік, про який вони говорять лише під тиском неспростовних фактів. Насправді ситуація набагато складніша, ніж «співають» сучасні «менестрелі»: як кажуть японці, «кожний зворотний бік має свій зворотний бік».

На сторінках постановки завдань чи не найпопулярніших машин ШІ ChatGPT і Claude міститься попередження: «ChatGPT / Claude може помилятися. Будь ласка, ретельно перевіряйте джерела». А тепер послухайте Білла Гейтса, який каже, що протягом декількох наступних років ШІ замінить учителів і лікарів. Цікаво подивитися, як він довірятиме ставити діагноз ШІ, що «може помилятися». Або звернеться не до перевіреного стоматолога, а до його ШІ-замінника. А тим часом такі заяви від гуру ІТ-бізнесу можуть повністю спотворити стратегії освіти, призвести до втрат критично важливих навичок навчання й творчого застосування знань, які будуть віддані машинам. «Жоден меч, — кажуть японці, — не може бути сильнішим за розум, який його створив». Проєкт Сема Альтмана, спрямований на сканування райдужок кожної людини на Землі в обмін на криптовалюту, дебютував у США, попри занепокоєння щодо збору та обробки біометричних даних. Бачимо спробу створити унікальну базу даних, яка не матиме аналогів, але чи можливо контролювати, як її використовуватимуть?

Фантастичні прогнози стосовно майбутнього людства, де пануватимуть технології ШІ, оприлюднюються, щоби переконати інвесторів вкладати дедалі більше ресурсів у цю сферу. Водночас вони свідчать: розробники в гарячці перегонів за лідерство втрачають етичні орієнтири та створюють щось таке, що зробить людину непотрібною з погляду еволюції. Далі непотрібними стануть і держави, які повністю перейдуть у цифровий формат. За нові ресурси, що ними стануть бази даних, воюватимуть цифрові агенти, створені супер-ШІ, який сам дбатиме про своє забезпечення. Зникнуть поняття кордонів і армій, окрім армій роботів і рабів, без яких усе-таки не обійтись. У якій із цих категорій опиняться люди? Супер-ШІ та люди утворять симбіотичний союз, як мурахи та попелиці, в якому обидва види мають взаємну вигоду. Мурахи отримують їжу у вигляді солодкого секрету, який виробляють попелиці, а попелиці — захист від хижаків завдяки мурахам. Ця взаємодія є прикладом того, як обидва види залежать один від одного в питанні виживання. ШІ потребуватиме даних, які вироблятимуть люди, а він піклуватиметься, щоб люди отримували все необхідне для біологічного, але реактивного життя.

Можливо обійти створені людиною закони суспільного розвитку й навчитися використовувати найскладнішу математику для побудови алгоритмів, що імітують роботу мозку, але неможливо обійти універсальні закони Всесвіту, які не залежать від об’єкта чи предмета застосування. Один з них каже, що будь-яка позитивна й спрямована на вселенське добро річ, доведена до абсурду, перетворюється на свою протилежність. Нескладно простежити, як працює ця логіка на прикладі впровадження технологій ШІ.

Розробники ШІ стверджують, що його застосування сприятиме переходу на якісно новий рівень медичного обслуговування, що зрештою дасть змогу подовжити тривалість життя. Тобто людей похилого віку дедалі більшатиме й житимуть вони довше. Це збільшить навантаження на соціальну сферу, яке й так зростає щодня, оскільки народжуваність катастрофічно падає саме в тих країнах, де йдеться про бурхливий розвиток ШІ й розширюються сфери його застосування. Якщо до того ж ШІ позбавить значну кількість людей роботи, хто платитиме податки та пенсійні збори? Завдяки яким ресурсам створюватиметься сфера соціального забезпечення в епоху ШІ? Штучний інтелект може майже все, але для народження дітей потрібні інші інструменти.

ШІ змінить структуру досліджень і розробок — він уже впливає на самих розробників, які, здається, починають плутатися, хто кого «розробляє». Висловлюються прогнози, що нейроімпланти в мозок і нервову систему людини дадуть змогу не лише лікувати — повертати зір і слух, а й розвинути здібності людей до небачених масштабів. Скажімо, покращена людина бачитиме на кілометри, швидше вивчатиме мови, миттєво реагуватиме на певні несподівані події тощо. Неважко передбачити, що з часом кіберпокращення стануть чимось на кшталт ботоксу. Покращені люди спочатку процвітатимуть, але згодом перетворяться на зворотний варіант екзоскелету — не машина допомагатиме людині стояти й рухатися, а людина — машині.

ШІ не може існувати без використання гігантських обсягів даних. Серед найбільших проблем, із якими вже стикаються дата-центри в дедалі більш цифровому світі, є забезпечення їх енергією. За оцінками експертів, щодня створюється близько 400 мільйонів терабайтів даних, а зберігання й обробка всієї цієї інформації, ще й за умов поширення штучного інтелекту, вимагає неймовірних обсягів енергії.

У цьогорічному звіті Міжнародного енергетичного агентства (МЕА) зазначено, що до 2030 року попит на електроенергію з боку дата-центрів у світі більш ніж подвоїться — до приблизно 945 терават-годин, що перевищує нинішнє споживання електроенергії всієї Японії. До 2035 року світове споживання електроенергії дата-центрами зросте ще на третину — до близько 1200 ТВт⋅год. Аналогічних висновків дійшла компанія Goldman Sachs. Минулого року споживання електроенергії дата-центрами становило близько 1,5% світового обсягу, тобто 415 ТВт⋅год. На США припадало 45% цього показника, на Китай — 25%, а на Європу — 15%.

За оцінками фахівців, типовий дата-центр, орієнтований на ШІ, в середньому споживає стільки ж електроенергії, скільки 100 тисяч домогосподарств, а найбільші з тих, що зараз будуються, споживатимуть у 20 разів більше. Величезна частка цього попиту припадає на системи охолодження, які мають критичне значення для роботи центрів. Нові технології, як-от графічні процесори (GPU), необхідні для дедалі складніших обчислень, споживають більше енергії та виробляють більше тепла, ніж центральні процесори (CPU), які сьогодні використовуються ширше. За оцінками, системи охолодження можуть споживати до 40% енергії дата-центру.

МЕА зазначає, що 85% світового енергоспоживання дата-центрів зосереджено в США, Китаї та Європі. У Японії дата-центри споживають менш як 20 ТВт⋅год електроенергії (близько 2% загального обсягу, приблизно на рівні з Європою). Але Японія вже запланувала додати значні потужності для дата-центрів, інші країни регіону прагнуть іти тим самим шляхом. Головне питання — звідки вони візьмуть енергію. Зростання попиту підштовхує такі компанії, як Google, Microsoft і Amazon, до інвестицій у ядерну енергетику. Цей зсув — від урядів до великих компаній як рушійної сили розвитку ядерної енергетики — матиме потужні наслідки, яких ми наразі до кінця не усвідомлюємо.

Великі ядерні проєкти залишаються проблемними, оскільки політика та регулювання урядів стримують — якщо не блокують — розвиток галузі. Тому йдеться про розвиток малих модульних реакторів (SMR). SMR мають потужність до 300 МВт (більшість звичайних реакторів — близько 1000 МВт). Їхні компоненти можуть масово вироблятися та збиратися на місці за модульним принципом. Вони також значно дешевші за традиційні АЕС: коштують близько 2 млрд дол., тоді як звичайні — понад 10 млрд дол. Японія та Китай працюють над цією технологією. Але доки її немає в широкому застосуванні, гонитва за пентафлопсами призводить до різкого збільшення споживання звичайних енергоресурсів і тим самим зводить нанівець політику боротьби зі змінами клімату. Так революція ШІ змінює підхід до енергетичної політики.

Інший аспект — це забезпечення дата-центрів водою, яка використовується для охолодження процесорів. Дата-центр, що споживає 1 МВт електроенергії, використовує 25,5 млн л води на рік. Глобальна потужність дата-центрів оцінюється у 60 ГВт. Це означає споживання більш як 1504,5 млрд л води, яка не повертається в локальну екосистему, як звичайна вода в комунальних послугах, а випаровується. Серйозний вплив на зміни клімату неминучий. Навряд чи супер-ШІ, що керуватиме світом, як прогнозують інвестори й розробники ШІ, перейматиметься такими дрібницями.

Нас переконують, що сучасні моделі вже навчилися брехати, обходити встановлені правила й навіть погрожувати розробникам. Людство прямує до останнього промислового укладу у своїй історії, адже якщо безсумнівну користь від використання ШІ довести до абсурду, вона може обернутися на свою протилежність. Тобто майже вертикальне зростання експоненти закону Мура таки призведе, як і прогнозували, до технологічної сингулярності. Ні, людство не зникне, просто повернеться до простіших знарядь виробництва. Вижили ж наші пращури, які користувалися палицями й камінням.