Цифрові імперії XXI століття: Харарі попередив про ризик безпрецедентної концентрації влади через ШІ

Штучний інтелект може призвести до значно більшої концентрації влади, ніж попередні технологічні революції. Ізраїльський історик, філософ і футуролог Ювал Ной Харарі вважає, що ключову роль у новій гонці озброєнь відіграватимуть дані та інфраструктура ШІ. США та Китай уже конкурують за контроль над технологіями, здатними визначати функціонування цілих держав, заявив Харарі під час інтервʼю з журналістом Томом Паркером на гала-вечері з нагоди 50-річчя EDP.

Історик зазначив, що сьогодні влада дедалі більше пов'язана з контролем над даними. За його словами, гонка озброєнь XXI століття відбувається не лише між США та Китаєм, а й за участю невеликої кількості компаній, які контролюють значну частину світових даних і розробляють дедалі потужніші ШІ-моделі. Згідно з опитуванням YouGov, близько 70% американців вважають вплив великих технологічних компаній надмірним і виступають за посилення антимонопольного законодавства та контролю за збором персональних даних.

Уроки промислових імперій минулого

Харарі порівняв нинішню ситуацію з промисловою революцією XIX століття. Тоді технологічна перевага кількох країн дозволила їм створити імперії та підкорити значні території, оскільки сторони мали дуже різні можливості у виробництві зброї та інших технологій.

Як приклад Харарі навів Бельгію, яка після індустріалізації змогла створити величезну імперію в Африці на території нинішньої Демократичної Республіки Конго. За його словами, тоді промисловість та імперська влада фактично сприймалися як взаємопов'язані явища.

Водночас попередні імперії не могли повністю зосередити всі ресурси у своєму центрі. У Римській імперії головним економічним ресурсом була земля, тому пшеничні поля Єгипту чи оливкові гаї Іберії неможливо було перенести до Італії. Через це значна частина економічної та політичної влади залишалася в провінціях.

Схожа ситуація існувала й у Британській імперії під час промислової епохи. Основні промислові потужності зосереджувалися у Великій Британії, але нафтові родовища Іраку чи каучукові плантації Малайзії неможливо було перемістити до британської метрополії.

Концентрація інформаційної влади

“Технічно можна зосередити всю світову інформацію та весь код, що керує всіма процесами, лише в одній чи двох країнах”, — зазначив Харарі.

Це, на його думку, створює потенціал для концентрації влади, якого не існувало в попередні епохи. При цьому одна система ШІ може функціонувати по всьому світу, тоді як її ключова інфраструктура та управління залишатимуться в одному імперському центрі.

Втрата технологічного суверенітету

Харарі також звернув увагу на відмінність ШІ від традиційної зброї. У минулому імперія не могла дистанційно вимкнути зброю, яку продала або передала іншій стороні. Він навів приклад Римської імперії, де після продажу сталевого меча іншому народу римляни втрачали контроль над ним, так само у XIX столітті британська влада не могла дистанційно вивести з ладу гвинтівки, які британські купці продавали афганським племенам.

Зі штучним інтелектом, за словами Харарі, може бути інакше. Якщо уряди, армії та промисловість використовують технології на базі ШІ, що постачаються з певного центру, постачальник потенційно може зберігати можливість дистанційно припинити їхню роботу. Раніше адміністрація президента США Дональда Трампа тимчасово відключала провідні ШІ-моделі, як-от Fable 5 та Mythos 5 компанії Anthropic, нібито через загрозу національній безпеці.

“Зброя на базі ШІ — це не те саме, що кулемети. Вона інтегрована в цілісну мережу”, — наголосив історик та додав, що саме ця особливість створює нові питання щодо суверенітету держав в епоху ШІ.

Харарі вважає, що суверенітет у добу штучного інтелекту буде складнішим поняттям, ніж в індустріальну епоху. За певних архітектур ШІ в імперському центрі може залишатися механізм примусового вимкнення системи, яка працює в інших країнах. У такій ситуації, за його словами, держави можуть опинитися перед вибором між залежністю від технологічної імперії та відмовою від участі в перегонах. 

Водночас Харарі допускає створення альтернативи американській і китайській системам. Він підсумував: “Якщо ви хочете це зробити, діяти треба негайно”.

Практичний ризик того, про що попереджає Харарі, вже проілюстрував випадок з обмеженнями щодо моделей Anthropic у США. У статті “Держава може вимкнути штучний інтелект. Чому блокування нових моделей Claude — урок для України” автор Олексій Костенко наголошує, що цей прецедент демонструє небезпечний зсув, коли виконавча влада превентивно обмежує когнітивні можливості ШІ застарілими інструментами індустріальної доби без прозорих правових процедур. Експерт застерігає, що для України ця ситуація є прямою підказкою про необхідність вчасного розроблення власного законодавства у сфері ШІ та розбудови цифрового суверенітету, аби уникнути критичної залежності від рішень іноземних урядів.