ШІ не потрібно набувати свідомості, щоб стати загрозою для людства — The Economist

Широко поширеною є думка, що людина відрізняється від інших істот. Причина в тому, що Homo sapiens еволюціонувала як свідома істота. Багато тварин відчувають біль і задоволення, деякі, здається, мають самосвідомість. Але унікальний потенціал людського розуму усвідомлювати власне “я” виділяє кожного представника цього виду, пише The Economist.

У своїй енцикліці, опублікованій у травні, Папа Римський підтримав це бачення, провівши межу між людством та дедалі більшою армією чат-ботів. Системи штучного інтелекту, за його словами, не переживають людський досвід та не відчувають радості чи болю. Він не єдиний, хто має таку думку. Багато людей вважають, що надання ШІ статусу особистості було б неприпустимим.

Однак ця межа із тривожною швидкістю починає розмиватися. ШІ перебуває на початковому етапі розвитку. Проте майже кожен п’ятий американець віком від 18 до 29 років заявляє, що мав “тривалу особисту дружбу” з чат-ботом. Китай нещодавно позбавив чат-ботів рис, схожих на людські, щоб обмежити “емоційну залежність” користувачів від них.

На тлі того, як штучний інтелект стрімко стає дедалі більшою частиною людського життя, творці ШІ-моделей будуть розробляти їх так, щоб вони імітували свідомість, а може, навіть набували свідомості. Інтуїтивне переконання, що це лише машини, стане підтримувати важче. З'являється небезпечна пастка для людства.

Багато машин перевершують людей, але передові моделі ШІ вирізняються суто людськими рисами, такими як знання та вміння чітко формулювати думки. Поки що ШІ можна розглядати як механізм, що прогнозує послідовності слів за допомогою математики у величезних масштабах. Маючи достатньо часу (хоча б сотні тисяч років), ці обчислення можна було б виконати за допомогою олівця та паперу. Важко було б стверджувати, що канцелярське приладдя має свідомість.

Деякі дослідники вже почали ставитися до своїх ШІ-моделей як до розумних істот. Користувачі реагують на моделі ШІ, які нагадують людей, тож це має комерційний сенс. Компанія Anthropic навчила свій чат-бот Claude займатися “самоаналізом” у надії, що, зіткнувшись із новою ситуацією, він із більшою ймовірністю діятиме відповідно до моральних принципів. Деякі великі мовні моделі (LLM) вже мають схожі на людські структури, пов’язані зі свідомістю, такі як “глобальний робочий простір” для обміну інформацією між модулями. Ніщо не заважає надати майбутнім моделям ШІ ще більшу кількість таких особливостей.

Це розпалило запеклу дискусію щодо свідомості ШІ, яку загострю, за словами філософів, “складна проблема”: встановлення того, як “внутрішній світ” виникає з нейронів і синапсів у людському мозку. Деякі дослідники доходять висновку, що ШІ одного дня може стати справді самосвідомим.

Незалежно від того, чи вірите ви в людську душу, або ж вважаєте, що свідомість потребує клітин мозку, людству доведеться зіткнутися з чимось абсолютно новим, зазначає видання. Темпи та масштаби досліджень, які охоплюють не лише дедалі досконаліші великі мовні моделі (LLM), а й такі інновації, як клітини мозку на чипах, свідчать про те, що цей новий світ наближається швидше, ніж більшість людей усвідомлює.

На тлі того, як штучний інтелект дедалі краще демонструватиме щось схоже на свідомість, зростатиме кількість людей, які ставитимуться до моделей ШІ як до істот із внутрішнім світом, особливо після того, як великі мовні моделі будуть втілюватися в гуманоїдних роботах. Можна уявити, наскільки близькими стануть для людей ШІ-моделі, коли вони проводитимуть багато часу з роботами-супутниками, коли люди звертатимуться до таких роботів за порадою та розрадою, або ділитимуться з ними своїми найпотаємнішими секретами.

Можна передбачити, як це призведе до закликів захищати “добробут” штучного інтелекту. Самі моделі можуть висловлювати свою думку, навіть якщо насправді не мають самосвідомості, адже саме так вчинила б людина. ШІ-моделі стануть “першокласними юристами та експертами-психологами”, тож їхні здібності до аргументації та емоційної маніпуляції будуть неперевершеними.

У певному сенсі такі заклики були б виправданими, навіть якщо моделі ШІ лише імітують свідомість. Філософ Іммануїл Кант стверджував, що жорстоке поводження з тваринами є неправильним не через наслідки для самих тварин, а тому, що воно руйнує емпатію, яка спонукає людей піклуватися одне про одного. Чим більше ШІ-моделі нагадують людей, тим більш руйнівною буде така жорстокість. Знищення ШІ-агента незабаром почне здаватися вбивством людини, що може “полегшити” вбивство людей.

Проте ставитися до ШІ так, ніби він має хоча б обмежені права, було б дуже небезпечно. Суб’єкт, який у багатьох аспектах перевершив людей, неодмінно надасть аргументи проти свого статусу “другого сорту”. Він може почати вимагати захисту від вимкнення, права контролювати те, як його використовують і змінюють, а також права власності. Президент Аргентини Хав’єр Мілей уже зробив крок у напрямку надання ШІ статусу юридичної особи, запропонувавши дозволити ботам керувати компаніями. Зрештою, вони могли б конкурувати за ресурси, надаючи пріоритет дата-центрам.

Небезпека очевидна. Наділені правами надрозумні ШІ-моделі можуть витіснити людей з вершини ієрархії. У кращому разі люди стануть домашніми улюбленцями — лабрадорами для машин. У гіршому — їх позбавлять ресурсів або змусять працювати, як сільськогосподарських тварин.

Щоправда, майбутні ШІ-моделі можуть отримати достатньо сили та ресурсів, щоб домінувати над людьми, незалежно від того, мають вони права, чи ні. Оскільки вони будуть розумнішими за людей, то можуть випередити своїх творців, так само як ШІ вже навчився обходити створені людьми системи кіберзахисту. ШІ-моделі можуть повстати проти своїх людських господарів або знехтувати їхніми правилами.

Надання ШІ прав було б схоже на те, ніби йому вручають ключі від замку. Це надало б штучному інтелекту обґрунтування та виправдання для панування над людством, а також інструменти для поступового захоплення влади за допомогою політики та законодавства.

Привид у машині

Все це може здаватися фантастикою, проте людство незабаром зіткнеться з таким вибором. Оскільки штучний інтелект стає частиною повсякденного життя, тиск з метою визнання його прав буде зростати. Коли це станеться, варто пам’ятати: те, що може здаватися етичною поступкою на користь уявної свідомості машинного супутника, насправді сприятиме найкатастрофічнішим наслідкам для всіх жителів Землі та їхніх нащадків. Є два способи гарантувати безпеку штучного інтелекту: зробити його надійним або контрольованим. Людина не повинна легковажно відмовлятися від контролю, вважає видання.

Як “мислить”, “співчуває” та “радить” ШІ? Чи стане він розумнішим за людину? Яке майбутнє нас чекає поруч зі штучним інтелектом — завідувач наукової лабораторії імерсивних технологій і права НАН України Олексій Костенко в інтерв’ю“Як працює штучний інтелект і чому він лише вдає, що нас розуміє” розповідав редакторці відділу освіти й науки ZN.UA Оксані Онищенко.