ШІ може знищити людство не так, як у «Термінаторі»: вчені попередили про приховану загрозу

Уявляючи Армагеддон, спричинений штучним інтелектом, люди зазвичай уявляють собі ядерні вибухи, смертоносні штучно створені віруси та армії роботів- смертоносців у стилі Термінатора, що марширують Однак дослідники дедалі більше звертають увагу на інший сценарій — так зване «ослаблення людства» (human enfeeblement).

Про це пише Daily Mail.

Вчені попереджають, що справжній спосіб, яким штучний інтелект може призвести до загибелі людства, ймовірно, буде набагато тонкішим.

Провідні дослідники штучного інтелекту зараз б’ють на сполох через зростаючу загрозу «ослаблення людства». Це поступова деградація нашого критичного мислення, планування і навіть емоційних здібностей, оскільки ми з радістю передаємо все більше і більше відповідальності машинам.

Йдеться про ситуацію, за якої люди поступово передаватимуть штучному інтелекту дедалі більше інтелектуальної та практичної роботи, через що самі можуть втрачати навички, автономність і здатність ухвалювати складні рішення.

Доктор Самуель Вінанзі, старший викладач робототехніки та штучного інтелекту в Університеті Шеффілд Халлам (Велика Британія), вважає, що саме це є реальною загрозою, яку штучний інтелект становить для світу.

«З часом ці незначні рішення можуть призвести до того, що населення буде навряд чи здатні мислити без допомоги штучного інтелекту, і що воно буде менш здатне розуміти, перевіряти та скасовувати системи, від яких залежить», — каже Вінанзі.

І, згідно з дедалі більшою кількістю досліджень, цей тривожний процес уже розпочався.

Протягом останніх кількох місяців світ досліджень штучного інтелекту був сколихнутий серйозними побоюваннями щодо того, що швидкий розвиток технологій може загрожувати людству.

Раніше цього місяця 27-річний Джейкоб Коксон, який допомагав навчати найновіші версії штучного інтелекту в Anthropic з Сан-Франциско, закликав людей «не недооцінювати» його можливості, особливо якщо він стане «надрозумним».

У своєму опублікуванні на X Коксон додав: «Люди, які створюють штучний інтелект, щиро вірять, що він може вбити нас усіх до кінця десятиліття».

У відповідь, керівник наукового відділу вирівнювання Anthropic Еван Хабінгер написав: «Джейкоб має рацію — ми справді щиро віримо, що ШІ може вбити всіх людей! Я особисто думаю, що це >10% протягом наступного десятиліття».

Однак думки експертів розділилися щодо того, яку саме форму матиме ця загроза від штучного інтелекту.

За словами деяких дослідників штучного інтелекту, найбільша проблема полягає в тому, що шахрайський або «неприв’язаний» ШІ може взяти під контроль критично важливу інфраструктуру, таку як енергомережа або атомні електростанції.

Інші стурбовані тим, що штучний інтелект може ненавмисно спровокувати ядерну війну або створити вдосконалені патогени, що використовуються як зброя.

Але доктор Вінанзі вважає, що жоден із цих драматичних, апокаліптичних сценаріїв не є реалістичним.

Він каже: «На мою думку, вони схильні не помічати, наскільки будь-які дії в реальному світі все ще залежать від людей, матеріалів та інфраструктури».

Створення смертельного вірусу все ще вимагає фізичної лабораторної роботи, яку жодне сучасне програмне забезпечення не може замінити, оскільки навченим людям все ще потрібно фізично працювати з обладнанням.

Однак це не означає, що людство захищене від небезпечного впливу передових систем штучного інтелекту.

На думку деяких експертів, більший ризик полягає в тому, що штучний інтелект насправді занадто корисний.

Доктор Вінанзі описує ослаблення як «повільне руйнування людських здібностей, що виникає внаслідок передачі все більшої кількості завдань машинам».

«Це не відбувається за одну ніч; радше, це накопичується через багато дрібних завдань — психологи називають звичку покладатися на зовнішні інструменти для економії розумових зусиль „когнітивним розвантаженням. Простіше кажучи, чим більше ми дозволяємо комп’ютеру займатися написанням, кодуванням, дослідженнями та прийняттям рішень, тим природнішим здається цей скорочений шлях, і тим важче його зупинити. Ми вже починаємо бачити, що люди надзвичайно охоче довіряють штучному інтелекту важливі завдання“, — попередив експерт.

Штучний інтелект використовується для виявлення випадків фінансового шахрайства, управління даними охорони здоров’я, вибору місць, де зосереджені ресурси поліції, і навіть керування транспортними засобами.

У більш драматичному прикладі нещодавно повідомлялося, що американські військові ледь не піддалися спробі сісти на борт судна під китайським прапором, оскільки…Чат-бот зі штучним інтелектом неправдиво згенерував звіт, в якому стверджувалося, що він перевозить деталі для програми ядерної зброї.

«Катастрофи вдалося уникнути лише тому, що хтось зупинився, щоб поставити запитання: саме той тип критичного мислення, який ми ризикуємо втратити», — каже доктор Вінанці.

Експерти особливо стурбовані тим, який вплив це може мати на наступне покоління, яке навчатиметься, маючи доступ до дедалі потужніших чат-ботів.

Школи та університети вже намагаються запобігти учнямвикористовуючи такі інструменти, як ChatGPT, для виконання своїх завдань.

Кваліфіковані професії, як-от хірурги, інженери, юристи та вчителі, ризикують «втратити свою експертизу», оскільки потреба практикуватися зникає, а базові навички критичного мислення згасають.

Кінцевим наслідком є ​​покоління, яке є «вільним, але крихким»; здатним генерувати відповіді, але нездатним самостійно їх оцінювати.

Однак деякі експерти вважають, що наслідки можуть бути більш драматичними, і зрештою призвести до того, що неконтрольований штучний інтелект захопить життєво важливі послуги людства.

Якщо наші лікарні, дороги, електромережі, армія та економіка будуть передані в управління штучному інтелекту, ми ризикуємо втратити контроль над усією нашою критично важливою інфраструктурою.

Андреа Міотті, засновник та генеральний директор ControlAI, розповів: «Завдяки глибокій інтеграції штучного інтелекту в економіку, надрозумний штучний інтелект, якщо його розробити, зможе накопичувати безпрецедентну потужність у нашій інфраструктурі, економіці та армії без участі людини».

«Надрозумний ШІ не буде інструментом під контролем людини, а радше силою-ізгоєм, розміщеною в центрах обробки даних країни, без людського командування, здатною автономно атакувати критичну інфраструктуру», — додав він.

Викликає занепокоєння те, що як каже Міотті, цей процес «може не відбуватися поступово».

«Надрозумний ШІ не обов’язково мав би бути зловмисним, щоб становити загрозу. Люди були б просто побічними збитками, оскільки потужні системи ШІ прагнуть більше ресурсів, так само як мурахи є побічними збитками, коли ми будуємо автомагістраль», — додає він.