/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F434%2F90a684696ceb28179fb4489518b030de.jpg)
Як розвиток технологій може вбити людство
Розвиток штучного інтелекту посилює страхи щодо майбутнього - згідно з опитуваннями, його вже боїться понад половина людства.
Після того як ШІ "вийшов з-під контролю" спочатку в Anthropic, а потім і в OpenAI, питання безпеки стало ключовим. Експерти погоджуються, що найбільшу загрозу в разі "апокаліпсису ШІ" становлять саме руйнівні наслідки неконтрольованого використання штучного інтелекту.
Імовірність такого сценарію оцінюють зараз у 10%. Якщо ж розвиток ШІ не обмежувати й не регулювати, цей показник перевищує 20%.
Про це свідчать результати опитування 272 експертів зі штучного інтелекту, проведеного лабораторією Массачусетського технологічного інституту (MIT) - одного з провідних технічних університетів.
Експерти склали рейтинг із 24 ризиків і визначили для кожного з них імовірність "катастрофічного" розвитку подій до 2030 року. Під катастрофічними наслідками вони мали на увазі, наприклад, загибель понад 1 млн людей, економічні збитки понад 100 млрд доларів або нематеріальні наслідки цивілізаційного масштабу - такі як крах демократичних норм чи права на приватність.
Один із найбільш обговорюваних страхів - загроза масового безробіття - не увійшов до трійки головних ризиків і посів четверте місце за тяжкістю можливих наслідків. Натомість перше місце дісталося сценарію в дусі "Термінатора".
Найнебезпечнішим, на думку експертів, є штучний інтелект, який виходить з-під контролю та самостійно навчається завдавати людству масштабної шкоди.
Це може статися через технічні збої, дії зловмисників або через "невідповідність цілей ШІ інтересам людини" - саме так головний ризик описують у MIT.
Якої саме шкоди може завдати такий ШІ?
Йдеться про обман, розробку зброї, маніпулювання людьми, втручання в політику, кібератаки, а також створення ще досконаліших систем штучного інтелекту - аж до усвідомлення ними власного середовища функціонування та здатності до самопоширення.
Хто за це відповідає
Друге і третє місця в рейтингу апокаліптичних ризиків також пов'язані з першим.
Йдеться про розробку зброї за допомогою ШІ - як для кібератак, так і для масового знищення людей, а також про "ШІ-вертикаль влади" - концентрацію ресурсів у руках вузького кола людей, які мають доступ до передових технологій, і поглиблення соціальної та економічної нерівності.
Усе це може призвести до соціальних потрясінь і політичних криз. Опитування в різних країнах світу свідчать, що побоювання таких наслідків із кожним роком лише зростають.
Наприклад, за даними останнього глобального дослідження Stanford AI Index, до 2025 року частка респондентів, яких ШІ "насторожує", зросла до 52% порівняно з 39% у 2022 році. Водночас кількість тих, кого розвиток штучного інтелекту надихає, майже не змінилася - 53-54%.
Однак дедалі більше занепокоєння суспільства не призводить до запровадження якихось суттєвих обмежень для ШІ, зазначають автори дослідження MIT.
Адже рішення ухвалюють ті, хто отримує вигоду від розвитку штучного інтелекту, тоді як люди, чиє життя він може найбільше змінити або погіршити, практично не мають впливу на цей процес.
"Розрив між вразливістю та відповідальністю - не нове явище. Наприклад, від авіаційних і техногенних катастроф або від неякісних лікарських засобів насамперед страждає населення, тоді як відповідальність за запобігання таким наслідкам несуть розробники, виробники й регулятори", - пишуть автори дослідження.
"Втім, у цих галузях діють суворі стандарти, механізми контролю та юридичної відповідальності. У сфері штучного інтелекту аналогічні механізми або лише починають формуватися, або взагалі відсутні. У результаті найбільш вразливі групи населення залишаються майже беззахисними, а ті, хто відповідає за їхній захист, не мають достатніх стимулів для обмеження ризиків", - підсумовують вони.
Де тоді працювати?
Не всі галузі однаково вразливі до ризиків, пов'язаних зі штучним інтелектом.
Ті самі експерти оцінили рівень вразливості 14 галузей економіки до кожного з 24 визначених ризиків. Найгірші результати продемонстрували сектор інформаційних технологій і сфера національної безпеки.
Інформаційний сектор найбільше потерпає від дезінформації, маніпулювання громадською думкою та втручання в приватне життя. Натомість національна безпека є особливо вразливою до кібератак і появи нових видів озброєння.
Схожі оцінки отримав і фінансовий сектор. З одного боку, ШІ ускладнює боротьбу із шахрайством і маніпуляціями на ринку, а з іншого - дедалі активніше впроваджується на всіх рівнях, що підвищує ризик серйозних наслідків у разі збоїв у його роботі.
Найменш уразливими, за результатами аналізу, виявилися галузі, де штучний інтелект поки що використовується не так активно, - готельно-ресторанний бізнес, сільське господарство, обробна промисловість, а також сфера культури й розваг.