5 реальних сценаріїв, як штучний інтелект може знищити людство

Звідки виникли побоювання щодо катастрофи

Звільнення дослідника Джейкоба Коксона з компанії Anthropic лише через чотири місяці роботи спровокувало нову хвилю дискусій про безпеку технологій. У своєму дописі в соціальній мережі X він заявив про високі ризики для цивілізації.

Люди, які створюють ШІ, щиро вірять, що він може вбити нас усіх до кінця десятиліття,
– сказав Джейкоб Коксон.

З його думкою погодився старший співробітник Anthropic Еван Губінгер, який зазначив, що ймовірність такого апокаліптичного сценарію протягом наступного десятиліття становить понад 10 відсотків. На тлі цих заяв професор ШІ з Університету Нового Південного Уельсу Тобі Волш у матеріалі для The Guardian розібрав 5 найвідоміших сценаріїв гіпотетичного кінця світу від найменш до найбільш ймовірного.

Сценарій 1: Ми ніколи цього не зрозуміємо

Перша гіпотеза спирається на парадокс: людський розум не здатен передбачити дії суперінтелекту, який перевершує нас у всьому. Це схоже на спробу домашнього собаки уявити термоядерну війну.

Наразі суперагентів ще не створили, адже сучасні ШІ-моделі вирішують лише конкретні завдання. Втім, нещодавно штучний інтелект розв'язав одну з семи найскладніших математичних проблем у світі, що трохи додає тривоги науковій спільноті.

Сценарій 2: Скріпки Ніка Бострома

Філософ з Оксфорда Нік Бостром описав уявний суперінтелект, який налаштували на оптимізацію виробництва канцелярських скріпок. Щоб виконати це завдання, система просто перетворить усяку матерію, зокрема людей, планети й зорі, на нові скріпки.

За подібного розвитку подій алгоритм не відчуває ненависті до людей – він просто бачить у нас атоми, які можна використати ефективніше. Проте експерти заспокоюють: наявність розуму не означає наявності абсолютної влади. Будівництву мільйонів фабрик завадять бюрократія, судові позови та екологічні активісти. Суспільство вже зараз чинить опір масовій розбудові дата-центрів.

Сценарій 3: Смертоносна біологічна зброя

Більш реальний ризик полягає у використанні ШІ для розробки біозброї. Дослідники зі Стенфордського університету за допомогою генетичної ШІ-моделі синтезували 16 нових вірусів, витративши на це щонайбільше пару сотень тисяч доларів. Вони просто відправили генетичні послідовності до звичайної лабораторії та отримали готові зразки у пробірках.

Однак знищити все людство новим вірусом надзвичайно складно. Віруси, які легко поширюються, зазвичай менш смертоносні, тоді як вбивчі штами вбивають носія швидше, ніж той встигає когось заразити. Наприклад, COVID-19 вбив менше 1 відсотка населення планети, а під час найстрашнішої чуми у 14 столітті загинула третина населення Європи. Стрімкий розвиток сучасної медицини значно зменшує подібні загрози.

Сценарій 4: Ядерний армагеддон та системні помилки

Залучення алгоритмів до системи управління ядерною зброєю створює небезпеку фатальних помилок. Хоча військові ізолювали системи ядерного командування від інтернету, випадок 2010 року з хробаком Stuxnet на ядерних центрифугах в Ірані довів, що шкоду можна завдати навіть через звичайну USB-флешку. ШІ також може надати командуванню дезінформацію, що призведе до непоправних дій.

Утім, світові запаси ядерної зброї зараз суттєво зменшилися, хоча їх усе ще вистачить для знищення приблизно половини людства. Головною причиною смертей стане не сам вибух, а голод під час ядерної зими.

Сценарій 5: Самознищення руками самих людей

Найбільш ймовірним є сценарій, у якому люди знищать себе самі через спричинений алгоритмами хаос. Технологія вже викликає масові втрати робочих місць, забруднює інформаційний простір фейками, руйнує політику та замінює живі стосунки штучним спілкуванням.

У разі поступового руйнування соціальних інститутів суспільство просто втратить здатність підтримувати власне життя. Головна загроза полягає не в повстанні машин, а в тому, як саме людство розпорядиться новими інструментами.