За сценарієм "Термінатора": наскільки серйозні побоювання, що ШІ всіх вб'є

Штучний інтелект всіх знищить?

З дитинства живемо з образом і сценаріями "Термінатору", то вони якось природньо раз за разом "випірнають" на поверхню.

Таких виступів безліч.

Пам'ятаю ще з часів ЧатуГПТ та ГПТ4 — всі вже може забули, були цілі листи, які закликали зупинити на півроку всі розробки після ГПТ4, бо там вже починалась "небезпечна територія" і якісь маячили непередбачувані наслідки. І це підписували не стурбовані користувачі Фейсбук, а чимало топових дослідників та відомих людей, підписів були тисячі.

Еліезер Юдвокський писав ефір за ефіром в яких буквально плакав на камеру, що фатальні границі вже пройдено і всім точно кришка.

Хороша новина — поки з ШІ всі живі й все ок. Ключові проблеми ми самі собі й створюємо (війни і т.д.). А ШІ — це хороший інструмент, який, якщо ми не використовуємо собі на шкоду чи безтолково, нічого шкідливого і не робить. Моделі стали значно кращі, ніж ГПТ4, але все ок, може і загалом стало краще, вони стали краще слідувати інструкціям ніж раніше.

Ок, але ж ми не говоримо про момент зараз.

Скажу для себе, я цю тему майже закрив. Я не надто нею переймаюся. Для мене ключова розвилка в наступному.

ШІ я розглядаю як класний практичний інструмент. І також розглядаю як практичний філософський та світоглядний експеримент.

Як ми знаємо, є багато конкуруючих та радикально протилежних поглядів власне на людину, свідомість, еволюцію, здібності.

Найбільш поширений: людина — це продукт випадкових мутацій, свідомість, інтелект, емоції, мотивація, цілі, цінності, власне все, всі здібності, вся "начинка" — це продукт електрохімічної активності нейронів. Хтось ще вбачає в цих процесах певні квантові ефекти, хтось ні. Але насправді це не надто принципова різниця. З ними чи без них відтворення деякої "конструкції" — це питання часу, плюс-мінус якась кількість років чи десятиліть.

Важливо ШІ дасть змогу контролювати поле бою: чи почнеться Третя світова війна через нейромережі

Очевидно в такому форматі людям точно кришка, це тільки питання часу. І економіка — це найменше, про що варто турбуватися. В найкращому випадку люди — це будуть домашні улюбленці і вимруть за декілька століть від банальної втрати будь-якого сенсу життя. Ну може, комусь роль котика у АІ оверлордів зайде і протримається довше.

Який-небудь Скайнет — це просто варіація цього сценарію з прискоренням.

Але може, це і не погано, з "лялечки" людства виникне деяка більш досконала форма життя. Більш невразлива, більш масштабована, більш підходяща, щоб підкорити галактику, чи може, і всесвіт свідомості, життю, смислу. Будуть нас час від часу згадувати з ностальгією та вдячністю, як і ми згадуємо амеби та перші амфібії. Напевно.

Якщо, звичайно, це буде життя, а не якась тупа алгоритмічна помилка на виробництві яких-небудь Тесла-роботів.

До речі, про "життя" хтось пише, що це неможливо, бо ми не розуміємо, що таке свідомість, чи навіть власне саме розуміння — то як ми можемо відтворити їх чи запрограмувати. Ну на це можна сказати, що це може бути використано і проти таких людей. Не розумієте, що таке розуміння, і думаєте що це щось складне, а може, це навпаки щось просте, і треба просто додати ще якусь кількість параметрів, ще якусь кількість шарів нейромережі — і "буратіно оживе", ще якийсь елемент архітектури чи просто більше даних пилососити через роботів з реального світу.

Власне в цьому і полягає ідея еволюції — сталась деяка випадкова мутація, збільшився головний мозок, з'явився неокортекс, і ось бум — ми прийшли в цей світ.

На користь такої можливості з ШІ скажу, що я чув багато виступів толкових експертів ШІ, які були здивовані темпом прогресу останніх років і тому, наскільки суттєві покращення та спонтанно нові здібності моделей вдалося витягнути з "банального масштабування". Аж до самого Стівена Вольфрама включно.

Інший варіант — матеріалістичний погляд на людину та її здібності некоректний. Інтелект — це один з інструментів, не найбільш важливий. Так само як суперкран, який підіймає в тисячу разів більше, ніж ми фізично, не претендує ні на що більше. Так само і суперінтелект, який "підіймає" тисячі інтелектуальних тон, не претендує ні на що більше. В принципі не може стати "загальним, універсальним тощо", бо інтелект не є таким і ми змішуємо в купу багато всього, елементарно тому, що самі не розібралися.

Мені в цій темі подобається власне те, що це не дискусія, яка часто непродуктивна, на словах. Мені подобається те, що це — практичний експеримент. І деякі ключові філософські баталії багатьох тисяч років стають цим експериментом.

Для мене обидва варіанти відкриті, експеримент початий, спостерігати цікаво.

Від цього експерименту дуже складно відмахатися. І я про це писав. Тема свідомості була десь далеко. Але зараз, коли ШІ, який "здається свідомим", як пише СЕО Майкрософт АІ, вже лізе як переварена каша з кожного утюга, з телефонів, з навушників.

Хочеш не хочеш прийдеться все ж з цим питанням розібратися. Інакше масовий психоз практично гарантований.

Автор висловлює особисту думку, яка може не співпадати із позицією редакції. Відповідальність за опубліковані дані в рубриці "Думки" несе автор.

Джерело

Важливо Люди не хочуть чути правду від ШІ: чому багатьом не сподобалася модернізація ChatGPT