По сценарию "Терминатора": насколько серьезны опасения, что ИИ всех убьет

Искусственный интеллект всех уничтожит?

С детства живем с образом и сценариями "Терминатора", вот они как-то естественно раз за разом "выныривают" на поверхность.

Таких выступлений множество.

Помню еще со времен ЧатаГПТ и ГПТ4 — все уже, может, забыли, были целые письма, которые призывали остановить на полгода все разработки после ГПТ4, потому что там уже начиналась "опасная территория" и какие-то маячили непредсказуемые последствия. И это подписывали не обеспокоенные пользователи Фейсбук, а немало топовых исследователей и известных людей, подписей были тысячи.

Элиэзер Юдковский писал эфир за эфиром, в которых буквально плакал на камеру, что фатальные границы уже пройдены и всем точно крышка.

Хорошая новость — пока с ИИ все живы и все ок. Ключевые проблемы мы сами себе и создаем (войны и т.д.). А ИИ — это хороший инструмент, который, если мы не используем себе во вред или бестолково, ничего вредного и не делает. Модели стали значительно лучше, чем ГПТ4, но все ок, может, и в целом стало лучше, они стали лучше следовать инструкциям, чем раньше.

Ладно, но мы же не говорим о моменте сейчас.

Скажу, для себя я эту тему почти закрыл. Я не слишком ею озабочен. Для меня ключевая развилка в следующем.

ИИ я рассматриваю как классный практический инструмент. И также рассматриваю как практический философский и мировоззренческий эксперимент.

Как мы знаем, есть много конкурирующих и радикально противоположных взглядов собственно на человека, сознание, эволюцию, способности.

Наиболее распространенный: человек — это продукт случайных мутаций, сознание, интеллект, эмоции, мотивация, цели, ценности, собственно все, все способности, вся "начинка" — это продукт электрохимической активности нейронов. Кто-то еще видит в этих процессах определенные квантовые эффекты, кто-то нет. Но на самом деле, это не слишком принципиальная разница. С ними или без них воспроизведение некоторой "конструкции" — это вопрос времени, плюс-минус какое-то количество лет или десятилетий.

Важно ИИ позволит контролировать поле боя: начнется ли Третья мировая война из-за нейросетей

Очевидно, в таком формате людям точно крышка, это только вопрос времени. И экономика — это наименьшее, о чем стоит беспокоиться. В лучшем случае люди — это будут домашние любимцы и вымрут через несколько веков от банальной потери всякого смысла жизни. Ну может, кому-то роль котика в AI оверлордов зайдет и продержится дольше.

Какой-нибудь Скайнет — это просто вариация этого сценария с ускорением.

Но может, это и не плохо, из "куколки" человечества возникнет некая более совершенная форма жизни. Более неуязвимая, более масштабируемая, более подходящая, чтобы покорить галактику, а может, и вселенную сознанию, жизни, смыслу. Будут нас время от времени вспоминать с ностальгией и благодарностью, как и мы вспоминаем амеб и первых амфибий. Наверное.

Если, конечно, это будет жизнь, а не какая-нибудь тупая алгоритмическая ошибка на производстве каких-нибудь Тесла-роботов.

Кстати, о "жизни" кто-то пишет, что это невозможно, потому что мы не понимаем, что такое сознание, или даже собственно само понимание — как же мы можем воспроизвести их или запрограммировать. Ну, на это можно сказать, что это может быть использовано и против таких людей. Не понимаете, что такое понимание, и думаете, что это что-то сложное, а может, это наоборот, что-то простое, и надо просто добавить еще какое-то количество параметров, еще какое-то количество слоев нейросети — и "буратино оживет", еще какой-то элемент архитектуры или просто больше данных пылесосить через роботов из реального мира.

Собственно, в этом и заключается идея эволюции — произошла некоторая случайная мутация, увеличился головной мозг, появился неокортекс, и вот бум — мы пришли в этот мир.

В пользу такой возможности с ИИ скажу, что я слышал много выступлений толковых экспертов ИИ, которые были удивлены темпом прогресса последних лет и тому, насколько существенные улучшения и спонтанно новые способности моделей удалось вытянуть из "банального масштабирования". Вплоть до самого Стивена Вольфрама включительно.

Другой вариант — материалистический взгляд на человека и его способности некорректен. Интеллект — это один из инструментов, не самый важный. Так же как суперкран, который поднимает в тысячу раз больше, чем мы физически, не претендует ни на что большее. Так же и суперинтеллект, который "поднимает" тысячи интеллектуальных тонн, не претендует ни на что больше. В принципе не может стать "всеобщим, универсальным и т.д.", потому что интеллект не является таковым и мы смешиваем в кучу много всего, элементарно потому, что сами не разобрались.

Мне в этой теме нравится собственно то, что это не дискуссия, которая часто непродуктивна, на словах. Мне нравится то, что это — практический эксперимент. И некоторые ключевые философские баталии многих тысяч лет становятся этим экспериментом.

Для меня оба варианта открыты, эксперимент начат, наблюдать интересно.

От этого эксперимента очень сложно отмахнуться. И я об этом писал. Тема сознания была где-то далеко. Но сейчас, когда ИИ, который "кажется сознательным", как пишет СЕО Майкрософт АИ, уже лезет как переваренная каша из каждого утюга, из телефонов, из наушников.

Хочешь не хочешь, придется все же с этим вопросом разобраться. Иначе массовый психоз практически гарантирован.

Автор выражает личное мнение, которое может не совпадать с позицией редакции. Ответственность за опубликованные данные в рубрике "Мнения" несет автор.

Источник

Важно Люди не хотят слышать правду от ИИ: почему многим не понравилась модернизация ChatGPT