ИИ может уничтожить человечество не так, как в «Терминаторе»: ученые предупредили о скрытой угрозе

Представляя Армагеддон, вызванный искусственным интеллектом, люди обычно представляют себе ядерные взрывы, смертоносные искусственно созданные вирусы и марширующие армии роботов-смертоносцев в стиле Терминатора. Однако исследователи все больше обращают внимание на другой сценарий — так называемое «ослабление человечества» (human enfeeblement).

Об этом пишет Daily Mail.

Ученые предупреждают, что настоящий способ, которым искусственный интеллект может привести к гибели человечества, вероятно будет гораздо более тонким.

Люди буквально отупеют?

Ведущие исследователи искусственного интеллекта сейчас бьют тревогу из-за растущей угрозы «ослабления человечества». Это постепенная деградация нашего критического мышления, планирования и даже эмоциональных способностей, поскольку мы с радостью передаем все больше ответственности машинам.

Речь идет о ситуации, при которой люди будут постепенно передавать искусственному интеллекту все больше интеллектуальной и практической работы, поэтому сами могут терять навыки, автономность и способность принимать сложные решения.

Доктор Самуэль Винанзи, старший преподаватель робототехники и искусственного интеллекта в Университете Шеффилд Халлам (Великобритания), считает, что именно это реальная угроза, которую искусственный интеллект представляет для мира.

«Со временем эти незначительные решения могут привести к тому, что население будет вряд ли способно мыслить без помощи искусственного интеллекта, и что оно будет менее способно понимать, проверять и отменять системы, от которых зависит», — говорит Винанзи.

И, согласно все большему количеству исследований, этот тревожный процесс уже начался.

В последние несколько месяцев мир исследований искусственного интеллекта был встревожен серьезными опасениями относительно того, что быстрое развитие технологий может угрожать человечеству.

Ранее в этом месяце 27-летний Джейкоб Коксон, помогавший обучать новейшие версии искусственного интеллекта в Anthropic из Сан-Франциско, призвал людей «не недооценивать» его возможности, особенно если он станет «сверхумным».

В своем опубликовании на X Коксон добавил: «Люди, создающие искусственный интеллект, искренне верят, что он может убить нас всех до конца десятилетия».

В ответ руководитель научного отдела выравнивания Anthropic Эван Хабингер написал: «Джейкоб прав — мы действительно искренне верим, что ИИ может убить всех людей! Я лично думаю, что это >10% в течение следующего десятилетия».

Однако мнения экспертов разделились относительно того, какую форму будет иметь эта угроза от искусственного интеллекта.

По словам некоторых исследователей искусственного интеллекта, самая большая проблема состоит в том, что мошенническое или «непривязанное» ИИ может взять под контроль критически важную инфраструктуру, такую как энергосеть или атомные электростанции.

Другие озабочены тем, что искусственный интеллект может ненамеренно спровоцировать ядерную войну или создать усовершенствованные патогены, используемые в качестве оружия.

Но доктор Винанзи считает, что ни один из этих драматических, апокалиптических сценариев не реалистичен.

Он говорит: «По моему мнению, они склонны не замечать, насколько какие-либо действия в реальном мире все еще зависят от людей, материалов и инфраструктуры».

Создание смертельного вируса все еще требует физической лабораторной работы, которую ни одно современное программное обеспечение не может заменить, поскольку обученным людям все еще нужно физически работать с оборудованием.

Однако это не означает, что человечество защищено от опасного влияния передовых систем искусственного интеллекта.

По мнению некоторых экспертов, больший риск состоит в том, что искусственный интеллект действительно слишком полезен.

Доктор Винанзи описывает ослабление как «медленное разрушение человеческих способностей, возникающее в результате передачи все большего количества задач машинам».

«Это не происходит за одну ночь; скорее, это накапливается из-за многих мелких задач — психологи называют привычку полагаться на внешние инструменты для экономии умственных усилий „когнитивной разгрузкой. Проще говоря, чем больше мы позволяем компьютеру заниматься написанием, кодированием, исследованиями и принятием решений, тем более естественным кажется этот сокращенный путь, и тем труднее его остановить. Мы уже начинаем видеть, что люди чрезвычайно охотно доверяют искусственному интеллекту важные задачи“, — предупредил эксперт.

Искусственный интеллект используется для выявления случаев финансового мошенничества, управления данными здравоохранения, выбора мест, где сосредоточены ресурсы полиции, а также управление транспортными средствами.

В более драматичном примере недавно сообщалось, что американские военные едва не поддались попытке сесть на борт судна под китайским флагом, поскольку… Чат-бот с искусственным интеллектом ложно сгенерировал отчет, в котором утверждалось, что он перевозит детали для программы ядерного оружия.

«Катастрофы удалось избежать лишь потому, что кто-то остановился, чтобы задать вопрос: именно тот тип критического мышления, который мы рискуем потерять», — говорит Винанцы.

Особые опасения касаются молодежи и системы образования

Эксперты особенно обеспокоены тем, какое влияние это может оказать на следующее поколение, которое будет учиться, имея доступ к более мощным чат-ботам.

Школы и университеты уже пытаются предотвратить учащихся, используя такие инструменты, как ChatGPT, для выполнения своих задач.

Квалифицированные профессии, такие как хирурги, инженеры, юристы и учителя, рискуют «потерять свою экспертизу», поскольку потребность практиковаться исчезает, а базовые навыки критического мышления угасают.

Конечным следствием является поколение, которое является «свободным, но хрупким»; способным генерировать ответы, но неспособным самостоятельно их оценивать.

Однако некоторые эксперты считают, что последствия могут быть более драматичными, и в конечном счете привести к тому, что неконтролируемый искусственный интеллект захватит жизненно важные услуги человечества.

Если наши больницы, дороги, электросети, армия и экономика будут переданы в управление искусственному интеллекту, мы рискуем потерять контроль над всей нашей критически важной инфраструктурой.

Андреа Миотти, основатель и генеральный директор ControlAI, рассказал: «Благодаря глубокой интеграции искусственного интеллекта в экономику, сверхумный искусственный интеллект, если его разработать, сможет накапливать беспрецедентную мощность в нашей инфраструктуре, экономике и армии без участия человека».

«Надразумный ИИ не будет инструментом под контролем человека, а скорее силой-изгоем, расположенной в центрах обработки данных страны, без человеческого командования, способной автономно атаковать критическую инфраструктуру», — добавил он.

Вызывает беспокойство то, что, как говорит Миотти, этот процесс «может не происходить постепенно».

«Надразумный ИИ не обязательно должен быть злонамеренным, чтобы представлять угрозу. Люди были бы просто побочными убытками, поскольку мощные системы ИИ стремятся больше ресурсов, так же как муравьи являются побочными убытками, когда мы строим автомагистраль», — добавляет он.

Ранее миллиардер Билл Гейтс предупредил об опасности искусственного интеллекта, который, по его мнению, может привести к миллиарду смертей.