Подсчитана вероятность истребления человечества искусственным интеллектом

Существует довольно скудная вероятность сценария, при котором развитие искусственного интеллекта в конечном итоге приведет к тому, что будет вызвано вымирание человечества. Ученые полагают, что вероятность таких событий достигает не выше 5%.

Об этом свидетельствует исследование, проведенное на основе опроса 2700 исследователей искусственного интеллекта. Как пишет NewScientist, ученые считают, что существуют широкие разногласия и неопределенность рисков ИИ для человечества.

Проведенное исследование является наибольшим опросом такого рода на сегодняшний день. Участникам было предложено поделиться мнениями о возможных сроках достижения будущих технологических этапов ИИ, а также о положительных или негативных последствиях этих достижений для общества.

Как оказалось, почти 58% опрошенных считают, что существует 5% вероятность того, что развитие ИИ приведет к вымиранию человечества или другим крайне плохим последствиям.

"Это важный сигнал о том, что большинство исследователей ИИ не считают невероятным, что продвинутый ИИ уничтожит человечество", – заявила автор исследования из Исследовательского института машинного интеллекта в Калифорнии Катя Грейс.

Вместе с тем, Эмиль Торрес из Университета Кейс Вестерн Резерв в Огайо предостерегает, что опросы экспертов по ИИ уже показали свою ошибочность. Так, он напомнил, что в 2012 году было проведено исследование, показавшее, что в долгосрочной перспективе прогнозы экспертов по ИИ были не более точными, чем мнение обычных людей.

Авторы статьи также отмечают, что исследователи ИИ, несмотря на свой статус и понимание ситуации в отрасли, не являются экспертами в вопросе того, как именно будет развиваться ИИ.

Однако аналогичный опрос 2022 года показал, что многие исследователи все же относительно точно предсказали развитие отрасли. В частности, по поводу того, как будет развиваться ситуация с дебютом ChatGPT и другими чат-ботами, основанными на крупных языковых моделях.

Так, исследователи в новом опросе заявили, что существует 50% (или более высокая) вероятность того, что системы ИИ успешно решат большинство из 39 тестовых заданий, включая написание новых песен или кодирование с нуля целого сайта для обработки платежей. Вместе с тем они все еще будут иметь определенные проблемы с такими задачами, как физический монтаж электропроводки в новом доме или решение древних математических загадок.

Исследователи также дают 50% вероятность, что к 2047 году ИИ сможет превзойти человека в выполнении любой задачи. Также они считают, что к 2116 году существует 50% вероятность того, что человекообразные работы станут полностью автономными.

Вместе с тем Торрес предполагает, что такие оценки могут быть слишком оптимистичными и не исключает, что "сфера ИИ переживет еще одну зиму", имея в виду исчерпание финансирования и корпоративного интереса аналогичные наблюдавшимся в 1970-х и 80-х годах. .

Исследователи также считают, что существует 70% вероятность того, что ИИ будет использоваться для создания дипфейков, а также манипулирования общественным мнением, разработки оружия, внедрения авторитарного контроля над населением и углубления экономического неравенства.

Ранее OBOZ.UA рассказывал о том, что искусственный интеллект научили предвидеть смерть людей. Он оказался прав в 78% случаев.

Подписывайтесь на каналы OBOZ.UA в Telegram и Viber, чтобы быть в курсе последних событий.