Илон Маск и группа исследователей призвали остановить эксперименты с искусственным интеллектом: может угрожать человечеству

Гендиректор SpaceX, Tesla и Twitter Илон Маск и группа специалистов и топ-менеджеров IT-отрасли призвали остановить эксперименты с искусственным интеллектом. Они боятся, что ИИ может угрожать человечеству.

Илон Маск и еще более 1100 профессоров, инженеров и исследователей подписали открытое письмо в ШИ-лаборатории с требованием немедленно остановить по крайней мере на пол года обучение систем искусственного интеллекта, более мощных, чем GPT-4. Письмо опубликовано на сайте некоммерческой организации Future of Life Institute.

Среди подписавших письмо соучредитель Apple Стив Возняк ; Эндрю Янг, предприниматель и кандидат на президентских выборах в США в 2020 году, Рэйчел Бронсон, президент Бюллетеня ученых-атомщиков, устанавливающий часы Судного дня, соучредитель Pinterest Эван Шарп, соучредитель Skype Яан Таллин и многие другие.

Подписанты считают, что продукты из ИИ "могут представлять серьезную угрозу обществу и человечеству". Работая с ними, следует быть очень внимательными, одна этого не происходит.

"Системы искусственного интеллекта с конкурентоспособным интеллектом могут представлять серьезные риски для общества и человечества... Как отмечено в широко одобренных Принципах II Asilomar, продвинутый ИИ может стать глубоким изменением в истории жизни на Земле, и его следует планировать и управлять им с соответствующим усердием и ресурсами К сожалению, такого уровня планирования и управления не существует, даже несмотря на то, что в последние месяцы лаборатории искусственного интеллекта застряли в неконтролируемой гонке по разработке и развертыванию все более мощных цифровых условий, которые никто — даже их создатели — не может понять, прогнозировать или надежно контролировать", – говорится в письме.

Эксперты и руководители отрасли, подписавшие письмо, считают, что обучение следует остановить, пока не появятся общие протоколы безопасности.

По их убеждению, если создатели ШИ-продуктов не смогут устроить полугодовую паузу самостоятельно, в это должно вмешаться правительство.

При этом некоторые из тех, чьи подписи стоят под письмом, заявили, что их имена просто использовали, а на самом деле они ничего не подписывали.

Так, профессор Нью-Йоркского Университета Ян Лекан заявил в Twitter, что не подписывал ни одного открытого письма против ИИ, хотя его подпись там стоит. Еще больше вопросов вызвал тот факт, что впоследствии удалили этот твит.

Кроме этого, из письма исчезли имена Билла Гейтса и Сэма Альтмена, а внимательные пользователи нашли в документе несколько фейковых имен с подписями, что вызвало вопрос о достоверности данных в нем.

Ранее OBOZREVATEL рассказывал о том, что на самом деле может быть GPT-4, и почему его возможности поражают.

Также чат-бот GPT-4 сказал, какие профессии ИИ может отобрать у людей.

Подписывайтесь на каналы OBOZREVATEL в Telegram и Viber , чтобы быть в курсе последних событий.