Мировые лидеры технологий и общественные деятели призывают запретить создание "суперинтеллекта"

Более 1000 известных ученых, предпринимателей и общественных деятелей подписали открытое заявление с призывом к немедленному запрету создания так называемого "суперинтеллекта " — гипотетической формы искусственного интеллекта, которая превышает человеческий разум в большинстве когнитивных задач, сообщает CNBC. Среди подписантов — сооснователь Apple Стив Возняк, основатель Virgin Group Ричард Брэнсон, бывший президент Ирландии Мэри Робинсон, а также принц Гарри и Меган Маркл.

Документ, опубликованный 22 октября, по состоянию на 15:00 объединил 1009 подписантов, включая ведущих экспертов по искусственному интеллекту — Йошуа Бенджио, Джеффри Хинтона и Стюарта Рассела, которых считают основателями современной науки ИИ. Авторы заявления требуют ввести мораторий на разработку сверхразумных систем пока не будет научного консенсуса относительно безопасности таких технологий и их способности к контролю со стороны человека.

Инициатива появилась на фоне растущей конкуренции между технологическими гигантами — OpenAI, Meta, xAI и другими — в разработке моделей нового поколения. Meta даже создала подразделение под названием Meta Superintelligence Labs.

Подписанты заявления предупреждают, что развитие суперинтеллекта может привести к глубоким общественным потрясениям. Например, к потере работы из-за экономического "старения" до угроз свободам, гражданским правам и даже потенциального исчезновения человечества .

"Прежде чем разрешить создание подобных систем, нужно обеспечить общественную поддержку и научное понимание того, как безопасно их разрабатывать и контролировать", — говорится в обращении.

К инициативе присоединились представители различных сфер — от ученых и технологических лидеров до религиозных деятелей, медийщиков и бывших политиков. Среди подписантов — бывший председатель Объединенного комитета начальников штабов США Майк Маллен, экс-советник по национальной безопасности Сьюзен Райс, а также медийные союзники Дональда Трампа Стив Бэннон и Гленн Бек.

В документе приводятся результаты недавнего опроса Института будущей жизни, согласно которому лишь 5% американцев поддерживают нынешние темпы нерегулируемого развития искусственного интеллекта. В то же время 64% респондентов считают, что создание "сверхразумного ИИ" должно быть запрещено, пока не будет доказана его полная безопасность, а 73% выступают за жесткое государственное регулирование этой сферы.

Профессор Йошуа Бенджио отметил, что системы искусственного интеллекта могут превзойти людей в большинстве задач уже в течение нескольких лет; "Чтобы безопасно продвигаться к суперинтеллекту, нужно научно доказать, как создавать системы, которые принципиально не могут нанести вред человеку — ни из-за ошибок, ни из-за злонамеренного использования". По его словам, общество должно получить больше влияния на решения, которые будут определять будущее человечества.

Предупреждения о рисках суперинтеллекта не новы. Еще в 2015 году генеральный директор OpenAI Сэм Альтман писал, что развитие сверхчеловеческого машинного интеллекта "вероятно, является самой большой угрозой для дальнейшего существования человечества". А Илон Маск в этом году заявил в подкасте, что вероятность "уничтожения человечества из-за искусственного интеллекта" составляет примерно 20%.

Развитие искусственного интеллекта несет глобальные цивилизационные изменения, создавая не только новые профессии, но и формируя цифровое общество, где появляются цифровые субъекты, потенциально наделенные правовым статусом. В статье "Цифровые судьи, искусственное общество и виртуальные граждане: как ИИ меняет цивилизацию" доктор юридических наук Алексей Костенко рассказывает Оксане Онищенко, что ИИ создает момент юридической сингулярности, требуя от человечества разработки нового международного цифрового кодекса и национальных стратегий для регулирования угроз, таких как использование цифровых двойников для кибервойн и манипуляций сознанием.