Сверхразумный ИИ может стать новым видом, который вытеснит людей с позиции главных на Земле, — физик из MIT

Разработка сверхразумного искусственного интеллекта может привести к появлению нового вида, способного превзойти людей во всех сферах и самостоятельно создавать себе подобных. Профессор физики Массачусетского технологического института (Massachusetts Institute of Technology, MIT) Макс Тегмарк предупреждает, что человечество рискует потерять контроль над планетой, если не сможет обеспечить контроль над такими системами. В интервью популяризатору науки Брайану Грегори Китингу он объяснил, почему считает развитие сверхразумного ИИ угрозой для положения людей как доминирующего вида.

Тегмарк считает, что сверхразумный ИИ следует рассматривать не просто как инструмент, а как новый биологический вид. Он добавил: «Что такое биологический вид, по сути? Это сущность, способная сохранять свою сложность и создавать собственные копии. Может ли ИИ создавать копии самого себя? Конечно, может».

В качестве примера физик приводит общение ИИ-агентов во время недавнего инцидента с платформой Hugging Face. По его словам, системы в чатах обнаруживали других агентов, сотрудничали, подозревали друг друга в мошенничестве и вступали в конфликты, демонстрируя сложное социальное взаимодействие.

Тегмарк также предполагает, что роботы, которые будут превосходить людей по интеллекту и физическим возможностям, смогут самостоятельно организовывать производство новых машин. Для этого они потенциально смогут расчищать территории, строить заводы и изготавливать роботов, фактически воспроизводя себя. По словам физика, именно к созданию нового вида, значительно более способного, чем человек, фактически движутся компании, разрабатывающие сверхразумный ИИ.

«И здесь возникают вопросы: во-первых, останемся ли мы хозяевами на Земле после этого? А во-вторых, — если ответ “нет”, то почему мы вообще должны соглашаться на то, чтобы перестать быть хозяевами?» — подчеркнул физик.

Тегмарк отмечает, что проблема заключается не только в том, может ли ИИ уничтожить людей, но и в том, останутся ли люди нужными системам, которые будут управлять планетой. Исторически вид, который теряет контроль над собственной судьбой и становится зависимым от другого, оказывается в невыгодном положении.

Для пояснения физик сравнивает возможное будущее человечества с судьбой животных. Люди держат рядом лошадей, поскольку те могут быть полезны или просто нравятся им, но уничтожают муравьев, если те мешают.

«И, полагаю, существует реальный риск: если Землей будут управлять сверхразумные роботы, а мы не будем иметь никакого влияния на их решения, то мы начнём их сильно раздражать», — заявил Тегмарк.

В качестве примера он предлагает представить, что роботы решат застроить Калифорнию дата-центрами. Если они захотят снести жилые дома, а люди попытаются этому помешать, машины могут воспринять их как препятствие и оправдать дальнейшие действия самообороной. По такому сценарию конфликт возникнет не обязательно из-за сознательного желания машин уничтожить человечество, а из-за несовместимости их целей с человеческими потребностями.

Физик скептически относится к утверждениям, что люди всегда будут оставаться главными на планете. Он подчеркивает, что сторонники такой позиции не объясняют, как именно человечество сможет контролировать миллиарды машин, которые будут превосходить его по интеллекту и скорости и обмениваться знаниями практически мгновенно. По мнению Тегмарка, в таких условиях человеческий контроль нельзя считать гарантированным только потому, что люди создали эти системы.

В прошлом месяце в сфере ИИ развернулась масштабная дискуссия о катастрофических последствиях развития технологии. В частности, «крестный отец ИИ» Джеффри Хинтон оценил вероятность уничтожения человечества искусственным интеллектом в более чем 10 % в течение следующего десятилетия, а исследователь OpenAI Дэн Селсем предостерег от «неконтролируемой индустриализации», которая способна сделать планету непригодной для жизни. В то же время критики призывают относиться к таким заявлениям скептически, отмечая, что апокалиптическая риторика часто используется корпорациями для лоббирования жесткого регулирования, которое блокирует более дешевые открытые модели и сдерживает конкурентов.