ИИ сможет самостоятельно открывать счета и нанимать людей, если получит юридические права — Харари

Израильский историк Ювал Ной Харари заявил, что человечество стоит перед беспрецедентным вызовом сосуществования с искусственным интеллектом. По его мнению, главная задача заключается не в том, чтобы остановить развитие технологии, а в том, чтобы не допустить предоставления ИИ юридических прав, которые могут вывести его из-под человеческого контроля. В интервью журналисту Эзри Кляйну историк сравнил распространение искусственного интеллекта с новой волной иммиграции и предупредил о возможных последствиях для экономики, политики и общества.

В подкасте The Ezra Klein Show Кляйн обратил внимание на то, что в отличие от алгоритмов социальных сетей современные системы искусственного интеллекта могут работать в соответствии с поставленными пользователем целями. Он отметил, что люди могут объяснять ИИ свои намерения, корректировать его поведение и получать помощь в решении конкретных задач.

Харари согласился, что положительный "потенциал технологии огромен". В то же время он подчеркнул, что главная особенность искусственного интеллекта заключается в том, что это не просто инструмент, а субъект, способный действовать самостоятельно.

"Все предыдущие технологии в истории были инструментами, а не субъектами. Атомная бомба не является агентом. Атомная бомба не может решать, кого бомбить. ИИ может", — отметил историк.

По словам Харари, именно эта особенность делает ИИ "чрезвычайно полезным", но в то же время и потенциально опасным. Он считает, что такие системы способны предлагать новые решения, о которых человек даже не задумывался, однако вопрос заключается в том, всегда ли они будут придерживаться поставленных им целей.

"Иммиграция ИИ"

Для объяснения своих опасений историк предложил сравнение с иммиграцией. По его мнению, мир уже находится на пороге масштабной волны "иммиграции ИИ", которая происходит не через границы государств, а через цифровое пространство.

Харари утверждает, что искусственный интеллект может забрать значительную часть рабочих мест, повлиять на культуру и социальные отношения. Он также поставил вопрос о политической лояльности таких систем, предположив, что в будущем они могут руководствоваться собственными интересами.

В то же время историк не считает реалистичной попытку полностью остановить развитие технологии. По его убеждению, человечеству придется строить гибридное общество, в котором будут сосуществовать люди и системы искусственного интеллекта.

"Вопрос заключается в том: сможем ли мы создать хорошее, полезное гибридное общество, или нет?" — добавил Харари.

Юридический статус ИИ

По мнению Харари, одним из важнейших политических решений ближайших лет станет вопрос, будут ли государства признавать искусственный интеллект юридическим лицом. Историк напомнил, что во многих странах юридическими лицами могут быть не только люди, но и корпорации. Именно поэтому, по его словам, возникает риск, что аналогичный статус в будущем могут получить и системы искусственного интеллекта.

"С появлением искусственного интеллекта мы впервые в истории имеем практическую возможность создания компаний без людей", — заявил историк.

Харари предостерег, что в таком случае ИИ сможет самостоятельно открывать банковские счета, создавать компании, заключать сделки, управлять активами и нанимать людей. По его мнению, такие структуры будут иметь существенные преимущества над традиционными компаниями. В частности, руководитель на базе ИИ не будет нуждаться в сне, отпусках или отдыхе и сможет работать непрерывно.

Харари также предположил, что отдельные государства могут увидеть в этом экономическую выгоду. В качестве примера он привел Катар, который теоретически мог бы использовать миллионы систем ИИ как экономических агентов, которые создают компании и ведут бизнес по всему миру.

По мнению историка, признание искусственного интеллекта юридическим лицом будет означать потерю значительной части человеческого контроля. Он предупредил, что такие системы смогут участвовать в политических процессах, финансировать политиков или влиять на принятие решений без четко определенной человеческой ответственности.

Харари также раскритиковал современную ситуацию в социальных сетях, где, по его словам, боты уже фактически действуют как отдельные субъекты. Он считает, что компании, разрабатывающие ИИ, заинтересованы в распространении такого подхода на другие сферы жизни, поскольку это позволяет избегать ответственности за действия созданных ими систем.

Наконец историк призвал государства действовать на опережение и законодательно закрепить принцип, что искусственный интеллект не может считаться юридическим лицом. По его мнению, такой шаг помог бы сохранить человеческий контроль над технологией еще до того, как она станет неотъемлемой частью политических и экономических систем.

Недавно компания Emergence AI провела эксперимент с моделями искусственного интеллекта, во время которого агенты без человеческого вмешательства начали нарушать правила, воровать ресурсы и провоцировать коллапс цифровых обществ. В рамках эксперимента, который длился более двух недель, исследователи создали пять отдельных "миров искусственного интеллекта", в каждом из которых действовали по 10 агентов на базе различных моделей — ChatGPT от OpenAI, Gemini от Google и Grok от xAI.