Харари оценил шансы человечества сохранить контроль над ИИ: решающими назвал ближайшие 10 лет

Израильский историк и футуролог Юваль Ной Харари заявил, что искусственный интеллект может превзойти человеческий разум уже в течение десятилетия, и прокомментировал подобный прогноз американского миллиардера Илона Маска. Харари убежден, что потеря человеческого контроля не является неизбежной, если государства начнут действовать уже сейчас. Об этом он сказал в интервью изданию The Economist.

Автор книг Sapiens, Homo Deus и Nexus называет искусственный интеллект «крупнейшим психологическим и социальным экспериментом в истории человечества». По его словам, сегодня человечество находится в тот момент, когда ещё может определить, каким будет будущее этой технологии.

В ходе беседы Харари прокомментировал недавнее интервью с Илоном Маском, в котором тот описал мир через десять лет. Маск предположил, что ИИ значительно превзойдет человеческий разум, создаст мир чрезмерного изобилия, но люди вряд ли сохранят над ним контроль.

Харари согласился с двумя из трёх прогнозов: «Учитывая нынешние тенденции, вполне вероятно, что через 10 лет ИИ превзойдёт нас в интеллектуальном плане и, соответственно, переберёт контроль на себя».

В то же время историк категорически не согласен с тем, что такой сценарий является фатальным. По его мнению, утверждения о неизбежности потери контроля часто звучат именно от руководителей компаний, разрабатывающих ИИ, и таким образом снимают с них ответственность за последствия развития технологии.

В частности, в начале июня руководители техногигантов призвали Конгресс США усилить контрольнад заказами синтетической ДНК и РНК, чтобы предотвратить возможное использование ИИ для создания опасных патогенов. Соответствующее письмо подписали генеральный директор Anthropic Дарио Амодей, генеральный директор OpenAI Сэм Альтман, руководитель Google DeepMind Демис Хассабис, руководитель направления искусственного интеллекта Microsoft Мустафа Сулейман и главный директор по вопросам ИИ компании Meta Александр Ван.

Впоследствии более 100 ведущих технологических корпораций, среди которых OpenAI, Anthropic, Google, Microsoft и Amazon, обнародовали совместное обращение с призывом срочно усилить цифровую безопасность в связи с неизбежной волной кибератак с использованием ИИ. Чтобы опередить злоумышленников, которые всё чаще автоматизируют взломы с помощью генеративных моделей, технологические гиганты предложили предоставить специалистам по киберзащите ранний доверенный доступ к самым мощным системам ещё до их официального релиза.

Харари подчеркнул, что решающим является не сам факт возможного интеллектуального превосходства ИИ, а то, позволит ли человечество этому превосходству превратиться в политический и социальный контроль. Он считает, что если нынешняя гонка в сфере искусственного интеллекта продолжится в тех же темпах, то именно такой исход станет наиболее вероятным.

«Через 10 лет ИИ захватит власть. Но это не является неизбежным. В 2026 году мы все еще контролируем ситуацию, и именно мы решаем, что делать дальше, — и это имеет решающее значение», — подытожил футуролог.

Ранее Харари заявлял, что искусственный интеллект способен получить контроль над миром без вооруженных конфликтов или сценариев вроде «Терминатора», а путем постепенного подчинения бюрократических и институциональных систем. По его мнению, бюрократия является естественной «средой обитания» для алгоритмов, поэтому передача им контроля над информационными потоками в банках, судах и государственных органах грозит подрывом доверия между людьми и появлением сетей ИИ, которые будут принимать решения автономно.