Победит тот, кто подчинит технологии: что будет самым важным в мире завтрашнего дня

Часто утверждают, что появление печатного станка ознаменовало начало современной эпохи, позволив распространиться идеям научной революции. Но дает ли это нам полную картину?

Писатель Юваль Ной Харари, например, считает, что эволюция гораздо сложнее: он утверждает, что печатный станок за два века породил теории заговора и фейковые новости, что привело к таким гротескным явлениям, как суды над ведьмами. И когда спустя примерно 200 лет произошла революция в научной и философской мысли, это случилось только после того, как наши институты смогли заслужить доверие населения.

Проще говоря, мы не умеем быстро адаптироваться в мирное время — это урок, о котором наши лидеры и институты должны помнить сегодня.

Технологическое разрушение информации, которое мы сейчас переживаем в виде искусственного интеллекта, также способно подорвать наши демократии, прежде чем ИИ можно будет использовать для их укрепления. А поскольку на горизонте маячит множество новых мощных технологий, мы находимся лишь в самом начале грядущих потрясений.

Появляющиеся технологии изменят глобальный баланс сил, и произойдет все быстрее, чем мы думаем.

Это технологическое цунами приходит в то время, когда мир уже удивительно нестабилен. Биполярная стабильность времен "холодной войны" ушла в прошлое; история, по сути, не закончилась. Напротив, мир стал многополярным, характеризующимся жесткой конкуренцией между великими державами и открыто враждебной группой авторитарных стран, настроенных на подрыв либерального международного порядка.

Мы также все чаще видим новые напористые страны — такие, как Индия, Бразилия, Саудовская Аравия и Индонезия, которые обладают политическим и экономическим влиянием, чтобы быть разнонаправленными, выбирая тот лагерь, который лучше всего отвечает их национальным интересам. И, как показал недавний саммит БРИКС в Казани, Китай — при поддержке России — хочет иметь больше прав на то, как устроен мир.

На все это накладывается сложный набор негосударственных факторов, обладающих значительным влиянием благодаря своим технологическим или финансовым возможностям. Например, 10 лет назад кто бы мог подумать, что такой человек, как Илон Маск, может играть столь значительную роль в геополитике? Его влияние — свидетельство его богатства, а также разработки и контроля критически важных технологий — говорит о том, что эти технологии несут в себе огромную угрозу разрушения.

Растущие темпы технологических изменений с каждым днем делают эту проблему все более динамичной. Тем временем генеративный ИИ начал возводить технологию в ранг "агента", которым можно управлять без участия человека. Однако основы потрясающих возможностей генеративного ИИ остаются зыбкими — ведь он обучается на наших колоссальных глобальных запасах информации, которые характеризуются некоторыми достоверными фактами, покоящимися на огромном ненадежном ядре битов и байтов.

Для некоторых новых технологий пометка "развивающиеся" уже кажется устаревшей, ведь на Amazon можно просто заказать что-нибудь из этого научно-фантастического будущего. Всего за 129 долларов можно купить набор для редактирования генов CRISPR, который в чужих руках может быть использован для евгеники. Биотерроризм — очевидный риск, угрожающий цивилизации, но лишь один из многих.

Конечно, как и в случае со всеми новыми мощными технологиями, преимущества синтетической биологии также убедительны: бактерии, поглощающие углекислый газ, сельскохозяйственные культуры, процветающие в пустынях, выращенное в лаборатории мясо, способное накормить голодный мир… Преимущества этих технологий делают их неотразимыми как для рынка, так и для нашего стремления к более здоровому и богатому обществу.

Их притягательность превратила эти технологии в "джаггернаут", который практически невозможно контролировать. Они также стали играть решающую роль в глобальном соревновании между свободным миром и нашими злобными авторитарными соперниками. И именно победители в этом соревновании смогут определить наше будущее.

Наглядным примером этого — возможно, менее чем через десятилетие — станут квантовые вычисления, которые позволят нам решать невозможные математические задачи. Однако они также дадут решающее преимущество тем, кто стремится подорвать ценности свободного мира. В "мире после шифрования" многое из того, что было тайной, перестанет быть таковой.

Точно так же риски безопасности окружают область геоинженерии, которая включает в себя управление солнечной радиацией — отклонение солнечных лучей от Земли. Хотя эта концепция звучит радикально, она представляет собой технологию, которая может стать важнейшим планом действий в условиях обострения климатического кризиса. Однако она таит в себе множество опасностей, и не в последнюю очередь — возможность односторонних действий со стороны отчаявшегося государства, находящегося во власти самых экстремальных последствий изменения климата.

Наконец, если в искусственных матках уже успешно выращивают овец, то скоро мы сможем выращивать людей — хотя некоторые утверждают, что это произойдет не раньше чем через 10 лет. Это, несомненно, изменит ситуацию для будущих родителей, которые в настоящее время вынуждены прибегать к услугам суррогатных матерей. Но как быть с нацией, переживающей демографический коллапс? Что за моральный ландшафт будет управлять государствами, которые хотят массово выращивать детей? Или диктаторы, которые хотят выращивать пушечное мясо для своих армий?

Более того, возможно, мы даже не будем выращивать людей в том виде, в котором мы их знаем. Интеграция разума и машины уже началась, и интерфейсы "мозг-компьютер" больше не ограничиваются научной фантастикой. Наиболее известная компания Neuralink Corp — одно из предприятий Маска — активно разрабатывает и тестирует имплантируемые устройства, которые могут позволить людям напрямую управлять компьютерами или протезами с помощью своего мозга. В случае успеха это означает, что серьезные повреждения мозга могут быть излечимы, но мы также можем увидеть людей с дистанционным наблюдением и контролем.

Если наше будущее на этой планете похоже на научно-фантастический фильм, то космос — тем более. Бурно развивающаяся космическая индустрия в настоящее время стоит более 500 миллиардов долларов в год и, по прогнозам, достигнет 1,8 триллиона долларов к 2035 году. Но, несмотря на то, что "Соглашение Артемиды" от 2020 года призвано регулировать жизнь и бизнес в космосе, его до сих пор не подписали ни Китай (вторая по величине космическая держава в мире), ни Россия, ни Индия. А как вписываются во все это планы Маска и амбиции SpaceX по созданию устойчивой колонии на Марсе — со своим собственным управлением?

Правительствам необходимо начать подготовку и реформирование. Успевать за развитием всех этих технологических изменений, не говоря уже о том, чтобы направлять их в нужное русло, чрезвычайно сложно, особенно когда очень немногие руководители государственного сектора действительно что-то знают об этих важнейших новых технологиях.

В настоящее время такие обсуждения в правительстве обычно ограничиваются несколькими нишевыми командами и закулисными экспертами. Таким образом, часть решения заключается в талантах и возможностях. Исследование Apolitical показывает, что во всем мире только 65 % государственных служащих получили какие-либо рекомендации по ИИ, а 85% не прошли никакого обучения. Этот пробел в знаниях об ИИ необходимо восполнить.

Правительствам также необходимо отступить и посмотреть на картину в целом. Государственному сектору и его учреждениям необходимо повышать квалификацию не только в области ИИ, но и во всех важнейших технологиях будущего.

И, что очень важно, наши институты также нуждаются в реформе. Это требует реального лидерства, но это возможно. Мы переживаем время кризиса, а именно во время кризиса можно добиться реальных перемен.

Новые технологии в совокупности создают нестабильный мир, в котором мы не можем четко понять, как выглядит национальная безопасность. Реформа потребует воображения и энергии, а также непопулярных решений. Но первая обязанность любого правительства — защищать свое население. И когда наши лидеры столкнутся с этими новыми технологиями, а им придется это сделать, станет ясно, что они лежат в основе национальной безопасности, к лучшему или худшему.

Автор выражает личное мнение, которое может не совпадать с позицией редакции. Ответственность за опубликованные данные в рубрике "Мнения" несет автор.

Источник

Важно В 100 раз умнее, чем GPT-4. Что несет человечеству новый искусственный интеллект от OpenAI