"Кремний в мозгу, титан в теле": ученый пояснил, изменятся ли люди с развитием технологий

Возможно, нанотехнологии превратят наш мозг в кашу. Возможно, ИИ станет причиной глобальных бедствий, а может быть технологическая сингулярность действительно случится, но будет ли она утопической? На этот вопрос ищет ответы доктор философии из Оксфордского университета Джонни Томсон.

Когда некий ученый или инженер совершает открытие, за этим следует активное развитие той или иной сферы деятельности или области знаний. И по словам футуролога Рэя Курцвейла, мы находимся всего в нескольких десятилетиях от технологической сингулярности, — момента, когда технологии начнут развиваться настолько стремительно, что в корне изменят и нашу жизнь и наше представление о жизни. Однако доктор философии из Оксфордского университета Джонни Томсон критически относится к самой гипотезе технологической сингулярности и к тому, как ее трактует Курцвейл, о чем и написал в своей авторской колонке для bigthink.com.

Технологическая сингулярность: кошмар или утопия?

Курцвейл определяет сингулярность как "период, в течение которого темпы технологических изменений будут такими быстрыми, а их влияние будет настолько глубоким, что человеческая жизнь необратимо преобразуется". Идея состоит в том, что свершится неожиданный и невероятно сильный прорыв вследствие ряда открытий и достижений. Однако, рассуждает Томсон, мы часто не понимаем, что на самом деле означает "экспоненциальный рост" и насколько быстро он вызовет изменения.

"Например, если бы мы удваивали вычислительную мощность компьютеров каждый год, то через 7 лет мощность наших компьютеров увеличилась бы в 128 раз", — пишет ученый.

Вывод, который делает Курцвейл, заключается в том, что технический прогресс "удваивается каждое десятилетие" (хотя он не ссылается ни на один источник, утверждая это). По его словам, мы находимся всего в нескольких десятилетиях от того момента, когда все действительно "взлетит" и мы очутимся в потрясающем, крутом и полностью изменившемся новом мире.

"Для некоторых сингулярность будет утопией. Для других станет кошмаром в стиле "Терминатора". Курцвейл, безусловно, принадлежит к числу первых", — иронизирует автор.

По словам Томсона, футурологи-утописты считают человечество слабым, потому как все мы ограничены "биологическими телами 1.0".

Когда наступит эпоха технологического Ренессанса?

Курцвейл рассматривает Вселенную с точки зрения шести великих "эпох". Первая знаменует создание вселенной, вторая — появление жизни, а предпоследняя — развитие интеллекта и человеческого мозга, что позволило нам создавать все более и более совершенные технологии.

"Теперь мы вплотную подошли к следующему эпохальному моменту, когда технологии буквально станут частью нас. Это не означает использование Google Maps для построения маршрута; это означает, что сама наша биология будет связана с технологиями, которые мы создаем. Это эпоха бионики, когда машины, которые мы производим, позволят нам "преодолеть ограничения человеческого мозга" и решить "вековые человеческие проблемы, значительно расширив творческие возможности". Это будет трансцендентное человечество следующего уровня с кремнием в мозгу и титаном в наших телах", — поясняет философ видение футурологов.

Автор снова ставит вопрос: означает ли это, что в мире появится некая злая, богоподобная элита, порабощающая нас всех, или это будет идиллическое общество? Сам Курцвейл не может дать однозначный ответ на этот вопрос, подчеркивает Томсон.

Насколько вероятно появление технологической сингулярности?

Джонни Томсон в своей колонке попытался оспорить гипотезу технологической сингулярности. И привел 3 аргумента.

"Первая идея, которую можно оспорить, — это идея касательно развития технологий по сценариям, которые приведут к тому, что либо возникнет некий глобальный искусственный интеллект, либо — сложные бионические усовершенствования человеческого разума", — рассуждает философ.

Он пишет о том, что большинство оценок Курцвейла (а также оценок других футурологов, таких как Элиэзер Юдковски) основаны на предыдущих и существующих разработках "оборудования" (т.е. гаджетов — ред.). Но вот философ Дэвид Чалмерс утверждает, что "препятствием на пути к развитию ИИ является софт, а не "железо". Наличие так называемого глобального (общего) человеческого интеллекта будет нераздельно связано со всевозможными сложными (и неизвестными) нейробиологическими и философскими вопросами, поэтому ориентироваться на то, как развивались все это время хардверные продукты, не стоит, считает Чалмерс.

"Развитие человеческого разума нельзя сравнивать с увеличением памяти флеш-накопителя", — поясняет слова Чалмерса Джонни Томсон.

Во-вторых, по мнению автора, нет никаких причин для экспоненциального роста технологий, о котором говорят футурологи, ведь достижения прошлых лет не гарантируют аналогичных достижений в будущем. Также существует закон убывающей отдачи (его еще называют законом убывающей доходности, — ред.).

"Может случиться так, что при наличии коллективного разума, работающего очень эффективно, вы все равно получите от него меньше, чем ожидаете. Сегодня Apple — самая богатая компания в мире, в которой работают лучшие умы в области компьютерных наук. Тем не менее, совершенно очевидно, что самые последние ее гаджеты кажутся менее интересными или инновационными, чем их предыдущие версии", — аргументирует колумнист.

Курцвейл и его сторонники могут возразить, что мир "глобального интеллекта", в котором возможно развитие интеллекта, выходит за рамки "убывающей отдачи". Как отмечает Чалмерс, "даже среди людей относительно небольшие различия в способностях и навыках (скажем, разница между математиком Аланом Тьюрингом и среднестатистическим человеком), приведут к тому, что система глобального интеллекта не будет однородной и одинаково эффективной". Может случиться так, что система будет чем-то ограничена и тогда отдача тоже уменьшится, говорится в материале

В-третьих. существует множество ситуативных или событийных препятствий, которые в принципе могут помешать сингулярности.

"Возможно, это будет мировая война, которая уничтожит всех до единого. Или очередная пандемия, которая убьет всех нас. Возможно, нанотехнологии превратят наш мозг в кашу. Возможно, ИИ станет причиной глобальных бедствий. Или, может быть, у нас просто закончатся ресурсы, необходимые для создания и развития технологий. Каждая из этих причин — гипотетическая и шансы, что что-то из перечисленного действительно случится, крайне малы, но когда вы анализируете возможные варианты развития событий, то невольно задаетесь вопросом: а действительно ли технологическая сингулярность предрешена?", — пишет ученый.

Мечты любителей научной фантастики

"Ваше мнение о Курцвейле и его идеях будет во многом зависеть от ваших предубеждений и, возможно, от того, сколько научной фантастики вы прочитали. Безусловно, верно сказать, что технологии в прошлом веке развивались темпами, намного превышающими темпы прошлых веков и тысячелетий. Мир 2020-х годов неузнаваем по сравнению с миром 1920-х годов. Наши прапрадеды воспринимали бы сегодняшний мир, как на роман Герберта Уэллса. Но верно и то, что на пути неограниченного технического прогресса есть много препятствий. Мы в конечном итоге не знаем, взлетит ли эта ракета — и если да, то ударится ли она об очень твердый стеклянный потолок?", — резюмирует Джонни Томсон.