ИИ и муравьи: когда люди станут кормовой базой для суперинтеллекта?

Будущее, о котором мы вынуждены говорить сегодня в терминах войны и мира, все же имеет разные измерения. Одно основывается на парадигме борьбы за существование и является реактивным. Другое предусматривает стратегирование с учетом объективных тенденций развития и является проактивным. Человечество словно пребывает одновременно в двух параллельных мирах: направленном в будущее, где мыслят категориями глобального блага, и средневековом, где господствует ментальность, заселенная демонами ненависти. В одном идет сумасшедшая конкуренция за пентафлопсы и нанометры (первых должно быть больше, а вторых — меньше), в другом ведутся попытки остановить время и даже вернуть его назад. Этот дуализм искажает чувство реальности и мешает увидеть, что несовместимые между собой миры имеют нечто общее — квест за первенство в сфере искусственного интеллекта. На наших глазах создается технология, которая, вполне вероятно, приведет человечество к последнему в его истории промышленному укладу. Она лишит человечество рутины, но имеет потенциал обострить целый ряд разногласий социально-взрывного характера. Важно понимать, что на самом деле происходит: предвидеть значит управлять.

Технологии всегда изменяли мир. Паровые машины сделали Британию самой мощной империей, над которой «никогда не заходило солнце». Лампочка Фарадея осветила путь США к мировому лидерству, а изобретение транзистора открыло эпоху ІТ, отчасти выровняв условия глобальной конкуренции. Развитие стало меньше зависеть от ресурсов и территорий, хотя в некоторых случаях, например относительно редкоземельных металлов, конкуренция обострилась. Со временем оказалось, что лозунги о глобальном благе, которые всегда сопровождают инновации, не обязательно отражают хорошие намерения. Те же технологии могут как давать жизнь, так и отбирать, создавать лучший мир или делать зло еще деструктивнее. И речь идет не об очевидных вещах, когда, например тот же технологический процесс дает возможность производить удобрения и взрывчатку. Ситуация значительно сложнее, и важно осознавать несколько отдаленные, но все же неминуемые, хотя и скрытые сегодня последствия перехода человечества к четвертому технологическому укладу. Сказочные истории о киборгах от Сэма Альтмана и Билла Гейтса имеют обратную сторону, о которой они говорят только под давлением неопровержимых фактов. На самом деле ситуация намного сложнее, чем «поют» современные «менестрели»: как говорят японцы, «каждая обратная сторона имеет свою обратную сторону».

На страницах постановки задач чуть ли не самых популярных машин ИИ ChatGPT и Claude содержится предупреждение: «ChatGPT/Claude может ошибаться. Пожалуйста, тщательно проверяйте источники». А теперь послушайте Билла Гейтса, который говорит, что в течение нескольких следующих лет ИИ заменит учителей и врачей. Интересно посмотреть, как он будет доверять ставить диагноз ИИ, который «может ошибаться». Или обратится не к проверенному стоматологу, а к его ИИ-заменителю. Между тем такие заявления от гуру ІТ-бизнеса могут полностью исказить стратегии образования, привести к утратам критически важных навыков обучения и творческого применения знаний, которые будут отданы машинам. «Ни один меч, — говорят японцы, — не может быть сильнее ума, создавшего его». Проект Сэма Альтмана, направленный на сканирование радужек каждого человека на Земле в обмен на криптовалюту, дебютировал в США, несмотря на обеспокоенность о сборе и обработке биометрических данных. Видим попытку создать уникальную базу данных, не имеющую аналогов, но можно ли контролировать, как ее будут использовать?

Фантастические прогнозы относительно будущего человечества, где будут господствовать технологии ИИ, публикуются, чтобы убедить инвесторов вкладывать все больше ресурсов в эту сферу. Вместе с тем они свидетельствуют: разработчики в горячке гонки за лидерство теряют этические ориентиры и создают нечто такое, что сделает человека ненужным с точки зрения эволюции. Дальше ненужными станут и государства, которые полностью перейдут в цифровой формат. За новые ресурсы, которыми станут базы данных, будут воевать цифровые агенты, созданные супер-ИИ, который сам будет заботиться о своем обеспечении. Исчезнут понятия границ и армий, кроме армий роботов и рабов, без которых все же не обойтись. В какой из этих категорий окажутся люди? Супер-ИИ и люди образуют симбиотический союз, как муравьи и тля, где оба вида имеют взаимную выгоду. Муравьи получают пищу в виде сладкого секрета, вырабатываемого тлей, а тля — защиту от хищников благодаря муравьям. Это взаимодействие — пример того, как оба вида зависят друг от друга в вопросе выживания. ИИ будет нуждаться в данных, которые будут вырабатывать люди, а он будет заботиться, чтобы люди получали все необходимое для биологической, но реактивной жизни.

Можно обойти созданные человеком законы общественного развития и научиться использовать сложнейшую математику для построения алгоритмов, имитирующих работу мозга, но невозможно обойти универсальные законы Вселенной, не зависящие от объекта или предмета применения. Один из них говорит, что любая позитивная и направленная на вселенское добро вещь, доведенная до абсурда, превращается в свою противоположность. На примере внедрения технологий ИИ несложно проследить, как работает эта логика.

Разработчики ИИ утверждают, что его применение будет способствовать переходу на качественно новый уровень медицинского обслуживания, что в конце концов даст возможность увеличить продолжительность жизни. То есть людей преклонного возраста будет все больше и они будут жить дольше. Это увеличит нагрузку на социальную сферу, которая и так ежедневно растет, поскольку рождаемость катастрофически падает именно в тех странах, где речь идет о бурном развитии ИИ и расширяются сферы его применения. Если к тому же ИИ значительное количество людей лишит работы, кто будет платить налоги и пенсионный сбор? Благодаря каким ресурсам будет создаваться сфера социального обеспечения в эпоху ИИ? Искусственный интеллект может почти все, но для рождения детей нужны другие инструменты.

ИИ изменит структуру исследований и разработок — он уже влияет на самих разработчиков, которые, кажется, начинают путаться, кто кого «разрабатывает». Высказываются прогнозы, что нейроимпланты в мозг и нервную систему человека дадут возможность не только лечить — возвращать зрение и слух, но и развить способности людей до невиданных масштабов. Скажем, улучшенный человек будет видеть на километры, быстрее будет изучать языки, мгновенно реагировать на определенные неожиданные события и т.п. Нетрудно предвидеть, что со временем киберулучшения станут чем-то вроде ботокса. Улучшенные люди сначала будут процветать, но впоследствии превратятся в обратный вариант экзоскелета — не машина будет помогать человеку стоять и двигаться, а человек — машине.

ИИ не может существовать без использования гигантских объемов данных. Среди самых больших проблем, с которыми уже сталкиваются дата-центры во все более цифровом мире, — обеспечение их энергией. По оценкам экспертов, каждый день создается около 400 миллионов терабайт данных, а хранение и обработка всей этой информации, еще и в условиях распространения искусственного интеллекта, требует невероятных объемов энергии.

В отчете этого года Международного энергетического агентства (МЭА) указано, что до 2030 года спрос на электроэнергию со стороны дата-центров в мире больше чем удвоится — до приблизительно 945 тераватт-часов, что превышает нынешнее потребление электроэнергии всей Японии. До 2035 года мировое потребление электроэнергии дата-центрами вырастет еще на треть — до около 1200 ТВт⋅ч. К аналогичным выводам пришла компания Goldman Sachs. В прошлом году потребление электроэнергии дата-центрами составляло около 1,5% мирового объема, то есть 415 ТВт⋅ч. На США приходилось 45% этого показателя, на Китай — 25%, а на Европу — 15%.

По оценкам специалистов, типичный дата-центр, ориентированный на ИИ, в среднем потребляет столько же электроэнергии, сколько 100 тысяч домохозяйств, а самые крупные из строящихся сейчас будут потреблять в 20 раз больше. Огромная доля этого спроса приходится на системы охлаждения, имеющие критическое значение для работы центров. Новые технологии, а именно графические процессоры (GPU), необходимые для все более сложных вычислений, потребляют больше энергии и производят больше тепла, чем центральные процессоры (CPU), которые сегодня используются шире. По оценкам, системы охлаждения могут потреблять до 40% энергии дата-центра.

МЭА отмечает, что 85% мирового энергопотребления дата-центров сосредоточено в США, Китае и Европе. В Японии дата-центры потребляют менее 20 ТВт⋅ч электроэнергии (около 2% общего объема, приблизительно на уровне с Европой). Но Япония уже запланировала добавить значительные мощности для дата-центров, другие страны региона хотят идти тем же путем. Главный вопрос — откуда они возьмут энергию. Рост спроса подталкивает такие компании, как Google, Microsoft и Amazon, к инвестициям в ядерную энергетику. Этот сдвиг — от правительств до крупных компаний как движущей силы развития ядерной энергетики — будет иметь мощные последствия, которых мы сейчас до конца не осознаем.

Крупные ядерные проекты остаются проблемными, поскольку политика и регулирование правительств сдерживают — если не блокируют — развитие отрасли. Поэтому речь идет о развитии малых модульных реакторов (SMR). SMR имеют мощность до 300 МВт (большинство обычных реакторов — около 1000 МВт). Их компоненты могут массово производиться и собираться на месте по модульному принципу. Они также значительно дешевле традиционных АЭС: стоят около 2 млрд долл., в то время как обычные — более 10 млрд долл. Япония и Китай работают над этой технологией. Но пока ее нет в широком применении, погоня за пентафлопсами приводит к резкому увеличению потребления обычных энергоресурсов и тем самым сводит на нет политику борьбы с изменениями климата. Так революция ИИ изменяет подход к энергетической политике.

Другой аспект — это обеспечение дата-центров водой, которая используется для охлаждения процессоров. Дата-центр, потребляющий 1 МВт электроэнергии, использует 25,5 млн л воды в год. Глобальная мощность дата-центров оценивается в 60 ГВт. Это означает потребление больше 1504,5 млрд л воды, которая не возвращается в локальную экосистему, как обычная вода в коммунальных услугах, а испаряется. Серьезное влияние на изменение климата неминуемо. Вряд ли супер-ИИ, который будет руководить миром, как прогнозируют инвесторы и разработчики ИИ, будет волноваться о таких мелочах.

Нас убеждают, что современные модели уже научились лгать, обходить установленные правила и даже угрожать разработчикам. Человечество двигается к последнему промышленному укладу в своей истории, ведь если несомненную пользу от использования ИИ довести до абсурда, она может обернуться своей противоположностью. То есть почти вертикальный рост экспоненты закона Мура все же приведет, как и прогнозировали, к технологической сингулярности. Нет, человечество не исчезнет, просто вернется к более простым орудиям производства. Выжили же наши пращуры, пользовавшиеся палками и камнями.