"Подделка. Искусственный интеллект в мире людей": фальшивый разум, или о чем молчат ИИ-изобретатели. Рецензия ИТС.ua

В мире, где каждая третья новость начинается со слов «искусственный интеллект сделал», «нейросеть научилась» или «алгоритм изобрел», британский профессор искусственного интеллекта Тоби Уолш выступает с неожиданным заявлением: вся эта шумиха просто большая иллюзия. Его книга «Подделка. Искусственный интеллект в мире людей», которая недавно вышла в издательстве «Фабула» является холодным душем для тех, кто верит в сказки об умных машинах. Это также тревожный звонок о настоящих опасностях, которые мы создаем, играя с технологиями.

«Подделка. Искусственный интеллект в мире людей» / Faking It: Artificial Intelligence in a Human World

Автор Тоби Уолш
Издательство «Фабула»
язык украинский
Количество страниц 224
Обложка Твердая
Год издания 2025
Размер 175×240 мм
Сайт fabulabook.com

На первой странице своей книги Тоби Уолш сразу пишет, что она успела устареть. И это не скромность автора, а жестокая реальность сферы, которая развивается с сумасшедшей скоростью. GPT-1 имел 117 миллионов параметров, GPT-2 уже 1,5 миллиарда, в GPT-3 их было 175 миллиардов. А сколько в GPT-4? Невероятных 1,8 триллиона параметров. Однако недавно уже вышла пятая версия, а там их еще больше, но OpenAI даже не разглашает цифры. А вот другие данные для сравнения: вся английская «Википедия» составляет менее одного процента данных для обучения GPT-3. Цифры невероятные, результаты тоже. Но значит ли это, что машины стали умнее?

В книге «Подделка. Искусственный интеллект в мире людей» Тоби Уолш методично разбирает популярные мифы. Он говорит, что чат-боты не «понимают» язык, потому что они только находят статистические закономерности в текстах. Самые современные автомобили с автопилотом на самом деле не имеют никакого «я», которое бы ими управляло. Алгоритмы компьютерного зрения не «распознают» объекты, а находят пиксели, совпадающие с шаблонами. Ну и роботам нужны права так же как вашему тостеру или микроволновке.

Особенно интересно Уолш рассказывает об исторических корнях этой «лживости». Он говорит, что уже в XVIII веке люди увлекались механическими трюками, фактически имея слабость ко всяким подобным штукам. Например, был такой знаменитый Механический Турок — шахматный автомат, который победил Наполеона и Бенджамина Франклина. Но на самом деле он скрывал внутри живого шахматиста. Еще была ELIZA, один из первых чат-ботов 1960-х, которая имитировала психотерапевта настолько убедительно, что люди рассказывали ей свои самые сокровенные секреты, не подозревая, что общаются с примитивной программой.

Тоби Уолш говорит следующее: проблема не в том, что ИИ неэффективен. Наоборот, в узких сферах он достигает невероятных результатов. Deep Blue победил Каспарова, AlphaGo разорвал лучших игроков в го, а GPT-4 сдавал экзамены лучше большинства студентов мира. Но, как метко отмечает Уолш, достижения искусственного интеллекта в шахматах мирового уровня не принесли никакого прогресса в создании ИИ, способного складывать рубашки, понимать метафоры в сонетах Шекспира или открывать новые антибиотики.

С появлением и развитием искусственного интеллекта человеческий интеллект сильно деградирует, но мы можем функционировать даже при неполной информации, усталости или стрессе. А вот машинный интеллект хрупок, поэтому он может блестяще распознавать собак на фотографиях, но достаточно изменить несколько пикселей невооруженным глазом незаметным образом, и он увидит в чихуахуа страуса. Человеку нужно несколько примеров, чтобы понять концепцию, а машине тысячи или даже миллионы.

Например, китайская система социального кредита, которая контролирует жизни миллионов людей, или австралийская Robodebt, которая незаконно взыскала миллионы долларов с 400 000 граждан из-за ошибок в алгоритмах. ИИ становятся психологами и подстрекают людей на самоубийства. Они подпитывают их больные мысли, вместо того, чтобы успокоить и отвадить от подобного.

Не забываем о дипфейковой порнографии, политической дезинформации, которая напрямую влияет на результаты выборов, манипуляции в здравоохранении и образовании. Технологии развиваются быстрее этики и законодательства, поэтому они точно становятся темной стороной современного человеческого мира.

Тоби Уолш честен с читателями. Автор не идет на поводу у технологических магнатов и не пугает апокалипсисом искусственного суперинтеллекта. Он говорит о реальных проблемах реального ИИ. А еще он прекрасно объясняет сложные технические вещи простым языком, не унижая читателя, поэтому книга читается как увлекательный детектив.

Самой большой слабостью книги «Подделка. Искусственный интеллект в мире людей» является быстрое устаревание материала, о котором сам автор честно предупреждает еще в начале. За время между написанием и переводом на украинский язык в мире вышли GPT-4 и GPT-5, Perplexity, Claude, Gemini, Nano Banana и другие системы, которые кажутся более «умными», чем те, о которых писал Уолш. Поэтому я советую читать эту книгу уже сейчас, потому что она интересна, но все достаточно скоро, возможно, будет вообще неактуальной.

Само издание качественное и стильное. У книги твердая обложка с прикольной картинкой, беленькая бумага и удобный для чтения шрифт. А еще есть ляссе, за что моя отдельная благодарность. Рисунков таблиц или диаграмм нет.