/https%3A%2F%2Fs3.eu-central-1.amazonaws.com%2Fmedia.my.ua%2Ffeed%2F137%2F01e8d84f90e8d362950b5046251eef30.jpg)
"Подделка. Искусственный интеллект в мире людей": фальшивый разум, или о чем молчат ИИ-изобретатели. Рецензия ИТС.ua
В мире, где каждая третья новость начинается со слов «искусственный интеллект сделал», «нейросеть научилась» или «алгоритм изобрел», британский профессор искусственного интеллекта Тоби Уолш выступает с неожиданным заявлением: вся эта шумиха просто большая иллюзия. Его книга «Подделка. Искусственный интеллект в мире людей», которая недавно вышла в издательстве «Фабула» является холодным душем для тех, кто верит в сказки об умных машинах. Это также тревожный звонок о настоящих опасностях, которые мы создаем, играя с технологиями.
Плюсы:
хорошее качество издания; честный подход к проблемам ИИ; понятные объяснения сложных технических концепций; увлекательные исторические экскурсы; практические предложения по регулированию ИИ; адекватный баланс между технофобией и чрезмерным оптимизмом
Купить в "Фабула"ITC.ua
«Подделка. Искусственный интеллект в мире людей» / Faking It: Artificial Intelligence in a Human World
Автор Тоби Уолш
Издательство «Фабула»
язык украинский
Количество страниц 224
Обложка Твердая
Год издания 2025
Размер 175×240 мм
Сайт fabulabook.com
На первой странице своей книги Тоби Уолш сразу пишет, что она успела устареть. И это не скромность автора, а жестокая реальность сферы, которая развивается с сумасшедшей скоростью. GPT-1 имел 117 миллионов параметров, GPT-2 уже 1,5 миллиарда, в GPT-3 их было 175 миллиардов. А сколько в GPT-4? Невероятных 1,8 триллиона параметров. Однако недавно уже вышла пятая версия, а там их еще больше, но OpenAI даже не разглашает цифры. А вот другие данные для сравнения: вся английская «Википедия» составляет менее одного процента данных для обучения GPT-3. Цифры невероятные, результаты тоже. Но значит ли это, что машины стали умнее?
Автор очень категоричен в своих словах, поэтому на протяжении всей книги говорит, что искусственный интеллект, каким бы впечатляющим он вам ни казался, остается тем, чем был всегда — яркой имитацией.
В книге «Подделка. Искусственный интеллект в мире людей» Тоби Уолш методично разбирает популярные мифы. Он говорит, что чат-боты не «понимают» язык, потому что они только находят статистические закономерности в текстах. Самые современные автомобили с автопилотом на самом деле не имеют никакого «я», которое бы ими управляло. Алгоритмы компьютерного зрения не «распознают» объекты, а находят пиксели, совпадающие с шаблонами. Ну и роботам нужны права так же как вашему тостеру или микроволновке.
Особенно интересно Уолш рассказывает об исторических корнях этой «лживости». Он говорит, что уже в XVIII веке люди увлекались механическими трюками, фактически имея слабость ко всяким подобным штукам. Например, был такой знаменитый Механический Турок — шахматный автомат, который победил Наполеона и Бенджамина Франклина. Но на самом деле он скрывал внутри живого шахматиста. Еще была ELIZA, один из первых чат-ботов 1960-х, которая имитировала психотерапевта настолько убедительно, что люди рассказывали ей свои самые сокровенные секреты, не подозревая, что общаются с примитивной программой.
Тоби Уолш говорит следующее: проблема не в том, что ИИ неэффективен. Наоборот, в узких сферах он достигает невероятных результатов. Deep Blue победил Каспарова, AlphaGo разорвал лучших игроков в го, а GPT-4 сдавал экзамены лучше большинства студентов мира. Но, как метко отмечает Уолш, достижения искусственного интеллекта в шахматах мирового уровня не принесли никакого прогресса в создании ИИ, способного складывать рубашки, понимать метафоры в сонетах Шекспира или открывать новые антибиотики.
С появлением и развитием искусственного интеллекта человеческий интеллект сильно деградирует, но мы можем функционировать даже при неполной информации, усталости или стрессе. А вот машинный интеллект хрупок, поэтому он может блестяще распознавать собак на фотографиях, но достаточно изменить несколько пикселей невооруженным глазом незаметным образом, и он увидит в чихуахуа страуса. Человеку нужно несколько примеров, чтобы понять концепцию, а машине тысячи или даже миллионы.
В своей книге «Подделка. Искусственный интеллект в мире людей» Тоби Уолш не просто критикует искусственный интеллект и его современное развитие. Автор на примерах объясняет, почему это важно. Он говорит, что приписывание ИИ человеческих качеств, создает опасные иллюзии. Когда мы говорим о «умных» алгоритмах, мы начинаем им доверять больше, чем стоит. А результатом являются многочисленные ошибки, ляпы и проблемы, которые возникают из-за этого.
Например, китайская система социального кредита, которая контролирует жизни миллионов людей, или австралийская Robodebt, которая незаконно взыскала миллионы долларов с 400 000 граждан из-за ошибок в алгоритмах. ИИ становятся психологами и подстрекают людей на самоубийства. Они подпитывают их больные мысли, вместо того, чтобы успокоить и отвадить от подобного.
Не забываем о дипфейковой порнографии, политической дезинформации, которая напрямую влияет на результаты выборов, манипуляции в здравоохранении и образовании. Технологии развиваются быстрее этики и законодательства, поэтому они точно становятся темной стороной современного человеческого мира.
Тоби Уолш честен с читателями. Автор не идет на поводу у технологических магнатов и не пугает апокалипсисом искусственного суперинтеллекта. Он говорит о реальных проблемах реального ИИ. А еще он прекрасно объясняет сложные технические вещи простым языком, не унижая читателя, поэтому книга читается как увлекательный детектив.
Особенно ценна позиция Уолша относительно регулирования искусственного интеллекта. Он не призывает запретить ИИ, а предлагает конкретные законы, которые бы требовали маркировки дипфейков и предупреждений об искусственности ботов. Это разумный компромисс между технофобией и безграничным оптимизмом технофанов.
Самой большой слабостью книги «Подделка. Искусственный интеллект в мире людей» является быстрое устаревание материала, о котором сам автор честно предупреждает еще в начале. За время между написанием и переводом на украинский язык в мире вышли GPT-4 и GPT-5, Perplexity, Claude, Gemini, Nano Banana и другие системы, которые кажутся более «умными», чем те, о которых писал Уолш. Поэтому я советую читать эту книгу уже сейчас, потому что она интересна, но все достаточно скоро, возможно, будет вообще неактуальной.
Само издание качественное и стильное. У книги твердая обложка с прикольной картинкой, беленькая бумага и удобный для чтения шрифт. А еще есть ляссе, за что моя отдельная благодарность. Рисунков таблиц или диаграмм нет.
Вывод:
"Подделка" Тоби Уолша не идеальная книга, но она необходима, интересна и злободневна. В мире, где каждая компания добавляет "ИИ" к названию своих продуктов, ИИ появляется в телефонах, ноутбуках и ПК, а многие пишут о "революции разума", нужен хоть кто-то, кто попытается притормозить людей и охладить их пыл.
Автор берет на себя роль трезвого скептика, который не дает нам потерять голову от технологической эйфории. Он говорит, что ИИ может быть полезным инструментом, но он остается инструментом, а не партнером или заменителем человеческого разума.
Прав ли он полностью? Только время это покажет. Но его предостережения об опасностях использования ИИ и потребности в регулировании остаются очень актуальными. В эпоху, когда технологические корпорации тратят миллиарды на убеждение нас в том, что их алгоритмы "понимают" и "думают", голос Тоби Уолша звучит как целесообразное напоминание. ИИ действительно стал мощнее, но остался тем же, чем и был — блестящей имитацией интеллекта, а не настоящим разумом. И пока мы это помним, у нас есть шанс использовать эти технологии во благо, а не стать их жертвами
Купить в "Фабула"