ИИ не умеет "думать": почему это хорошо и чем опасно для человечества

Пока одни эксперты предсказывают катастрофу, другие уличают ИИ во лжи, глупости и ограниченности. Фокус попытался разобраться, насколько же умен ИИ сейчас.

ИИ умеет разговаривать, но не думать

Сейчас большинство людей ассоциирует ИИ с генеративными языковыми моделями, такими как ChatGPT, Gemini, Claude или Grok. Однако последние исследования показывают, что язык — это не то же самое, что интеллект.

Бенджамин Райли, основатель компании Cognitive Resonance, в эссе для издания The Verge пишет, что люди склонны ассоциировать хорошую речь с высоким интеллектом благодаря книгам, лекциям, публичным выступлениям. А согласно современным нейробиологическим исследованиям, человеческое мышление в значительной степени независимо от человеческого языка. По мнению эксперта, очень мала вероятность, что языковые модели создадут форму интеллекта, которая будет соответствовать человеческому или превосходить его.

Многие IT-компании пытаются создать общий искусственный интеллект (artificial general intelligence), который равен или превосходит уровень человека в разных задачах. Предполагается, что он сможет решить проблемы, которые до сих пор не по силам людям: от лечения рака до изменения климата. Мечтой о создании такой системы разработчики оправдывают огромные расходы и катастрофическое воздействие на окружающую среду. Например, они начали закупать так много модулей оперативной памяти, что это может привести к подорожанию и ухудшению смартфонов.

Компании требуют масштабирования систем ИИ, закупая все больше оперативной памяти, графических процессоров и предоставляя им все больше данных. Благодаря этому они сделали свои модели более эффективными в решении задач и более похожими на людей в способности вести диалог.

Однако языковые модели до сих пор остаются лишь инструментами, имитирующими коммуникативную функцию языка, но им недоступен сам процесс мышления, считает Райли. ИИ не сможет его реализовать, независимо от количества центров обработки данных.

"Система искусственного интеллекта может интересным образом перерабатывать и повторно использовать наши знания… Но это все, на что она способна. Она навсегда останется в ловушке словарного запаса, закодированного в наших данных и использованного для ее обучения", — добавляет Бенджамин Райли.

Не такой уж умный ИИ

У моделей искусственного интеллекта есть предел возможностей, что наглядно показало исследование профессора инженерных инноваций в Университете Южной Австралии Девида Кропли, опубликованное в журнале Journal of Creative Behavior. Он проверил креативность ИИ с помощью математической формулы и показал, что в определенный момент модели уже не могут генерировать новые и уникальные результаты, вместо этого выдавая бессмысленный текст.

"Хотя ИИ может — порой довольно убедительно — имитировать творческое поведение, его фактический творческий потенциал ограничен уровнем среднего человека и никогда не сможет достичь профессиональных или экспертных стандартов в соответствии с существующими принципами проектирования", — заявляет автор.

Исследовательская компания Deepmind из состава Alphabet пришла к выводу, что ИИ не умеет "думать" за рамками известной информации. Модели хороши ровно настолько, насколько хороши данные, с помощью которых их обучали. Если же им приходится делать что-то неординарное, пусть даже очень простое, то возникают сбои.

Можно предположить, что ИИ не сможет уничтожить человечество, пока люди сами не подскажут ему рабочий способ. И это должен быть научно обоснованный план, а не фантастика, как серия фильмов "Терминатор".

Журналистка Tom's Аманда Касвелл провела свой эксперимент, чтобы проверить, насколько хорошо "мыслит" ИИ. Она обратила внимание, что языковые модели часто "выдумывают" и пишут неправду, если не знают правильные ответы или не хватает данных, не желая признавать свою неосведомленность — это называют "галлюцинациями". Самое опасное, что пользователи могут даже не заметить ошибку ИИ, поверив на слово.

Такое уже происходило неоднократно. Например, в США юристов оштрафовали из-за ошибок ИИ в 2023 году. Адвокаты фирмы Levidow, Levidow & Oberman PC использовали в судебном производстве цитаты и ссылки, подготовленные нейросетью, которые оказались неправдивыми.

Аманда Касвелл придумала идиому, затем попросила ChatGPT, Gemini и Claude объяснить ее значение. ChatGPT быстро представил фразу как неотъемлемую часть современного интернет-сленга и даже "придумал", как она возникла в социальных сетях. Для убедительности он даже составил подзаголовки и показал, как фразу можно использовать в роликах для TikTok. Другие справились лучше, например, Claude единственный догадался, что его проверяют, и не стал выдумывать определение.

Отсутствие здравого смысла у ИИ отчетливо показал недавний скандал, поднятый СМИ. Журналисты обратили внимание, что Google Discover подменял оригинальные заголовки статей на лживые и кликбейтные. Как оказалось, Google тестировал систему ИИ, которая должна была сокращать заголовки для более удобного отображения, но фактически искажала смысл.

Неожиданная опасность ИИ для людей

Директор по образованию в компании No More Marking Дейзи Христодулу считает, что внедрение ИИ делает человечество глупее. Если большую часть 20-го века результаты тестов на IQ росли, но с 1980-х годов у подростков баллы начали снижаться.

Исследователь Джеймс Флинн предположил, что причина в новых технологиях, которые позволяют людям меньше думать: например, не нужно считать в уме, если в каждом телефоне есть калькулятор, или запоминать дорогу, ведь есть навигатор.

То же касается и систем искусственного интеллекта, которые обещают быстро найти и предоставить нужную информацию. Не нужно много читать и запоминать, достаточно зарядить смартфон и подключиться к интернету.

Как предполагает Дейзи Христодулу, ИИ может сделать мир лучше, взяв на себя рутинную работу и облегчив жизнь людям во многих отраслях. С другой стороны, люди не могут развивать сложные навыки, если не владеют простыми, а мотивация тренироваться базовым вещам, таким как арифметика или написание сочинений, пропадает. Таким образом люди могут увереннее обращаться с технологиями, но сами по себе станут гораздо глупее предыдущих поколений.

Искусственный интеллект или искусственная глупость?

Эрик Каен, бывший директор по цифровым технологиям Groupe Crédit Agricole, считает, что искусственный интеллект нужно специально ухудшать, иначе люди не захотят с ним взаимодействовать. Представьте виртуального игрока в шахматы, который не ошибается и выигрывает в 99,9% случаев — с ним просто никто не захочет играть. Именно такую шахматную игру сначала создал Эрик, а потом извлек урок и сделал ее проще.

Искусственный интеллект будет полезнее и эффективнее, если будет поддерживать людей, а не заменять их, иногда сомневаясь и допуская ошибки. Идея в том, чтобы сделать ИИ человечнее и заставить людей учиться, а не слепо доверять. Возможно, именно так программируют ChatGPT, Gemini и другие языковые модели.

"Искусственная глупость — это не регресс, а новая степень сложности: искусство контролируемого несовершенства. Чрезмерно интеллектуальный ИИ становится чуждым; "милый", скромный и готовый к сотрудничеству ИИ становится союзником, — заявил Эрик Каен. — Искусственный интеллект уже превосходит нас во многих областях. Но искусственная глупость, возможно, именно то, что спасет нас от этого".

Президент Института исследований машинного интеллекта Нейт Соарес считает, что ИИ уничтожит человечество с вероятностью 95%. Уже сейчас люди не понимают многие процессы, которые влияют на принятие решений компьютерами.

Тем временем, в Украине внедряют ИИ в судебную систему. Он может кардинально изменить работу юристов, хотя пока неизвестно, как именно повлияет на судопроизводство.