«Что ты видишь, то и есть». Как наш мозг нас обманывает: отрывок из книги «Думай медленно… решай быстро»

Даниэль Канеман – нобелевский лауреат по экономике, всемирно известный психолог. Он написал книгу «Думай медленно… решай быстро», в которой подробно описал, как работает человеческий мозг, почему мы совершаем ошибки и какие у нас есть предубеждения.

MC.today публикует отрывок из этой книги, который объясняет, почему мы делаем поспешные выводы и обманываем сами себя.

Заказать книгу можно здесь на русском и здесь на украинском.

Замечательный комик Дэнни Кей когда-то произнес фразу, которую я помню с юности. Он сказал о неприятной ему женщине: «Быть она предпочитает вне себя, а делать — поспешные выводы».

Я вспомнил эту формулировку в первом разговоре с Амосом Тверски о рациональности догадок, основанных на статистике, а теперь я считаю, что она хорошо описывает функционирование Системы 1 (интуитивное, инстинктивное мышление. – Прим. ред.).

Поспешные выводы эффективны. Если они, скорее всего, будут правильны, цена случайной ошибки приемлема, а сама поспешность экономит много времени и сил. Когда ситуация незнакома, ставки высоки, а времени на сбор дополнительной информации нет, делать поспешные выводы рискованно. В этих условиях ошибки интуиции вероятны, и их можно предотвратить намеренным вмешательством Системы 2 (осознанное, разумное “я”. – Прим. ред.).

Игнорирование неоднозначности и подавление сомнений

Что общего у трех блоков на рисунке? Они все неоднозначны.

Вы почти наверняка прочитали левый как «A B C», а правый — как «12 13 14», но символы посередине идентичны в обоих блоках. Вы с таким же успехом могли бы прочитать их как «A 13 C» или «12 B 14», но не прочитали. Почему? Одна и та же форма читается как буква в контексте букв или как число в контексте цифр.

Контекст помогает определить интерпретацию каждого из элементов. Форма неопределенна, но вы делаете поспешный вывод о том, что она представляет, и не осознаете разрешенной неоднозначности.

Прочитав надпись в среднем блоке, вы, вероятно, представили женщину, входящую в здание с кассирами и хранилищами. Но предложение неоднозначно, возможна и другая интерпретация. Если бы перед этим вы увидели слова: «В кладовке на полке», вы бы вообразили совсем другую сцену.

Когда вы только что думали о кладовке, слова «в банке» не ассоциировались с финансовым учреждением. В отсутствие явного контекста Система 1 сама сгенерировала вероятные обстоятельства. Мы знаем, что это сделала именно она, поскольку мы не осознавали возможность другой интерпретации. Если вы редко пользуетесь кладовками, то и неопределенность разрешаете соответственно. В случае неуверенности Система 1 делает ставку на тот или иной ответ, исходя из опыта.

Правила ставок рациональны: недавним событиям и текущему контексту придается самое большое значение при интерпретации. Если недавние события не вспоминаются, то в силу вступают более давние. Вы наверняка давно и хорошо выучили алфавит: буквы «13» в нем нет.

В обоих примерах важно то, что был сделан определенный выбор, но вы об этом не знали. В голову пришла единственная интерпретация, а о неоднозначности вы не подозревали. Система 1 не отслеживает ни альтернативы, которые ей пришлось отбросить, ни даже сам факт их наличия. Осознанные сомнения в репертуар Системы 1 не входят, для них в голове нужно одновременно держать несовместимые интерпретации, что требует умственных усилий. Неуверенностью и сомнениями ведает Система 2.

Склонность верить и подтверждать

Психолог Дэниел Гилберт, автор книги «Спотыкаясь о счастье», когда-то написал очерк под названием «Как верят мыслительные системы», где изложил теорию веры и неверия, восходящую к философу XVII века Баруху Спинозе.

Гилберт предположил, что понимание утверждения начинается с попытки в него поверить: сначала нужно узнать, что будет означать мысль, если окажется правдой. Только после этого можно решить, разувериваться в ней или нет.

Первоначальная попытка поверить — автоматическое действие Системы 1, состоящее из построения наилучшей из возможных трактовок ситуации. Гилберт показывает, что даже бессмысленное утверждение первоначально вызывает реакцию поверить.

Попробуйте такой пример: «Треска ест конфеты». Вероятно, у вас в уме пронеслись смутные образы рыбы и конфет, пока ассоциативная память автоматически перебирала возможные связи между этими понятиями в поисках тех, которые придадут смысл бессмыслице.

Гилберт рассматривает неверие как действие Системы 2 и в подтверждение приводит изящный эксперимент.

Испытуемые видели бессмысленные утверждения, вроде «динка — это пламя», за которыми через несколько секунд следовало слово «правда» или «ложь». Позже испытуемых опрашивали, помнят ли они предложения, отмеченные словом «правда».

В одном из вариантов эксперимента участников просили во время выполнения задания удерживать в памяти цифры. Помеха Системе 2 оказала избирательное действие: испытуемым стало трудно «разувериваться» в ложных предложениях. В последующем тесте усталые участники вспоминали многие ложные утверждения как истинные.

Из вышеизложенного следует важный вывод: когда Система 2 занята чем-то еще, мы готовы поверить почти чему угодно. Система 1 наивна и склонна верить, недоверие и сомнения — прерогатива Системы 2, но она иногда занята и часто ленива. Существуют свидетельства того, что пустые, но убедительные сообщения — к примеру, реклама — сильнее влияют на усталых, исчерпавших энергию людей.

Работа ассоциативной памяти усиливает общую предвзятость подтверждения. При вопросе «Дружелюбен ли Сэм?» вам в голову придет много примеров поведения Сэма — совсем иных, чем при вопросе «Враждебен ли Сэм?».

Преувеличенная эмоциональная когерентность (эффект ореола)

Если вам нравится политика президента, вам, вероятно, также нравятся его внешность и голос. Склонность хорошо (или плохо) воспринимать в человеке все, включая то, чего вы не видели, называется эффектом ореола.

Этот термин используется в психологии уже целое столетие, но в широкое использование в повседневной жизни не вошел. И очень жаль, поскольку эффект ореола — хорошее название для распространенного искажения, играющего серьезную роль в нашем видении людей и ситуаций. Это — один из способов, с помощью которого Система 1 генерирует представление об окружающем мире, упрощая его и делая более логичным, чем на самом деле.

Вы встречаетесь на вечеринке с привлекательной и общительной женщиной по имени Джоан. Потом ее имя всплывает в разговоре о взносах на благотворительность. Что вы знаете о щедрости Джоан? Правильный ответ — почти ничего, поскольку нет оснований считать, что приятные в общении люди являются щедрыми жертвователями.

Но Джоан вам нравится, и, думая о ней, вы чувствуете, что она вам симпатична. Вдобавок вам нравится щедрость и щедрые люди. По ассоциации вы теперь предрасположены считать, что Джоан — щедрая. В результате этого нового убеждения Джоан нравится вам даже больше прежнего, потому что вы прибавили ей новое приятное качество.

В истории про Джоан нет истинных свидетельств ее щедрости, и пробел заполняется догадкой, возникающей в соответствии с вашей эмоциональной реакцией. В других ситуациях сведения накапливаются постепенно, и их интерпретация определяется эмоцией, связанной с первым впечатлением.

В классическом нестареющем эксперименте Соломон Аш показывал испытуемым описания двух человек и просил высказать мнение об их характерах.

Что вы думаете про Алана и Бена?

• Алан: умный — старательный — импульсивный — требовательный — упрямый — завистливый.
• Бен: завистливый — упрямый — требовательный — импульсивный — старательный — умный.

Если вы похожи на большинство, вы отнеслись к Алану гораздо благосклоннее, чем к Бену. Черты, упомянутые в списке первыми, меняют суть всех остальных. Кажется, что упрямство умного человека может быть оправдано, а в некоторых случаях даже может вызвать уважение, но интеллект в завистливом и упрямом человеке делает его более опасным.

Эффект ореола также может служить примером подавления неоднозначности: прилагательное «упрямый», как, смотрите выше, «в банке», будет истолковано таким образом, чтобы оно согласовывалось с контекстом.

Этот эксперимент проводили в самых разнообразных вариантах. В одном испытуемым говорили, что первые три прилагательных описывают одного человека, а остальные — другого. Представив этих двоих, нужно было ответить, могут ли все шесть прилагательных описывать одного человека, и почти все участники эксперимента заявили, что это невозможно!

Мы часто наблюдаем черты человека в совершенно случайной последовательности. Однако порядок важен, поскольку эффект ореола увеличивает силу первых впечатлений, иногда до такой степени, что остальная информация почти полностью пропадает.

Когда я только начинал преподавать, я оценивал письменные экзамены студентов обычным способом: брал работы по одной и читал все ответы данного студента сразу, выставляя оценки по ходу. Затем я вычислял средний балл и переходил к следующей работе.

Однажды я заметил, что мои оценки в пределах одной работы были удивительно однородны. Я начал подозревать, что дело в эффекте ореола и что оценка ответа на первый вопрос непропорционально сильно влияла на общую. Механизм был прост: если я ставил за первый ответ высокий балл, то в дальнейшем, при появлении неопределенности в ответах на следующие вопросы, я толковал ее в пользу студента.

Это выглядело разумно: студент, хорошо ответивший на первый вопрос, вряд ли мог допустить во втором глупую ошибку. Однако в моем способе обнаружилась серьезная проблема. Если студент на один вопрос отвечал хорошо, а на другой плохо, то — в зависимости от порядка проверки —он получал разные оценки.

Я говорил студентам, что при оценке работы все вопросы равнозначны, но в действительности ответ на первый вопрос влиял на итоговую оценку намного больше, чем второй. Это было недопустимо.

Я изменил процедуру: вместо того чтобы читать каждую работу по отдельности, я проверял ответ на первый вопрос у всех студентов и выставлял оценки, а затем переходил к следующему. Результаты я записывал на предпоследней странице работы, чтобы во время чтения второго ответа меня подсознательно не сбивали уже выставленные оценки.

Вскоре после перехода на новый метод я с тревогой отметил, что стал выставлять оценки с меньшей уверенностью, чем раньше, — из-за того, что часто испытывал непривычный дискомфорт.

Разочаровавшись во втором ответе, я заглядывал на предпоследнюю страницу, чтобы записать плохую оценку, и временами обнаруживал там высокую оценку за первый вопрос.

Также выяснилось, что мне хотелось уменьшить разницу между оценками, изменив еще не записанный результат, и с большим трудом удавалось придерживаться простого правила не поддаваться этому искушению.

В моих оценках ответов одного и того же студента часто наблюдался значительный разброс. Отсутствие когерентности раздражало и вызывало во мне неуверенность.

Я стал менее доволен и менее уверен в своих оценках, однако понимал, что это служило хорошим знаком, свидетельствовало о том, что новый метод лучше. Радовавшее меня прежде сходство оценок оказалось ложным и давало ощущение когнитивной легкости; моя Система 2 с безмятежной радостью принимала окончательную оценку.

Позволив оценке первого ответа влиять на оценку всех остальных, я не замечал несоответствия, проявлявшегося в отличных ответах студента на одни вопросы и плохих — на другие. Раздражающая несообразность, обнаружившаяся при переходе на новую процедуру выставления оценок, как выяснилось, существует в действительности: она отражала и то, что единичный ответ не может служить адекватной мерой знаний студента, и то, что мои оценки ненадежны.

Что ты видишь, то и есть (WYSIATI)

Размышляя о первых годах совместной работы с Амосом, я неизбежно вспоминаю его любимую шутку. Ловко пародируя одного из университетских преподавателей философии, мой приятель с сильным немецким акцентом хрипло произносил: «Не забывайте о примате Бытия!»

Что именно имел в виду профессор, я так и не понял (подозреваю, что и Амос тоже), но шутки моего друга всегда имели определенный смысл. Мы с ним вспоминали эту фразу всякий раз, когда сталкивались с удивительно асимметричным отношением наших умов к информации, которая у нас имеется, и к информации, которой мы не располагаем.

Мерой успеха для Системы 1 является когерентность созданной истории. Количество и качество данных, на которых она основана, особого значения не имеют. Когда информации мало, как это часто бывает, Система 1 работает как механизм для поспешных выводов.

Подумайте над следующим: «Будет ли Миндик хорошим лидером? Она умная, сильная…»

Вам в голову быстро пришел ответ: «Да».

Вы выбрали наилучший вариант на основании ограниченной доступной информации, но вы поторопились. А вдруг следующие два прилагательных оказались бы «коррумпированная» и «жестокая»?

Обратите внимание, чего вы не сделали, кратко оценивая Миндик в роли лидера. Вы не начали с вопроса: «Что мне нужно знать, чтобы сформировать мнение о качестве лидерства?» С первого же прилагательного Система 1 принялась за самостоятельную работу: «умная» — это хорошо, «умная и сильная» — отлично.

Это лучшая история, которую можно построить по двум прилагательным, и Система 1 создала ее с большой когнитивной легкостью. Историю пересмотрят, если появится новая информация (например, что Миндик коррумпирована), но ожидания или субъективного дискомфорта нет. Вдобавок первое впечатление все равно кажется более предпочтительным.

Склонность делать поспешные выводы из ограниченных данных так важна для понимания интуитивного мышления и так часто упоминается в этой книге, что я буду использовать для нее довольно громоздкое сокращение: WYSIATI, которое означает: «что ты видишь, то и есть» (What You See Is All There Is). Система 1 категорически невосприимчива к количеству и качеству информации, на которой основываются впечатления и предчувствия.

Амос и два его аспиранта в Стэнфорде опубликовали результаты наблюдений за реакцией испытуемых, получивших одностороннюю информацию и знающих об этом. Это исследование имеет прямое отношение к WYSIATI.

Все участники ознакомились с этой информацией. Испытуемых разделили на три группы: одна группа прослушала юристов истца, вторая — юристов ответчика, а третья, как присяжные, выслушала аргументы обеих сторон.

Естественно, адвокат профсоюза описывал арест как попытку запугивания, а адвокат аптечной сети утверждал, что разговоры в торговом зале мешали работе и что директор действовал верно. Юристы не сообщили никакой дополнительной информации, кроме той, которую можно было почерпнуть из исходной истории.

Участники полностью осознавали условия происходящего, и те, кто слышал аргументы одной стороны, с легкостью могли вывести доводы и в пользу противоположной. Тем не менее то, как преподносила данные одна из сторон, оказало весьма отчетливое влияние на суждения. Более того, участники, изучившие односторонние доказательства, с большей уверенностью выносили суждения, чем испытуемые, ознакомившиеся с доказательствами обеих сторон.

Этого и следует ожидать, если уверенность суждений формируется когерентностью истории, которую испытуемым удается построить из доступной информации. Для связного рассказа важно, чтобы информация была непротиворечивой, но необязательно полной. На самом деле зачастую, когда знаешь меньше, проще сложить все известное в когерентную схему.

Благодаря WYSIATI легче достичь когерентности и когнитивной легкости, которые заставляют нас принимать утверждение как истинное. Именно поэтому мы думаем быстро и осмысляем неполную информацию в сложном мире.

В основном наши логически последовательные истории достаточно близки к реальности и служат основанием для рациональных действий. Тем не менее, учитывая WYSIATI, я предложу объяснения длинному перечню разнообразных искажений выбора и суждений, включая следующие:

• Сверхуверенность: как подразумевает правило WYSIATI, ни количество, ни качество доказательств не влияет на субъективную уверенность отдельных индивидов. Вера в собственные убеждения в целом зависит от качества истории, составляемой на основании увиденного, даже если увидено немного. Мы часто не учитываем возможность того, что у нас нет данных, необходимых для формирования суждения, — что мы видим, то и есть. Более того, наша ассоциативная система любит склоняться к когерентной схеме активации и подавляет сомнения и неоднозначность.

• • Эффект фрейминга: разные способы подачи одной и той же информации часто вызывают разные эмоции. Утверждение «Выживаемость в течение месяца после операции составляет 90%» успокаивает больше, чем эквивалентное утверждение «Смертность в течение месяца после операции составляет 10%». Аналогично продукты с описанием «на 90% без жира» более привлекательны, чем те, на которых написано: «содержание жира 10%». Эквивалентность формулировок очевидна, но человек обычно видит лишь одну из них, а для него существует только то, что он видит.
  • Пренебрежение априорной вероятностью: вспомните робкого и аккуратного Стива, которого часто принимают за библиотекаря. Описание личности яркое и живое, и, хотя вы наверняка знаете, что мужчин-фермеров больше, чем библиотекарей, этот статистический факт, скорее всего, не пришел вам в голову, когда вы обдумывали этот вопрос в первый раз. Что вы видите, то и есть.