Человеческий ум: гениальный, но склонный к ошибкам
Как может компьютер, опирающийся только на Систему 2, то есть на вычисления, производимые с числовыми данными, быть явно лучше, чем человек, который пользуется Системой 2 и Системой 1 – глубинными, врожденными, инстинктивно используемыми возможностями мышления, которые есть у всех нас? В конце концов, Система 1 работает довольно давно, она помогла нам выжить и благополучно провела через все препятствия эволюции (ведь мы все еще существуем, и нас уже 7,5 миллиарда[117]). Как она могла нас так подвести?!
Это слишком большой вопрос для одной книги, тем более для одной главы. Но в своей работе «Думай медленно… решай быстро» Канеман дал краткую сводку множества исследований (многие из которых провел сам):
Поскольку Система 1 работает автоматически и не может быть отключена по желанию, ошибки интуитивного мышления трудно предотвратить. Предубеждений не всегда можно избежать, поскольку Система 2 может просто не знать об ошибке[118].
Если говорить коротко, то Система 1 очень хороша, но склонна к ошибкам. Она часто срезает углы, не любит долгих размышлений и удивительно часто сбивается. Исследователи, работавшие в области экономической психологии и поведенческой экономики (дисциплины, которую помогал создавать Канеман), выявили большое количество искажений Системы 1 и даже дали им названия. Полный их список навел бы на вас скуку и вогнал в депрессию; в посвященной этой теме книге Рольфа Добелли «Территория заблуждений»[119] 99 глав, а в «Списке когнитивных искажений»[120] в «Википедии» было 175 пунктов, когда мы заглядывали туда в последний раз. Бастер Бенсон, менеджер по продукции софтверной компании Slack, придумал, по нашему мнению, прекрасный способ сгруппировать эти искажения и удержать в голове все связанные с ними проблемы[121].
1. Информационная перегрузка – паршивая вещь, потому мы интенсивно фильтруем входящий поток… [Однако] часть отсеиваемой информации на самом деле полезна и важна.
2. Не понимая чего-нибудь до конца, мы путаемся, поэтому нам свойственно заполнять пробелы в знаниях… [Однако] в ходе этого возникают иллюзии. Иногда мы принимаем за истину додуманные нами подробности и конструируем концепции и истории, которых на самом деле не было[122].
3. [Нам] нужно действовать быстро, чтобы не упустить свой шанс, так что мы всегда спешим с выводами… [Однако] это может иметь неприятные последствия. Некоторые из наших мгновенных реакций и принятых второпях решений оказываются вредными, эгоистичными и контрпродуктивными.
4. Запутавшись, мы пытаемся восстановить в уме важные детали… [Однако] память подкрепляет ошибки. Некоторые из вещей, что впоследствии мы считаем истинными, на самом деле лишь усугубляют вышеназванные проблемы, в результате чего нашим мыслительным процессам наносится больший вред[123].
Мы хотим обратить внимание на еще одну серьезную проблему когнитивных способностей человека: мы не в силах точно узнать, когда Система 1 работает хорошо, а когда нет. Другими словами, у нас слабое представление о собственной интуиции. Мы не знаем, правильно наше мгновенное решение или вынесенное суждение или оно подверглось воздействию одного или нескольких искажений. В этом видится странная параллель с парадоксом Полани: мы также знаем меньше, чем способны сказать, в данном случае меньше о результатах работы Системы 1. Вычисления и рассуждения Системы 2 чаще всего можно проверить, но, как указывает Канеман, Систему 1 проверить сложнее, тем более самостоятельно.
Недавние исследования выявили один особо коварный сбой, связанный с парадоксом Полани: часто Система 1 выдает заключение, а затем просит Систему 2 объяснить его. Психолог Джонатан Хайдт утверждает: «Суждение и обоснование – это два разных процесса»[124]. Вынесение суждений Системой 1 происходит почти непрерывно. Затем каждое из них подтверждается на рациональном и убедительном языке Системы 2[125]. Такая хитрость часто обманывает не только другие умы, но даже тот самый, что ее придумал. Мы часто «говорим больше, чем знаем»[126], как заметили психологи Ричард Несбитт и Тимоти де Камп Уилсон. Характеристики поведения, которые мы называем рационализацией и самооправданием, – не всегда упражнения в отговорках. Это также нечто более фундаментальное, это Система 1 за работой.
117
Worldometers, “Current World Population,” по состоянию на 26 февраля 2017 года, http://www.worldometers.info/world-population.
119
120
См. соответствующие статьи (на английском и русском языке соответственно): https://en.wikipedia.org/wiki/List_of_cognitive_biases и https://ru.wikipedia.org/wiki/Список_когнитивных_искажений.
121
Бенсон пришел к этой категоризации после изучения списка когнитивных искажений «Википедии» во время отпуска по уходу за ребенком. Он опубликовал свои мысли в блоге практических подсказок Better Humans (http://betterhumans.net). Это прекрасный пример идеи, рожденной сетевой толпой, феномен которой мы детально обсудим в части III этой книги.
122
Для этого процесса есть затейливое название «апофения» (термин образован от греческого слова, которое можно перевести как «делать явным»; он означает способность человека видеть взаимосвязи, структуру и смысл в случайных данных.
123
Buster Benson, “Cognitive Bias Cheat Sheet,”
124
Jonathan Haidt, “Moral Psychology and the Law: How Intuitions Drive Reasoning, Judgment, and the Search for Evidence,”
125
Джонатан Хайдт в своей книге «Гипотеза счастья» (The Happiness Hypothesis) объясняет: «Тот факт, что люди с готовностью создают причины для объяснения собственного поведения, называется конфабуляцией. (Строго говоря, конфабуляцией называются любые ложные воспоминания при расстройствах памяти, когда реальные события забываются, а пробелы заполняются вымыслом.
126
Richard E. Nisbett and Timothy DeCamp Wilson, “Telling More Than We Can Know: Verbal Reports on Mental Processes,”