Рациональность — исключение: люди не созданы для того, чтобы думать
Содержание
Аристотель назвал человека разумным животным, и Просвещение построило на этом описании свои институты: дайте людям факты и свободную прессу, и они путём рассуждения придут к хорошим решениям. Это лестная картина, и она неверна. Рациональность — не то, что человеческий мозг делает по умолчанию. Это редкий, требующий усилий, поздно появившийся трюк, который удаётся немногим людям в некоторых случаях, обычно при мощной институциональной поддержке, и который большинству людей не удаётся никогда. Он побочен по отношению к тому, для чего был создан мозг, — как приложение-калькулятор побочно по отношению к телефону.
Это не философское мнение. Это последовательный вывод века экспериментальной психологии и прямое прочтение двух десятилетий данных социальных сетей. Доказательства стоит изложить в одном месте.
Что обнаружила лаборатория
Приведённые ниже эксперименты стали классикой, потому что они воспроизводятся и потому что выявленные в них провалы — не провалы глупых или необразованных. Это провалы и гарвардских врачей, и стэнфордских студентов, и населения в целом.
- Задача Уэйсона на выбор (Wason 1966). Четыре карточки, одно простое правило («если на одной стороне карточки гласная, то на другой — чётное число») и вопрос, какие карточки нужно перевернуть, чтобы его проверить. Правильно отвечают менее 10% людей. Переформулируйте ту же самую логику как социальное правило («если вы пьёте пиво, вам должно быть больше 18») — и правильно отвечают около 75% (Griggs and Cox 1982; Cosmides 1989). У мозга нет общего логического модуля. У него есть модуль выявления обманщиков, и логические задачи, которые случайно выглядят как обман, решаются.
- Ошибка конъюнкции (Tversky and Kahneman 1983). Линде 31 год, она прямолинейна и изучала философию, будучи озабочена социальной справедливостью. Что вероятнее: что она кассир в банке или что она кассир в банке, активно участвующий в феминистском движении? Примерно 85% опрошенных выбрали второе, которое не может быть вероятнее первого, потому что является его подмножеством. История, которая звучит правильно, побеждает вероятность, которая правильна.
- Игнорирование базовой частоты (Casscells, Schoenberger and Grayboys 1978). Шестидесяти сотрудникам и студентам Гарвардской медицинской школы задали вопрос: распространённость болезни — 1 на 1000, у теста 5% ложноположительных результатов, тест пациента положителен; какова вероятность, что он болен? Правильный ответ — около 2%. Самым частым ответом было 95%. Правильно ответили лишь 18%. Это были те, кто читает ваши анализы.
- Якорение, обрамление и доступность (Tversky and Kahneman 1974, 1981). Вращение подстроенного колеса фортуны перед вопросом о том, какой процент членов ООН составляют африканские страны, сдвигало ответы. Описание одной и той же программы общественного здравоохранения как «200 из 600 будут спасены» или «400 из 600 погибнут» переворачивало выбор большинства. Суждение вычислялось не из фактов, а из упаковки.
- Тест когнитивной рефлексии (Frederick 2005). Бита и мяч вместе стоят 1,10 доллара, а бита стоит на доллар дороже мяча; сколько стоит мяч? Большинство людей, включая большинство студентов престижных университетов, отвечают: десять центов. Правильный ответ — пять, и проверка занимает одну строчку арифметики. Люди не проверяют. Интуитивный ответ приходит первым и ощущается как знание.
- Эксперименты Аша по конформизму (1951). Когда испытуемых спрашивали, какая из трёх линий совпадает с эталонной, а подставные участники уверенно давали неверный ответ, испытуемые соглашались с очевидно ложным ответом примерно в трети попыток, и три четверти из них сделали это хотя бы раз. Линии не были неоднозначными. Неоднозначной была комната.
- Говорить больше, чем мы можем знать (Nisbett and Wilson 1977). Покупатели, которых просили выбрать лучшую из четырёх одинаковых пар чулок, выбирали крайнюю правую пару в соотношении четыре к одному, и каждый из них ссылался на качество. Никто не упомянул положение, а когда им это подсказывали, они отрицали. Причины, которые мы приводим для своих решений, порождаются после решения той частью ума, которая при нём не присутствовала.
- Слепота к выбору (Johansson et al. 2005; Hall et al. 2012). Испытуемые выбирали, какое из двух лиц привлекательнее, затем ловкостью рук им подсовывали другое, и они гладко объясняли, почему выбрали его. Тот же трюк в политическом опросе заставлял избирателей аргументировать в пользу позиций, противоположных тем, которые они только что отметили. Если бы убеждения определялись рассуждением, такого не могло бы произойти.
- Моральное онемение (Haidt 2001). Получив сценарий добровольного, предохранённого, тайного, однократного инцеста между братом и сестрой, никому не причинившего вреда, люди настаивают, что это неправильно, не могут привести довода, выдерживающего проверку, и в итоге говорят: «Не знаю почему, просто неправильно». Вердикт приходит первым; рассуждение — это пресс-служба.
- Когда пророчество не сбывается (Festinger, Riecken and Schachter 1956). Небольшая группа предсказала, что 21 декабря 1954 года потоп положит конец миру. Когда дата прошла, члены группы, оставившие работу и имущество, не утратили веры. Они стали ещё более преданными и начали проповедовать. Опровержение было усвоено как подтверждение.
- Эффект Даннинга — Крюгера (1999). Наименее компетентные в логике, грамматике или юморе оценивали себя намного выше среднего, потому что навык, необходимый для оценки собственных результатов, — это тот самый навык, которого им не хватало.
Кит Станович, посвятивший измерению этого всю карьеру, пришёл к выводу, что рациональное мышление — способность, отдельная от интеллекта, что тесты IQ её не улавливают и что в задачах на рациональное мышление результаты плохи во всём диапазоне интеллекта. Юго Мерсье и Дан Спербер пошли дальше в книге The Enigma of Reason («Загадка разума», 2017): рассуждение эволюционировало не для поиска истины. Оно эволюционировало для того, чтобы выигрывать споры и оценивать чужие доводы, — вот почему мы превосходно замечаем изъян в позиции оппонента и почти слепы к изъяну в собственной. Предвзятость подтверждения — не ошибка в модуле рассуждения. Это модуль рассуждения, делающий то, ради чего его отобрали.
Почему математике и естественным наукам так трудно учить
Каждый ребёнок на земле учится говорить без учителя. Ни один ребёнок на земле не учит алгебру без учителя. Эта асимметрия — вся история.
- Дэвид Гири (1995) различал биологически первичные и биологически вторичные способности. Первичные способности (язык, распознавание лиц, чтение чужих намерений, интуитивная физика, чувство малых чисел) достаются бесплатно через игру, в любой культуре, без обучения. Вторичные способности (чтение, арифметика дальше нескольких единиц, алгебра, формальная логика, научный метод) — это культурные изобретения, которые приходится навязывать мозгу, не имеющему для них схем, годами трудной, мотивированной, навязанной извне практики. Язык есть у каждого когда-либо описанного человеческого общества. Письменность изобретали, возможно, четыре раза. Науку изобрели один раз.
- Станислас Деан показал, что значит «нет схем». Чтение работает за счёт нейронной переработки: оно захватывает участок зрительной коры, эволюционировавший для распознавания предметов. Арифметика захватывает систему приблизительной оценки величин в теменной доле, которая даёт нам точные количества лишь примерно до четырёх, а дальше — размытое логарифмическое чувство. Мундуруку из Амазонии, у которых есть числительные только до пяти, выполняют приблизительные арифметические действия с большими количествами так же хорошо, как взрослые французы, а точную арифметику не выполняют вовсе (Pica et al. 2004). Точная арифметика — не то, что делают люди. Это то, чему несколько культур научили себя вопреки своей природе.
- Наша встроенная физика аристотелевская. Майкл Макклоски (1983) просил студентов нарисовать траекторию шарика, вылетающего из изогнутой трубки. Значительная доля, включая студентов, сдавших университетский курс физики, нарисовала, что он продолжает изгибаться. На вопрос, куда упадёт груз, сброшенный с движущегося самолёта, они рисовали, что он падает отвесно вниз. Позже тест Force Concept Inventory показал, что полный семестр традиционных лекций по физике почти не сдвигает эти интуиции (Hake 1998): средний прирост в обычных курсах составлял около четверти возможного.
- Хуже всего с вероятностью. Когда Мэрилин вос Савант в 1990 году опубликовала правильное решение задачи Монти Холла, она получила около десяти тысяч писем с утверждениями, что она неправа, около тысячи из них — от докторов наук. Пал Эрдёш, один из великих математиков столетия, отказывался принять решение, пока ему не показали симуляцию.
- Литература, напротив, просит мозг делать то, что он делает за обеденным столом: следить за тем, кто чего хочет, кто лжёт, кто влюблён, кто кого предаст. Это наивная психология, биологически первичный навык, работающий на тех же схемах, что и сплетни. Истории есть в каждой человеческой культуре; Джером Брунер называл повествование родным режимом человеческой мысли. Литературе можно учить класс пятнадцатилетних, потому что пятнадцатилетние пришли с готовым «железом». Физика должна это «железо» преодолевать.
Вот почему люди не любят математику и естественные науки, и эта нелюбовь — не изъян характера. Группа Сиан Бейлок обнаружила, что у людей с сильной математической тревожностью одно лишь ожидание математической задачи активирует те же области мозга, которые регистрируют телесную боль (Lyons and Beilock 2012). Наука — собрание утверждений, противоречащих каждой вашей интуиции: земля движется со скоростью тысячи миль в час, а вы этого не чувствуете; невидимые животные делают вас больными; ваши предки были рыбами; твёрдый стол состоит в основном из пустоты. Ничей мозг не находит это уютным. То, что наука вообще существует, что она появилась поздно, в одном месте и несколько раз едва не погибла, прежде чем прижиться, — сильнейшее свидетельство того, что она не является естественным продуктом человеческого познания.
Почему люди верят в почти наверняка ложное
Возьмём религию, потому что это самый крупный и лучше всего задокументированный случай.
- Человечество поклонялось тысячам богов. Основные живые религии взаимоисключающи: истинность одной влечёт ложность остальных. Любая честная априорная вероятность для «та, в которой меня случайно вырастили, и есть истинная» начинается где-то около нуля и не улучшается, потому что лучший единственный предиктор религии человека — не какой-либо аргумент или довод, а религия его родителей и широта и долгота места его рождения. Возрождённый баптист из Алабамы был бы набожным индуистом, родись он в Варанаси, и был бы столь же уверен. Убеждения, которые следуют географии, а не доказательствам, порождены не доказательствами.
- Никто не производит этого расчёта, и это само по себе вывод. Вопрос «каковы шансы, что из всех религий правильная — моя?» верующие почти никогда не задают — не потому, что на него есть ответ, а потому, что он не приходит в голову. С рассуждением не советуются.
- Когнитивная наука объясняет, почему вера даётся так легко. У людей есть то, что Джастин Барретт назвал гиперактивным детектором агентности: шорох в траве принимается за хищника, потому что ложная тревога обходится дёшево, а пропущенный тигр смертелен. Тот же механизм видит лица в облаках, намерение в погоде и разум за вселенной (Guthrie 1993; Boyer 2001). Дебора Келемен показала, что дети — интуитивные теисты: они объясняют, что камни острые, «чтобы животные могли о них чесаться», а реки существуют, «чтобы лодкам было на чём плавать». Телеология — режим по умолчанию; её нужно вытренировать, и у большинства людей этого так и не происходит.
- Теория управления страхом смерти (Greenberg, Solomon and Pyszczynski 1986): напомните людям об их собственной смерти, и они крепче цепляются за своё мировоззрение и суровее наказывают чужаков. Центральное обещание религии — что смерть не конец. Убеждению, которое снимает худший страх, какой может испытывать ум, не нужно быть истинным, чтобы его придерживались.
- Религия — это ещё и членство. Ричард Сосис обнаружил, что религиозные коммуны с более обременительными требованиями существовали дольше светских. Убеждение, которого придерживаются как знака принадлежности, не держат как гипотезу, поэтому доказательство против него — не доказательство против чего-либо, что дорого верующему. Это нападение на племя.
Ничто из этого не является особенностью религии. Тот же механизм порождает астрологию, гомеопатию, теории заговора и национализм. Религия — просто случай с самой длинной историей.
Надежда побеждает факты
- Группа Тали Шарот обнаружила, что люди обновляют свои убеждения асимметрично: услышав, что плохой исход вероятнее, чем они думали, они почти не сдвигаются; услышав, что он менее вероятен, сдвигаются сильно (Sharot, Korn and Dolan 2011). Мозг отслеживает хорошие новости и отбрасывает плохие, и это видно в нейронном сигнале, а не только в анкете. Около 80% людей демонстрируют это искажение.
- Нил Уайнстайн (1980) обнаружил, что студенты оценивали свои шансы развестись, лишиться работы или получить диагноз рака как гораздо меньшие, чем у сверстников, а шансы обзавестись собственным домом и дожить до восьмидесяти — как гораздо большие. Не могут же все иметь риск ниже среднего.
- Пациентов с метастатическим раком лёгких или колоректальным раком, получавших химиотерапию, о которой каждый онколог знал, что она паллиативная, спросили, может ли лечение их излечить. 69% пациентов с раком лёгких и 81% пациентов с колоректальным раком ответили «да» (Weeks et al. 2012, New England Journal of Medicine). Им говорили. Они услышали другое.
- Студенты, которых спросили, сколько времени займёт их дипломная работа, в среднем оценивали срок в 34 дня. Ушло 56. На просьбу дать оценку для наихудшего случая, исходя из того, что всё пойдёт не так, они называли 49 дней — всё равно меньше, чем в действительности (Buehler, Griffin and Ross 1994). Ошибка планирования за прошедшие тридцать лет так и не излечена.
- Американцы тратят около ста миллиардов долларов в год на лотерейные билеты при ожидаемой отдаче, которую мог бы рассчитать каждый покупатель и не рассчитывает никто.
Есть эволюционная причина того, что надежда побеждает. Аллой и Абрамсон (1979) обнаружили, что люди в лёгкой депрессии оценивают свой контроль над событиями точнее, чем здоровые. Точность в оценке своих перспектив угнетает, а депрессия не добывает пищу, не ухаживает и не сражается. Естественный отбор создал оптимистов, а оптимизм означает отбрасывание фактов, указывающих не в ту сторону.
Факты — боеприпасы, а не входные данные
Если бы люди рассуждали от фактов к выводам, то, дав им больше фактов, можно было бы их сдвинуть. Не выходит. Это их вооружает.
- Предвзятое усвоение (Lord, Ross and Lepper 1979). Сторонники и противники смертной казни читали одни и те же два исследования, одно из которых обнаружило сдерживающий эффект, а другое — нет. Каждая сторона сочла исследование, поддерживающее её взгляд, строгим, а другое — ущербным. Прочитав одинаковые данные, обе стороны стали увереннее, чем прежде. Одни и те же факты поляризовали.
- Мотивированная числовая грамотность (Kahan et al. 2013). Испытуемым давали таблицу данных и спрашивали, показывает ли она, что крем для кожи работает. Те, кто хорошо обращается с числами, отвечали правильно. Те же самые числа, переименованные в данные о контроле над оружием, их разделили: высокограмотные в числах либералы и консерваторы давали правильный ответ, когда он поддерживал их сторону, и неправильный, когда нет, и чем лучше они обращались с числами, тем больше был разрыв. Умение рассуждать мобилизовывалось на защиту племени. Та же команда ранее обнаружила, что большая научная грамотность делает людей более, а не менее поляризованными в вопросе изменения климата (Kahan et al. 2012).
- Мотивированный скептицизм (Taber and Lodge 2006). Получив аргументы о позитивной дискриминации и контроле над оружием, испытуемые дольше читали и опровергали противоположные аргументы, чем согласные с ними, оценивали близкие себе аргументы как более сильные и, когда им давали выбор, искали аргументы своей стороны. Политически искушённые делали всё это больше, а не меньше.
- Дрю Вестен (2006) поместил убеждённых сторонников партий в томограф и показал им, как их собственный кандидат противоречит сам себе. Области, связанные с холодным рассуждением, молчали. Загорались области, связанные с эмоциями и конфликтом, а когда испытуемый находил способ оправдать противоречие, срабатывали цепи вознаграждения. Рационализация в буквальном смысле приносит удовольствие.
- Опровержения не обязательно дают обратный эффект, как когда-то опасались (Wood and Porter 2019), но действуют они очень слабо: они немного сдвигают заявляемые убеждения, сдвиг выветривается за недели, и он почти никогда не меняет голосование или поведение, которые это убеждение защищало.
Джонатан Свифт писал в 1721 году, что рассуждение никогда не заставит человека исправить дурное мнение, которое он приобрёл не рассуждением. Зива Кунда формализовала это в 1990 году как мотивированное рассуждение: о нежеланных данных мы спрашиваем «обязан ли я в это верить?», а о желанных — «могу ли я в это верить?», и ответы почти всегда «нет» и «да». Факт, который поддерживает чувство, сохраняется. Факт, который ему противоречит, не взвешивается; его отбрасывают, переистолковывают или забывают. Лучшее резюме дал Джонатан Хайдт: эмоциональная собака виляет рациональным хвостом.
Двадцать лет социальных сетей: крупнейший эксперимент в истории
Лента новостей Facebook появилась в 2006 году, Twitter — в том же году. С тех пор у нескольких миллиардов людей каждая опубликованная ими фраза оценивается по вовлечённости, в реальном времени, системами, которые изучают, на что откликаются люди, и подают им больше того же. Никто не проектировал эти системы так, чтобы вознаграждать возмущение. Их спроектировали так, чтобы вознаграждать всё, что вознаграждают люди, и они измерили ответ с точностью, к которой ни одна психологическая лаборатория не могла бы и приблизиться. Результаты получены.
- Ложь обгоняет правду (Vosoughi, Roy and Aral 2018, Science). На материале 126 000 историй, которыми три миллиона человек поделились в Twitter с 2006 по 2017 год, ложные новости ретвитили на 70% чаще, чем правдивые, они достигали 1500 человек примерно в шесть раз быстрее и распространялись глубже и шире. Сильнее всего эффект был для политических новостей. Боты распространяли правдивые и ложные истории одинаково; асимметрия была целиком человеческой. Ложные истории были новее и вызывали больше удивления и отвращения.
- Моральная эмоция — это топливо (Brady et al. 2017, PNAS). На материале 563 000 твитов о контроле над оружием, изменении климата и однополых браках каждое морально-эмоциональное слово («нападение», «позор», «жадность», «зло») увеличивало ожидаемую частоту ретвитов примерно на 20%. Распространение шло почти исключительно внутри идеологической группы, а не между группами.
- Лучше всего работает нападение на чужое племя (Rathje, Van Bavel and van der Linden 2021, PNAS). На материале 2,7 миллиона публикаций новостных изданий и политиков каждое дополнительное слово, относящееся к политической чужой группе, увеличивало шансы репоста на 67%. Язык о чужой группе был самым сильным предиктором вовлечённости, гораздо более сильным, чем похвала собственной стороне, а самые распространяемые публикации были самыми злыми.
- Знакомство с другой стороной делает только хуже (Bail et al. 2018, PNAS). Когда пользователям Twitter заплатили за то, чтобы они месяц читали бота, ретвитившего противоположную сторону, республиканцы стали заметно консервативнее, а демократы — немного либеральнее. Рецепт Просвещения — знакомство с разнообразными взглядами — проверили, и он дал обратный эффект.
- Собственные исследователи Facebook были согласны (документы Хауген, 2021). После перехода в 2018 году к «значимым социальным взаимодействиям» реакция «злюсь» получила вес в пять раз больше лайка, и внутренние исследования сообщали, что издатели и партии перешли на возмущение, потому что именно его вознаграждало ранжирование. Собственные специалисты Facebook по данным предупреждали, что изменение делает платформу злее. Метрика говорила, что всё работает.
- Никто даже не проверяет (Pennycook and Rand 2019, 2021). Люди, которые делятся ложными заголовками, в большинстве своём в них не верят; если спросить прямо, они оценивают эти заголовки как неточные. Они делились ими потому, что делиться — социальное действие, а не эпистемическое, и вопрос об истине просто не возникал. Короткое напоминание подумать о точности немного улучшало качество распространяемого — что показывает, как далеко это от режима по умолчанию.
Алгоритм не сделал людей племенными и эмоциональными. Он измерил, что они такие, в масштабе миллиардов, а затем дал им то, что они измеримо предпочитали. Если бы людьми двигали факты, трезвая, снабжённая источниками, проверенная публикация выигрывала бы аукцион вовлечённости. Она проигрывает этот аукцион каждый день двадцать лет подряд. Оптимизация прогонялась на нас, и она нашла то же, что нашли психологи: сначала эмоция, потом племя, факты — как украшение.
Что из этого следует
Рациональность реальна. Наука работает, суды иногда выносят истинные вердикты, и время от времени человек меняет мнение под действием доказательств. Но каждый из этих случаев держится на строительных лесах: рецензировании, состязательном процессе, двойной бухгалтерии, контролируемых экспериментах, норме, согласно которой утверждение ничего не стоит, пока кто-нибудь не попытался его опровергнуть. Уберите леса, и рассуждение рушится обратно к тому, что показывает лаборатория. Рациональность — огонь, который несколько институтов поддерживают непрерывными усилиями. Это не человеческое состояние. Это побочное достижение небольшого меньшинства людей, поддерживаемое структурами, в которые большинство людей никогда не входит и по которым не скучает.
Ошибка последних трёх столетий состояла в том, чтобы принять это меньшинство за описание вида и спроектировать под него общественную жизнь. Дайте публике факты, говорили мы, и она будет рассуждать. Она не стала, и последние двадцать лет точно измерили, насколько не стала. Институты, которые работают лишь при условии, что толпа рассуждает, потерпят крах, потому что толпа не рассуждает. Институты, которые работают в любом случае, которые делают рациональный ход наименее затратным и не зависят от того, удастся ли кого-нибудь убедить, — единственный вид институтов, которые стоит строить.
И читатель не исключение. Как и автор. Это последнее, что говорят доказательства: человек, наиболее уверенный в том, что он — рациональное исключение, работает на том же «железе», что и все остальные.