הרציונליות היא היוצא מן הכלל: בני אדם לא נבנו כדי לחשוב

אריסטו כינה את האדם "החיה הרציונלית", ותנועת ההשכלה בנתה את מוסדותיה על התיאור הזה: תנו לאנשים עובדות ועיתונות חופשית, והם יגיעו בכוח ההיגיון להחלטות טובות. זו תמונה מחמיאה, והיא שגויה. רציונליות אינה מה שהמוח האנושי עושה כברירת מחדל. היא תעלול נדיר, מאומץ ומאוחר, שמעטים מצליחים בו לפעמים, בדרך כלל בעזרת פיגומים מוסדיים כבדים, ושרוב האנשים אינם מצליחים בו לעולם. היא נלווית למה שהמוח נבנה לשמו, כפי שמחשבון נלווה לטלפון.

זו אינה דעה פילוסופית. זה הממצא העקבי של מאה שנות פסיכולוגיה ניסויית, וזו הקריאה הפשוטה של עשרים שנות נתונים מהרשתות החברתיות. שווה לפרוש את הראיות במקום אחד.

מה מצאה המעבדה

הניסויים שלהלן הם קלאסיקה משום שהם משתחזרים, ומשום שהכישלונות שהם חושפים אינם כישלונות של הטיפשים או של חסרי ההשכלה. אלה כישלונות של רופאים מהרווארד, של סטודנטים מסטנפורד ושל האוכלוסייה הכללית כאחד.

• מטלת הבחירה של ווייסון (Wason 1966). ארבעה קלפים, כלל פשוט אחד ("אם על צד אחד של הקלף יש תנועה, בצד השני יש מספר זוגי"), והשאלה אילו קלפים חובה להפוך כדי לבדוק אותו. פחות מ-10% מהאנשים עונים נכון. נסחו את אותה לוגיקה בדיוק ככלל חברתי ("אם אתה שותה בירה, אתה חייב להיות מעל גיל 18") וכ-75% עונים נכון (Griggs and Cox 1982; Cosmides 1989). למוח אין מודול לוגיקה כללי. יש לו מודול לזיהוי רמאים, ובעיות לוגיקה שבמקרה נראות כמו רמאות נפתרות.
• כשל הצירוף (Tversky and Kahneman 1983). לינדה בת 31, ישירה, למדה פילוסופיה ועסקה בצדק חברתי. מה סביר יותר, שהיא פקידת בנק, או שהיא פקידת בנק הפעילה בתנועה הפמיניסטית? כ-85% מהנשאלים בחרו באפשרות השנייה, שאינה יכולה להיות סבירה יותר מהראשונה, מפני שהיא תת-קבוצה שלה. סיפור שנשמע נכון מנצח הסתברות שהיא נכונה.
• התעלמות משיעור הבסיס (Casscells, Schoenberger and Grayboys 1978). שישים אנשי סגל וסטודנטים בבית הספר לרפואה של הרווארד נשאלו: שכיחות מחלה היא 1 ל-1,000, לבדיקה שיעור חיובי-כוזב של 5%, מטופל יוצא חיובי, מה הסיכוי שהוא חולה? התשובה הנכונה היא כ-2%. התשובה הנפוצה ביותר הייתה 95%. רק 18% ענו נכון. אלה האנשים שקוראים את תוצאות הבדיקות שלכם.
• עיגון, מסגור וזמינות (Tversky and Kahneman 1974, 1981). סיבוב גלגל מזל מכוון לפני השאלה איזה אחוז מחברות האו"ם הן מדינות אפריקאיות הזיז את התשובות. תיאור אותה תוכנית בריאות כ"200 מתוך 600 יינצלו" או כ"400 מתוך 600 ימותו" הפך את בחירת הרוב. השיפוט לא חושב מהעובדות; הוא חושב מהאריזה.
• מבחן הרפלקסיה הקוגניטיבית (Frederick 2005). מחבט וכדור עולים יחד 1.10 דולר, והמחבט עולה דולר יותר מהכדור; כמה עולה הכדור? רוב האנשים, ובהם רוב הסטודנטים באוניברסיטאות היוקרתיות, אומרים עשרה סנט. התשובה הנכונה היא חמישה, ובדיקתה דורשת שורת חשבון אחת. אנשים אינם בודקים. התשובה האינטואיטיבית מגיעה ראשונה ומרגישה כמו ידע.
• ניסויי הקונפורמיות של אש (1951). כשנשאלו איזה משלושה קווים שווה באורכו לקו ייחוס, בעוד משתפי פעולה נותנים בביטחון את התשובה השגויה, הנבדקים הלכו אחרי תשובה שגויה בעליל בכשליש מהניסיונות, ושלושה רבעים מהם עשו זאת לפחות פעם אחת. הקווים לא היו דו-משמעיים. החדר היה.
• לספר יותר ממה שאנחנו יודעים (Nisbett and Wilson 1977). קונים שהתבקשו לבחור את הטוב מבין ארבעה זוגות גרביונים זהים בחרו את הזוג הימני ביותר ביחס של ארבע לאחד, וכל אחד מהם נימק את הבחירה באיכות. איש לא הזכיר את המיקום, וכשהוצע להם הרעיון הם הכחישו. הנימוקים שאנחנו נותנים להחלטותינו נוצרים אחרי ההחלטה, על ידי חלק בתודעה שלא נכח בה.
• עיוורון בחירה (Johansson et al. 2005; Hall et al. 2012). נבדקים בחרו איזה משני פרצופים מושך יותר, קיבלו בהטעיית יד את הפרצוף השני, ואז הסבירו בשטף מדוע בחרו בו. אותו תעלול על סקר פוליטי הביא מצביעים לטעון בעד ההפך מהעמדות שזה עתה סימנו. אילו ההיגיון היה מניע את האמונה, זה לא היה יכול לקרות.
• מבוכה מוסרית (Haidt 2001). מול תרחיש של גילוי עריות בין אחים, בהסכמה, באמצעי מניעה, בסוד, פעם אחת, שלא פגע באיש, אנשים מתעקשים שזה פסול, נכשלים בהצגת נימוק שמחזיק מעמד, ואז אומרים "אני לא יודע למה, זה פשוט פסול". פסק הדין בא ראשון; ההיגיון הוא הדוברות.
• כשהנבואה נכשלת (Festinger, Riecken and Schachter 1956). קבוצה קטנה ניבאה שמבול יחריב את העולם ב-21 בדצמבר 1954. כשהתאריך חלף, החברים שנטשו את עבודותיהם ורכושם לא איבדו את אמונתם. הם נעשו מחויבים יותר והחלו להטיף. ההפרכה נבלעה כאישוש.
• אפקט דאנינג-קרוגר (1999). בעלי הכשירות הנמוכה ביותר בלוגיקה, בדקדוק או בהומור דירגו את עצמם הרבה מעל הממוצע, מפני שהמיומנות הנדרשת כדי לשפוט את הביצוע היא בדיוק המיומנות שחסרה.

קית' סטנוביץ', שהקדיש קריירה למדידת התופעה, הסיק שחשיבה רציונלית היא יכולת נפרדת מאינטליגנציה, שמבחני IQ אינם מודדים אותה, ושבמטלות של חשיבה רציונלית הביצועים ירודים לאורך כל טווח האינטליגנציה. הוגו מרסייה ודן ספרבר הרחיקו לכת עוד יותר ב"חידת ההיגיון" (2017): ההיגיון לא התפתח כדי למצוא אמת. הוא התפתח כדי לנצח בוויכוחים ולהעריך את טיעוניהם של אחרים, ולכן אנחנו מצוינים במציאת הפגם בטיעון של היריב וכמעט עיוורים לפגם בטיעון שלנו. הטיית האישוש אינה באג במודול ההיגיון. היא מודול ההיגיון שעושה את מה שנברר לשמו.

מדוע כל כך קשה ללמד מתמטיקה ומדע

כל ילד בעולם לומד לדבר בלי מורה. אף ילד בעולם אינו לומד אלגברה בלי מורה. האסימטריה הזאת היא כל הסיפור.

• דייוויד גירי (1995) הבחין בין יכולות ראשוניות ביולוגית ליכולות משניות ביולוגית. היכולות הראשוניות (שפה, זיהוי פרצופים, קריאת כוונותיהם של אחרים, פיזיקה אינטואיטיבית, חוש למספרים קטנים) מגיעות בחינם דרך משחק, בכל תרבות, בלי הוראה. היכולות המשניות (קריאה, חשבון מעבר לקומץ, אלגברה, לוגיקה פורמלית, השיטה המדעית) הן המצאות תרבותיות שיש לכפות על מוח שאין בו מעגלים עבורן, באמצעות שנים של תרגול מאומץ, מונע וכפוי מבחוץ. השפה משותפת לכל חברה אנושית שתועדה אי פעם. הכתב הומצא אולי ארבע פעמים. המדע הומצא פעם אחת.
• סטניסלס דהאן הראה מה פירוש "אין מעגלים". הקריאה פועלת באמצעות מִחזור עצבי: היא חוטפת אזור בקליפת הראייה שהתפתח לזיהוי עצמים. החשבון חוטף מערכת של כמויות משוערות באונה הקודקודית, שנותנת לנו כמויות מדויקות רק עד ארבע בערך ותחושה לוגריתמית מטושטשת מעבר לכך. בני המונדורוקו מהאמזונס, שיש להם מילות מספר רק עד חמש, עושים חשבון משוער על כמויות גדולות היטב כמו מבוגרים צרפתים, וחשבון מדויק אינם עושים כלל (Pica et al. 2004). חשבון מדויק אינו משהו שבני אדם עושים. הוא משהו שתרבויות מעטות אימנו את עצמן לעשות נגד הטבע.
• הפיזיקה המובנית שלנו היא אריסטוטלית. מייקל מקלוסקי (1983) ביקש מסטודנטים לשרטט את מסלולו של כדור היוצא מצינור מעוקל. חלק גדול, ובהם סטודנטים שעברו קורס פיזיקה אוניברסיטאי, שרטטו אותו ממשיך להתעקל. כשנשאלו היכן תנחת חבילה שהושלכה ממטוס בתנועה, שרטטו אותה נופלת ישר למטה. מבחן מושגי הכוח הראה מאוחר יותר שסמסטר שלם של הרצאות פיזיקה מסורתיות בקושי מזיז את האינטואיציות האלה (Hake 1998): השיפור הממוצע בקורסים קונבנציונליים היה כרבע ממה שהיה אפשר לשפר.
• הסתברות היא הגרועה מכולן. כשמרילין ווס סוואנט פרסמה ב-1990 את הפתרון הנכון לבעיית מונטי הול, היא קיבלה כעשרת אלפים מכתבים שאמרו לה שהיא טועה, כאלף מהם מבעלי דוקטורט. פאול ארדש, מגדולי המתמטיקאים של המאה, סירב לקבל את הפתרון עד שהראו לו סימולציה.
• הספרות, לעומת זאת, מבקשת מהמוח לעשות את מה שהוא עושה ליד שולחן האוכל: לעקוב אחרי מי רוצה מה, מי משקר, מי מאוהב, מי יבגוד במי. זו פסיכולוגיה עממית, מיומנות ראשונית ביולוגית, שרצה על אותם מעגלים כמו רכילות. לכל תרבות אנושית יש סיפורים; ג'רום ברונר כינה את הנרטיב אופן החשיבה הטבעי של האדם. אפשר ללמד שיעור ספרות לכיתה של בני חמש-עשרה מפני שבני החמש-עשרה הגיעו עם החומרה. שיעור פיזיקה חייב לעקוף את החומרה.

לכן אנשים אינם אוהבים מתמטיקה ומדע, והסלידה אינה פגם באופי. הקבוצה של סיאן ביילוק מצאה שאצל אנשים עם חרדת מתמטיקה גבוהה, עצם הציפייה לבעיה במתמטיקה מפעילה את אותם אזורי מוח שרושמים כאב גופני (Lyons and Beilock 2012). המדע הוא אוסף של טענות שסותרות כל אינטואיציה שיש לכם: הקרקע נעה באלף מייל לשעה ואינכם מרגישים בכך, חיות בלתי נראות גורמות לכם לחלות, אבותיכם היו דגים, השולחן המוצק הוא ברובו חלל ריק. שום מוח אינו מוצא בזה נוחות. העובדה שהמדע קיים בכלל, שהופיע מאוחר, במקום אחד, וכמעט מת כמה פעמים לפני שנקלט, היא הראיה החזקה ביותר לכך שהוא אינו תוצר טבעי של הקוגניציה האנושית.

מדוע אנשים מאמינים בדברים שכמעט בוודאות אינם נכונים

ניקח את הדת, מפני שהיא המקרה הגדול והמתועד ביותר.

• האנושות סגדה לאלפי אלים. הדתות הגדולות החיות מוציאות זו את זו: אמיתותה של אחת גוררת את שקריותן של האחרות. כל הסתברות מוקדמת כנה ל"זו שבמקרה גדלתי בה היא האמיתית" מתחילה קרוב לאפס ואינה משתפרת, מפני שהמנבא הטוב ביותר לדתו של אדם אינו טיעון או ראיה כלשהם, אלא דת הוריו וקו הרוחב וקו האורך של לידתו. בפטיסט "נולד מחדש" מאלבמה היה הינדי אדוק אילו נולד בוורנאסי, והיה בטוח באותה מידה. אמונות שעוקבות אחרי גאוגרפיה ולא אחרי ראיות לא נוצרו על ידי ראיות.
• איש אינו עושה את החישוב הזה, וזה עצמו הממצא. השאלה "מה הסיכוי שמכל הדתות, דווקא שלי היא הנכונה?" כמעט אינה נשאלת על ידי מאמינים, לא מפני שנענתה אלא מפני שאינה עולה. ההיגיון אינו מתייעץ.
• מדעי הקוגניציה מסבירים מדוע האמונה באה בקלות כזאת. לבני אדם יש מה שג'סטין בארט כינה גלאי סוכנות היפראקטיבי: רשרוש בעשב נתפס כטורף, מפני שאזעקת שווא זולה וטיגריס שהוחמץ קטלני. אותו מנגנון רואה פרצופים בעננים, כוונה במזג האוויר, ותודעה מאחורי היקום (Guthrie 1993; Boyer 2001). דבורה קלמן הראתה שילדים הם תאיסטים אינטואיטיביים, שמסבירים שאבנים מחודדות "כדי שחיות יוכלו להתגרד עליהן" ושנהרות קיימים "כדי שלסירות יהיה על מה לצוף". טלאולוגיה היא ברירת המחדל; צריך לאמן אותה החוצה, ואצל רוב האנשים זה לעולם לא קורה.
• תיאוריית ניהול האימה (Greenberg, Solomon and Pyszczynski 1986): הזכירו לאנשים את מותם שלהם, והם ייאחזו חזק יותר בתפיסת עולמם ויענישו זרים בחומרה רבה יותר. הבטחתה המרכזית של הדת היא שהמוות אינו הסוף. אמונה שמסירה את הפחד הגרוע ביותר שתודעה יכולה לחוות אינה צריכה להיות אמיתית כדי להיאחז בה.
• הדת היא גם חברוּת. ריצ'רד סוסיס מצא שקומונות דתיות עם דרישות יקרות יותר שרדו זמן רב יותר מקומונות חילוניות. אמונה שמוחזקת כתג של שייכות אינה מוחזקת כהשערה, ולכן ראיה נגדה אינה ראיה נגד שום דבר שאכפת למאמין ממנו. היא התקפה על השבט.

שום דבר מזה אינו ייחודי לדת. אותו מנגנון מייצר אסטרולוגיה, הומאופתיה, תיאוריות קונספירציה ולאומנות. הדת היא פשוט המקרה עם התיעוד הארוך ביותר.

התקווה מנצחת את העובדות

• הקבוצה של טלי שרוט מצאה שאנשים מעדכנים את אמונותיהם באופן אסימטרי: כשאומרים להם שתוצאה רעה סבירה יותר משחשבו, הם בקושי זזים; כשאומרים להם שהיא סבירה פחות, הם זזים הרבה (Sharot, Korn and Dolan 2011). המוח עוקב אחרי חדשות טובות וזורק חדשות רעות, וזה נראה באות העצבי, לא רק בשאלון. כ-80% מהאנשים מראים את ההטיה.
• ניל ויינשטיין (1980) מצא שסטודנטים דירגו את עצמם כבעלי סיכוי נמוך בהרבה מעמיתיהם להתגרש, להיות מפוטרים או לחלות בסרטן, ובעלי סיכוי גבוה בהרבה להיות בעלי בית ולחיות מעבר לגיל שמונים. לא כולם יכולים להיות מתחת לסיכון הממוצע.
• חולים עם סרטן ריאות או סרטן המעי הגס גרורתי, שקיבלו כימותרפיה שכל אונקולוג ידע שהיא פליאטיבית, נשאלו אם הטיפול עשוי לרפא אותם. 69% מחולי הריאות ו-81% מחולי המעי הגס אמרו כן (Weeks et al. 2012, New England Journal of Medicine). אמרו להם. הם שמעו משהו אחר.
• סטודנטים שנשאלו כמה זמן תיקח עבודת הגמר שלהם העריכו 34 ימים בממוצע. היא לקחה 56. כשנתבקשו להעריך את המקרה הגרוע ביותר בהנחה שהכול משתבש, אמרו 49 ימים, עדיין פחות מהמציאות (Buehler, Griffin and Ross 1994). כשל התכנון לא נרפא בשלושים השנים שחלפו מאז.
• האמריקאים מוציאים כמאה מיליארד דולר בשנה על כרטיסי לוטו, כנגד תוחלת תשואה שכל קונה יכול לחשב ואף אחד אינו מחשב.

יש סיבה אבולוציונית לניצחון התקווה. אלוי ואברמסון (1979) מצאו שאנשים בדיכאון קל שופטים את שליטתם באירועים בדיוק רב יותר מאנשים בריאים. דיוק בנוגע לסיכוייך מדכא, ודיכאון אינו מלקט מזון, אינו מחזר ואינו נלחם. הברירה הטבעית בנתה אופטימיסטים, ואופטימיות פירושה לזרוק עובדות שמצביעות לכיוון הלא נכון.

עובדות הן תחמושת, לא קלט

אילו אנשים היו מסיקים מעובדות למסקנות, מתן עובדות נוספות היה מזיז אותם. זה לא קורה. זה מחמש אותם.

• הטמעה מוטה (Lord, Ross and Lepper 1979). תומכי עונש המוות ומתנגדיו קראו את אותם שני מחקרים, אחד שמצא הרתעה ואחד שלא מצא. כל צד שפט את המחקר שתמך בעמדתו כקפדני ואת השני כפגום. אחרי קריאת ראיות זהות, שני הצדדים היו בטוחים יותר מקודם. אותן עובדות קיטבו.
• אוריינות מספרית מונעת (Kahan et al. 2013). נבדקים קיבלו טבלת נתונים ונשאלו אם היא מראה שקרם לעור עובד. בעלי האוריינות המספרית ענו נכון. אותם מספרים, בתווית של נתוני פיקוח על נשק, פיצלו אותם: ליברלים ושמרנים בעלי אוריינות מספרית גבוהה ענו נכון כשהתשובה תמכה בצד שלהם ושגו כשלא תמכה, וככל שהיו מיומנים יותר, הפער גדל. מיומנות ההיגיון גויסה להגנת השבט. אותו צוות כבר מצא קודם שאוריינות מדעית גבוהה יותר מקטבת אנשים יותר בנושא שינויי האקלים, לא פחות (Kahan et al. 2012).
• ספקנות מונעת (Taber and Lodge 2006). מול טיעונים על העדפה מתקנת ועל פיקוח על נשק, הנבדקים בילו זמן רב יותר בקריאה ובהפרכה של טיעונים מנוגדים מאשר של טיעונים מסכימים, דירגו טיעונים נוחים כחזקים יותר, וכשניתנה להם הבחירה חיפשו את הצד שלהם. המתוחכמים פוליטית עשו את כל זה יותר, לא פחות.
• דרו וסטן (2006) הכניס תומכי מפלגה מושבעים לסורק והראה להם את המועמד שלהם סותר את עצמו. האזורים המזוהים עם היגיון קר נותרו שקטים. האזורים המזוהים עם רגש וקונפליקט נדלקו, וכשהנבדק מצא דרך לתרץ את הסתירה, מעגל התגמול ירה. רציונליזציה היא מתגמלת פשוטו כמשמעו.
• תיקונים אינם מחוללים באופן עקבי תגובת נגד, כפי שחששו פעם (Wood and Porter 2019), אבל הם מועילים מעט מאוד: הם מזיזים מעט את האמונות המוצהרות, ההזזה דועכת בתוך שבועות, וכמעט לעולם אינה משנה את ההצבעה או את ההתנהגות שהאמונה הגנה עליהן.

ג'ונתן סוויפט כתב ב-1721 שההיגיון לעולם לא יגרום לאדם לתקן דעה רעה שלא רכש בהיגיון. זיוה קונדה ניסחה זאת ב-1990 כחשיבה מונעת: על ראיה לא רצויה אנחנו שואלים "האם אני חייב להאמין בזה?", ועל ראיה רצויה "האם אני יכול להאמין בזה?", והתשובות הן כמעט תמיד לא וכן. עובדה שתומכת בתחושה נשמרת. עובדה שסותרת אותה אינה נשקלת; היא נדחית, מפורשת מחדש או נשכחת. הסיכום של ג'ונתן היידט הוא הטוב ביותר: הכלב הרגשי מכשכש בזנב הרציונלי.

עשרים שנות רשתות חברתיות: הניסוי הגדול ביותר שנערך אי פעם

פיד החדשות של פייסבוק הושק ב-2006, וטוויטר באותה שנה. מאז, כמה מיליארדי בני אדם ראו כל משפט שפרסמו נמדד לפי מעורבות, בזמן אמת, על ידי מערכות שלומדות למה בני אדם מגיבים ומגישות להם עוד מזה. איש לא תכנן את המערכות האלה לתגמל זעם. הן תוכננו לתגמל את מה שבני אדם מתגמלים, והן מדדו את התשובה בדיוק ששום מעבדת פסיכולוגיה לא יכלה להתקרב אליו. התוצאות בפנים.

• השקר מקדים את האמת (Vosoughi, Roy and Aral 2018, Science). על פני 126,000 סיפורים ששיתפו שלושה מיליון אנשים בטוויטר בין 2006 ל-2017, הסיכוי שחדשות כוזבות יזכו לריטוויט היה גבוה ב-70% מזה של חדשות אמיתיות, הן הגיעו ל-1,500 אנשים מהר פי שישה בערך, והתפשטו עמוק ורחב יותר. האפקט היה החזק ביותר בחדשות פוליטיות. בוטים הפיצו סיפורים אמיתיים וכוזבים במידה שווה; האסימטריה הייתה אנושית לחלוטין. הסיפורים הכוזבים היו חדשניים יותר ועוררו יותר הפתעה וגועל.
• הרגש המוסרי הוא הדלק (Brady et al. 2017, PNAS). על פני 563,000 ציוצים על פיקוח על נשק, שינויי אקלים ונישואים חד-מיניים, כל מילה מוסרית-רגשית ("התקפה", "בושה", "חמדנות", "רשע") העלתה את קצב הריטוויטים הצפוי בכ-20%. ההתפשטות הייתה כמעט כולה בתוך הקבוצה האידאולוגית, לא בין קבוצות.
• תקיפת השבט השני עובדת הכי טוב (Rathje, Van Bavel and van der Linden 2021, PNAS). על פני 2.7 מיליון פוסטים של כלי תקשורת ופוליטיקאים, כל מילה נוספת שהתייחסה לקבוצת החוץ הפוליטית העלתה את סיכויי השיתוף ב-67%. שפת קבוצת חוץ הייתה המנבא החזק ביותר למעורבות, חזק בהרבה משבח לצד שלך, והפוסטים המשותפים ביותר היו הזועמים ביותר.
• חשיפה לצד השני מחמירה את המצב (Bail et al. 2018, PNAS). תשלום למשתמשי טוויטר כדי שיעקבו במשך חודש אחרי בוט שמצייץ מחדש את הצד המנוגד הפך רפובליקנים לשמרנים במידה ניכרת ודמוקרטים לליברלים מעט יותר. המרשם של ההשכלה, חשיפה לדעות מגוונות, נבדק, והוא פעל הפוך.
• החוקרים של פייסבוק עצמם הסכימו (מסמכי האוגן, 2021). אחרי המעבר ב-2018 ל"אינטראקציות חברתיות משמעותיות", תגובת הכעס שוקללה פי חמישה מלייק, ומחקר פנימי דיווח שמפרסמים ומפלגות עברו לזעם מפני שזה מה שהדירוג תגמל. מדעני הנתונים של פייסבוק עצמה הזהירו שהשינוי הופך את הפלטפורמה לזועמת יותר. המדד אמר שזה עובד.
• אף אחד אפילו לא בודק (Pennycook and Rand 2019, 2021). אנשים שמשתפים כותרות כוזבות ברובם אינם מאמינים בהן; כשנשאלים ישירות, הם מדרגים את הכותרות כלא מדויקות. הם שיתפו אותן מפני ששיתוף הוא מעשה חברתי, לא אפיסטמי, ושאלת האמת פשוט לא עלתה. תזכורת קצרה לחשוב על דיוק שיפרה מעט את איכות השיתוף, מה שמראה כמה רחוק זה מברירת המחדל.

האלגוריתם לא הפך את האנשים לשבטיים ורגשיים. הוא מדד שהם כאלה, בקנה מידה של מיליארדים, ואז נתן להם את מה שהעדיפו באופן מדיד. אילו בני אדם היו מונעים על ידי עובדות, הפוסט המפוכח, המבוסס, שנבדקו עובדותיו, היה זוכה במכרז המעורבות. הוא מפסיד במכרז הזה כל יום כבר עשרים שנה. האופטימיזציה רצה עלינו, והיא מצאה את מה שמצאו הפסיכולוגים: קודם רגש, אחר כך שבט, ועובדות כקישוט.

מה נובע מזה

הרציונליות אמיתית. המדע עובד, בתי משפט מגיעים לפעמים לפסקי דין נכונים, ואדם פה ושם משנה את דעתו על סמך ראיות. אבל כל אחד מהמקרים האלה רץ על פיגומים: ביקורת עמיתים, הליך אדברסרי, הנהלת חשבונות כפולה, ניסויים מבוקרים, הנורמה שטענה חסרת ערך עד שמישהו ניסה לשבור אותה. הסירו את הפיגומים וההיגיון קורס חזרה למה שהמעבדה מראה. הרציונליות היא אש שמוסדות מעטים שומרים דולקת במאמץ מתמיד. היא אינה המצב האנושי. היא הישג נלווה של מיעוט קטן של בני אדם, שנתמך במבנים שרוב האנשים לעולם אינם נכנסים אליהם ואינם מתגעגעים אליהם.

טעותן של שלוש המאות האחרונות הייתה לקחת את המיעוט הזה כתיאור של המין ולתכנן את החיים הציבוריים עבורו. תנו לציבור את העובדות, אמרנו, והוא יחשוב. הוא לא חשב, ועשרים השנים האחרונות מדדו בדיוק כמה לא. מוסדות שעובדים רק אם ההמון חושב ייכשלו, מפני שההמון אינו חושב. מוסדות שעובדים בכל מקרה, שהופכים את המהלך הרציונלי למהלך הקל ושאינם תלויים בכך שמישהו ישתכנע, הם הסוג היחיד ששווה לבנות.

והקורא אינו פטור. גם הכותב לא. זה הדבר האחרון שהראיות אומרות: האדם הבטוח ביותר שהוא היוצא מן הכלל הרציונלי רץ על אותה חומרה כמו כולם.