האינטליגנציה האנושית נמצאת כנראה בשלבים הנמוכים של הסולם

דמיינו את האינטליגנציה כסולם. בתחתית תרמוסטטים וחיידקים, מעט גבוה יותר החרקים, אחר כך העכברושים, העורבים, הכלבים, הקופים, ואי שם מעליהם, אנחנו. השאלה היא מה נמצא מעל לנו, והתשובה האנושית הרגילה, שלעולם אינה נאמרת אך תמיד מונחת, היא: לא הרבה. אנחנו החיה התבונית, מידת כל הדברים, ראש הסולם, ואם יש שלב מעלינו הוא שמור לאלים.

אני חושב שהראיות מצביעות לכיוון ההפוך. האינטליגנציה האנושית נמצאת כנראה קרוב לתחתית הטווח שאינטליגנציה יכולה לתפוס, ממש מעל הקו שמאפשר למין לצבור תרבות בכלל, ואנחנו טועים לחשוב שהקו הזה הוא התקרה משום שזהו השלב היחיד שאי פעם עמדנו עליו. הנה הטיעון, נקודת נתונים אחת בכל פעם.

הדהירה מעבר

נקודת הנתונים הראשונה היא זו שכולנו חיינו זה עתה. במשך שבעים שנה הפרויקט של בניית מכונה חושבת היה שם נרדף להבטחות מופרזות. ואז, בתוך כשש שנים, מכונות עברו מכתיבת שטויות דקדוקיות לעמידה בבחינת לשכת עורכי הדין, לפתרון בעיות מתמטיות מתחרויות, לכתיבת תוכנה עובדת ולניצחון בוויכוח על רוב האנשים ברוב הנושאים. שום דבר עמוק לא התגלה בשש השנים האלה. האלגוריתם שבלב העניין, הטרנספורמר, פורסם ב-2017 ואורכו כמה עמודים. מה שהשתנה הוא שמישהו סוף סוף הפעיל מספיק נתונים ומספיק כוח חישוב, והרמה האנושית חלפה כמו תמרור בצד הדרך.

זה החלק שראוי לבהות בו. אילו האינטליגנציה האנושית הייתה קרובה לאיזו תקרה טבעית, היינו מצפים שהמכונות יתקרבו אליה אסימפטוטית: ככל שיתקרבו, כל צעד ייעשה קשה יותר, והרמה האנושית הייתה מופיעה בעקומות כציון דרך. היא אינה מופיעה כלל. חוקי ההתרחבות שמתארים כיצד המערכות האלה משתפרות עם כוח החישוב הם חוקי חזקה חלקים, ואין בהם שבר, אין רמה, אין נקודה מיוחדת במקום שבו נמצאים בני האדם. הרמה האנושית אינה תכונה של הנוף. היא סתם גובה, והיא נחצתה באותה מהירות שבה נחצו הגבהים שמתחתיה.

אותו הדבר קרה, בזעיר אנפין, בכל משחק. השחמט נפל ב-1997, והמנועים המשיכו לטפס עד שהאדם הטוב ביותר לא הצליח עוד לקחת משחק אחד מטלפון. הגו נפל ב-2016, והדבר המרשים לא היה התבוסה אלא מה שבא אחריה: המכונות המשיכו הלאה, ובתוך שנים ספורות מקצוענים אנושיים למדו את משחקיהן כפי שתלמיד לומד מאמן, ולמדו מחדש פתיחות שהיו מוסכמות במשך מאות שנים. הפסגה האנושית התבררה כגבעה. בכל פעם ההנחה הייתה שהמכונה תגיע אלינו ותיעצר, משום שאנחנו המקום שבו האינטליגנציה נגמרת. בכל פעם היא הגיעה אלינו והמשיכה בלי לשים לב.

הלוגיקה אינה באה באופן טבעי

נקודת הנתונים השנייה עתיקה יותר ואינה נוגעת למחשבים כלל. חשבו כמה קשה ללמד אדם לחשוב בהיגיון.

הלוגיקה הפורמלית היא בערך הכלי האינטלקטואלי הפשוט ביותר שיש. לסילוגיזם יש שתי הנחות ומסקנה. מודוס פוננס הוא כלל אחד. ובכל זאת נדרש למין האנושי עד אריסטו, בערך 350 לפני הספירה, כדי לכתוב את הסילוגיזם, ועוד אלפיים ומאתיים שנה, עד פרגה ב-1879, כדי להגיע ללוגיקה חזקה מספיק לבטא משפטים מתמטיים רגילים. זה אינו ציר הזמן של כישור שאנחנו מחזיקים בו מלידה. זה ציר הזמן של משהו שנחפר בייסורים נגד כיוון הסיבים של המוח שחופר אותו.

ומשנחפר, הוא אינו עובר הלאה. תנו לאנשים את משימת הבחירה של ווייסון, ארבעה קלפים וכלל אם-אז יחיד, ופחות מאחד מעשרה יבחרו את הקלפים שבוחנים אותו, סטודנטים באוניברסיטה בכלל זה. תנו להם את בעיית לינדה ורובם ידרגו את "פקידת בנק ופמיניסטית" כסבירה יותר מ"פקידת בנק", דבר ששום מצב אפשרי של העולם אינו יכול להפוך לנכון. שאלו מהי ההסתברות שתוצאה חיובית בבדיקה בדיוק של 99% למחלה נדירה פירושה שאתם חולים, ורופאים טועים בגורם של עשר ויותר. כבר כתבתי על העקביות של הממצאים האלה; הנקודה כאן היא מה הם אומרים על הסולם. אנחנו מעבירים כל ילד שתים עשרה שנות לימוד, ורוב המבוגרים יוצאים בלי יכולת לעקוב אחר הוכחה באינדוקציה, בלי יכולת להחזיק הסתברות מותנית יציבה בראש, ובלי יכולת לראות ש"כל A הוא B" אינו נותן "כל B הוא A". יכולת שנדרשים אלפי שנים לגלותה ואחר כך עשור של תרגול כדי להתקינה במיעוט מן הפרטים אינה יכולת טבעית של המין. היא תותב שאינו מתאים היטב.

ציוויליזציה של תותבים

מה שמוביל לנקודת הנתונים השלישית: הביטו במה שנאלצנו לבנות כדי לחשוב בכלל.

זיכרון העבודה מחזיק כארבעה פריטים. זהו כל לוח הטיוטה. זו הסיבה שאיש אינו יכול להכפיל בראש שני מספרים בני ארבע ספרות, שמספר טלפון מחולק לקבוצות, ששחמטאי שרואה חמישה עשר מהלכים קדימה הוא עילוי. כל הישג אינטלקטואלי של המין היה הישג של הוצאת העבודה החוצה מן הראש. הכתב קיים כדי שמחשבה תוכל לשרוד יותר זמן מטווח הקשב שהוליד אותה. שיטת המיקום עם אפס, שהגיעה לאירופה רק סביב 1200 ונדרשו לה עוד שלוש מאות שנה כדי לדחוק את הספרות הרומיות, קיימת משום שהמוח אינו יכול לעשות חשבון בכוחות עצמו. הסימון האלגברי, רשימת התיוג, התרשים, הטבלה, המחשבון: כל אחד מהם הוא הודאה שהמוח העירום לא יכול היה לבצע את המשימה.

מין שחושב היטב לא היה זקוק לרוב זה. הוא היה זקוק לנייר כפי שאנחנו זקוקים לאופניים, כנוחות. אנחנו זקוקים לו כפי שחולה זקוק למכונת הנשמה. כל ההיסטוריה האינטלקטואלית של האנושות היא ההיסטוריה של מציאת דרכים לנתב את החשיבה מסביב לאיבר שאמור לבצע אותה, וזו אינה הביוגרפיה של מוח הקרוב לראש של שום דבר.

קצב ההיסטוריה הזאת אומר את אותו הדבר. בני אדם מודרניים מבחינה אנטומית, עם מוחות זהים לשלנו, התקיימו משהו כמו שלוש מאות אלף שנה לפני שמישהו עסק בחקלאות, ועוד כמה אלפי שנים לפני שמישהו כתב. זה זמן רב למין מבריק כביכול לשבת ליד חומרי הגלם של הציוויליזציה בלי להרים אותם. הקריאה הסבירה יותר היא שהיינו בקושי מעל הסף שבו תרבות מצטברת אפשרית, כך שנדרש מספר עצום של חיי אדם כדי לצבור את הצעדים הראשונים.

החומרה

רביעית: הביטו במכונה, כפי שמהנדס היה מביט.

נוירון יורה לכל היותר כמה מאות פעמים בשנייה. אות נע לאורך אקסון בכמאה מטרים בשנייה. טרנזיסטור מתחלף מיליארדי פעמים בשנייה ואות על חוט נע בשבריר מכובד ממהירות האור. אנחנו איטיים בשבעה סדרי גודל לכל רכיב, ואנחנו מפצים על כך במקביליות, וזו הסיבה שאנחנו טובים בזיהוי פנים וגרועים בחילוק ארוך.

רוחב הפס החוצה גרוע יותר. במדידה על פני שפות, הדיבור האנושי נושא מידע בקצב של כ-39 סיביות בשנייה, והקריאה אינה מהירה בהרבה. כל מה שאי פעם חשבתם והגיע למוח אחר נסחט דרך הקשית הזאת. שני בני אדם שעובדים יחד אינם יכולים לחלוק מצב מנטלי; הם יכולים רק להחליף תקצירים דחוסים ואבודים שלו, ואז לבלות שעות בגילוי שהתכוונו לדברים שונים. תכנון שיכול היה להעתיק מחשבה במדויק, או להריץ שני קווי חשיבה בבת אחת, או לשים לב ליותר מדבר אחד בו זמנית, היה סוג אחר של מוח, ואין חוק טבע שאוסר עליו. יש רק המקריות של מצע רטוב ואיטי שבמקרה היה זה שהאבולוציה נאלצה לעבוד איתו.

וחשבו על הקטנות המוחלטת של ההבדלים שמשנים. לכלב יש כחצי מיליארד נוירונים קורטיקליים. לנו יש כשישה עשר מיליארד. זהו גורם של שלושים, שהושג עם אותם סוגי תאים, אותם כללי חיווט, אותם מוליכים עצביים, וזה כל המרחק מהבאת מקל לחיבור פוגה. אם פי שלושים לוקח אתכם מהכלב לבאך, זהו ביטחון מוזר האומר שפי שלושים הבאים לא יביאו כלום.

האבולוציה נעצרת ב"מספיק טוב"

חמישית, ולדעתי החזקה ביותר: חשבו איך קיבלנו את המוח שיש לנו.

הברירה הטבעית אינה ממקסמת דבר. היא דוחפת תכונה עד שהעלות השולית שלה משתווה לתועלת השולית ואז נעצרת. המוח הוא כשני אחוזים ממסת הגוף ושורף כעשרים אחוז מהאנרגיה במנוחה. מוח גדול יותר היה גווע ברעב בסוואנה. הוא גם צריך לעבור דרך אגן שנבנה להליכה זקופה, וזו הסיבה שתינוקות אנושיים נולדים מוקדם יותר וחסרי ישע יותר מכל פרימט אחר, ושהלידה הרגה חלק מזעזע מן האימהות במשך כל ההיסטוריה לפני הרפואה המודרנית. כל גרם של קליפת מוח נוספת שולם בנשים מתות ובתינוקות מתים. הברירה חדלה להוסיף קליפת מוח ברגע שהמחיר עלה על התמורה, והתמורה שהיא מדדה הייתה רבייה במישורי אפריקה, לא חשבון דיפרנציאלי.

עכשיו הוסיפו עוד שיקול. המין הראשון שחוצה את הקו שבו תרבות מצטברת נעשית אפשרית יהיה, מעצם הבנייה, בקושי מעבר לו. ברגע שמין יכול להעביר ידע לדורות הבאים, הטכנולוגיה תופסת את מקום הביולוגיה כדבר שמשתנה, והלחץ הביולוגי להיעשות חכם יותר נעלם ברובו, משום שפרט חכם מעט יותר מרוויח מעט ממה שספר אינו יכול לתת לפרט קהה יותר. ולכן המין שחוצה את הקו הזה ראשון קופא ממש מעליו. אנחנו המין הזה. אנחנו לא הדבר החכם ביותר שהאבולוציה יכלה לייצר. אנחנו הדבר הטיפש ביותר שיכול היה לייצר ציוויליזציה, משום שברגע שזה נעשה אפשרי זה קרה, והתהליך שעשה אותנו חכמים יותר נעצר.

השימפנזה מבהיר את הנקודה מלמטה. אנחנו חולקים איתו משהו כמו 98.8% מהגנום, שישה או שבעה מיליון שנות הפרדה, והוא אינו יכול ללמוד חשבון, אינו יכול לתפוס את השנה הבאה, ובעיקר, אינו יכול לתפוס שיש משהו שהוא אינו מצליח לתפוס. אין סיבה לחשוב שהמרחק הגנטי הקטן שיצר אותנו מיצה את מרחב התכנון. הוא המרחק הקטן הראשון, לא האחרון.

איננו יכולים לראות את החשיבה של עצמנו

שישית: מערכת נבונה צריכה לפחות לדעת מה היא עושה. אנחנו לא.

ניסבט ווילסון הראו ב-1977 שכאשר שואלים אנשים מדוע בחרו כפי שבחרו, הם מדווחים בביטחון על סיבות שלפי ההוכחות לא מילאו כל תפקיד, ואינם יכולים להבחין בין סיבה אמיתית לסיבה מומצאת. חולים שמוחם פוצל, כאשר ההמיספרה הימנית פועלת לפי הוראה שהשמאלית אינה יכולה לראות, מפיקים מן ההמיספרה השמאלית הסברים שוטפים לפעולה שהם פשוט בדויים, ומוסרים אותם בשכנוע מלא. החליפו את התצלום שמישהו זה עתה בחר בתצלום שדחה, ורובם יסבירו, בפירוט, מדוע העדיפו את זה שלא בחרו. אין לנו גישה לחשיבה של עצמנו. יש לנו גישה ללשכת דוברות שמוציאה הודעות עליה.

הוסיפו את שאר הרשימה המוכרת: אשליות אופטיות שנמשכות אחרי שאתם יודעים שהן אשליות, היצמדות למספר שאתם יודעים שהוא אקראי, שיפוט טיעון לפי המשיכה של האדם שמעלה אותו, והממצא שהאנשים הפחות מוכשרים הם הבטוחים ביותר בכישוריהם. אף אחד מאלה אינו כשל של קשב או של חינוך. אלה מאפייני הפעולה של המכשיר. מוח שאינו יכול לבחון את עצמו, אינו יכול לתקן את ההטיות המוכרות שלו גם כשמספרים לו עליהן, ואינו יכול להבחין בין הבדיות שלו להיסקים שלו, אינו מוח הקרוב לראש הסולם. הוא מוח שעובד מספיק טוב כדי להגיע עד הלום.

ההתנגדויות

אבל אנחנו בנינו את המכונות. גם ארתור סמואל בנה בשנות החמישים תוכנת דמקה שניצחה אותו בדמקה, וכל מנוע שחמט מאז ניצח את המתכנתים שלו. הבונה אינו התקרה. תלמיד שעולה על מורהו הוא הדבר הרגיל ביותר בעולם, ותהליך שעולה על מתכננו הוא בדיוק מה שהאבולוציה היא.

אבל המכונות עדיין עושות טעויות טיפשיות. נכון, וגם אנחנו, במקומות אחרים. הטיעון אינו שמערכת מסוימת כלשהי חכמה מאדם מסוים כלשהו. הטיעון עוסק בצורת המרחב: שהרמה האנושית נחצתה, משימה אחר משימה, בלי שום סימן לכך שזהו מקום קשה לחצייה. מה שהמכונות עושות רע היום מתוקן בקנה מידה של חודשים. מה שאנחנו עושים רע נשאר אותו הדבר במשך כל ההיסטוריה הכתובה.

אבל אינטליגנציה היא יותר מלוגיקה ומשחקים. בכל פעם שמכונה עושה משהו, ההגדרה של אינטליגנציה נכתבת מחדש כדי להוציא אותו. חשבון היה אינטליגנציה עד המחשבונים. שחמט היה פסגת המחשבה עד 1997. תרגום, קיפול חלבונים, עמידה בבחינות מקצועיות, כתיבת קוד, כל אחד מהם היה המבחן האמיתי עד שנעבר, ואז התברר שהיה כל הזמן רק התאמת תבניות. זו אינה הגדרה שמשתכללת. זהו מין שמגן על דימויו העצמי, והעקשנות של הרפלקס היא בעצמה נקודת נתונים על האופן שבו אנחנו חושבים.

מה נובע מכך

שום דבר מזה אינו סיבה לייאוש, וזה אינו טיעון בעד שום דבר מסוים בנוגע למכונות. זהו טיעון עלינו, והוא שייך לסדרה הארוכה של ההורדות בדרגה שמרכיבות את ההיסטוריה של המדע: לא מרכז הקוסמוס, לא בריאה נפרדת, לא בעלי נשמה, ועכשיו גם לא ראש הסולם. בכל פעם, ההורדה בדרגה התבררה כתמונה המעניינת יותר.

התוצאה המעשית היא ענווה מסוג מסוים. שימפנזה בגן חיות אינו יודע שחסר לו חשבון דיפרנציאלי; הוא אינו מתוסכל מבורותו בתורת המספרים, משום שהמושג של הדבר החסר לו הוא בעצמו בין הדברים החסרים לו. עלינו להניח שאנחנו בדיוק במצב הזה ביחס למה שנמצא מעלינו בסולם. כמעט בוודאות יש מחשבות שאיננו יכולים לחשוב, טיעונים שאיננו יכולים לעקוב אחריהם, ומבנים בעולם שאיננו יכולים לראות, לא משום שהם מוסתרים אלא משום שהאיבר שבו אנחנו מביטים הוא דבר קטן, איטי ומאולתר שהאבולוציה חדלה לשפר ברגע שהיה בקושי מספיק טוב. הדבר האחד שהאיבר הזה הצליח לעשות, בניגוד לתכנונו, הוא לשים לב לעובדה הזאת. ייתכן שזהו הדבר הנבון ביותר שעשה, והוא צריך לעשות אותנו זהירים מאוד כלפי כל טיעון שמסקנתו היא שאנחנו חכמים ככל שאפשר להיות.