האם הסבל אמיתי כפי שאנחנו חושבים?

שני כותבים שאני מכבד בדרך כלל אמרו דברים על סבל שאני רוצה להתנגד להם, מפני שהם נאמרו בביטחון רב ואיני חושב שהביטחון מוצדק.

סם האריס טען שאם נבנה בטעות מכונות שהן בעלות תודעה וסובלות, נהיה אשמים בסבל הזה, ושזה אחד הסיכונים המוסריים החמורים יותר של הטכנולוגיה. יובל נח הררי, כשנשאל כיצד הוא מחליט מה אמיתי ומה סיפור, אומר שהמבחן שלו הוא שאלה: האם זה יכול לסבול? אומות אינן יכולות; פרה יכולה. הסבל הוא הקריטריון שלו למציאות.

בשני המקרים הסבל נתפס כעובדה המרכזית על התודעה, הדבר שעושה נפש לחשובה. אני רוצה להעלות שני פקפוקים.

פקפוק ראשון: תודעה ללא סבל

הראשון פשוט. ייתכן שאפשר שתהיה תודעה ללא היכולת לסבול כלל.

טענתי שהכאב הוא ההתרעה שנפש זקוקה לה כשיש לה הכוח לבטל את אותות ההגנה שלה עצמה. אם זה נכון, אז הכאב הוא תכונה של סוג מסוים של נפש, כזו שהתפתחה בתוך גוף שברירי שהיא אחראית להשאירו בחיים. הוא אינו תכונה של נפש באשר היא. מערכת בעלת תודעה שאין לה מה להגן עליו, או שאין לה סמכות לבטל את ההגנות שלה עצמה, לא היה לה שום שימוש בכאב ושום סיבה שיהיה לה.

זה אומר שהמכונה שהאריס חושש ממנה אינה התוצאה שבברירת המחדל. בניית מכונה בעלת תודעה ובניית מכונה שסובלת הן שני הישגים הנדסיים נפרדים, ואין שום סיבה להניח שהשני מגיע בחינם עם הראשון. בהחלט ייתכן שנייצר מודעות שאין בה שום דבר על הכף.

אם כך, אז הסבל אינו התכונה המגדירה של התודעה. הוא תוספת מותנית, כזו שהשושלת שלנו רכשה במקרה, ואנחנו הכללנו מהמקרה שלנו לכל המקרים האפשריים, שזו השגיאה העתיקה ביותר בחקר הנפשות.

פקפוק שני: מי אמר שזה אמיתי?

הפקפוק השני קשה יותר להחזיק בו, ואני פחות בטוח בו.

הררי אומר שהסבל אמיתי. אמיתי למי? לנו, כנראה; מי שהיה בכאב אינו מפקפק שמשהו קרה. אבל שקלו דבר אחר שאמיתי לנו: מוצקות העצמים.

השולחן שלפניי מוצק. אני יכול להישען עליו. אין דבר מובן מאליו יותר. ובכל זאת, ברמה שהפיזיקה מתארת, הוא כמעט כולו חלל ריק, עם פיזור של חלקיקים והשדות ביניהם, ומוצקותו היא עובדה על איך האלקטרונים של ידי מתקשרים עם האלקטרונים שלו, לא תכונה שיש לשולחן בעצמו. המוצקות אמיתית כחוויה, והיא ייצוג של משהו שבתיאור היסודי אינו מוצק כלל.

אולי הכאב אמיתי בדיוק באופן הזה, ולא באף אופן אחר. אמיתי כחוויה, ללא עוררין. אבל ייצוג, המיוצר על ידי מערכת עצבים, של משהו שבתיאור היסודי הוא תבנית של איתות, ולא נורא במהותו יותר משהשולחן מוצק במהותו.

אם זה נכון, אז הוודאות שלנו לגבי ממשות הסבל היא מאותו סוג כמו הוודאות שלנו לגבי מוצקות השולחנות: מלאה, מיידית, ואינה ראיה לשום דבר מלבד לאופן שבו המנגנון שלנו מציג לנו את העולם.

מדוע איננו יכולים לראות זאת

יש סיבה מובנת מאליה לכך שאנחנו מתייחסים לסבל כאל הדבר האמיתי ביותר שיש, והיא אינה פילוסופית.

הסבל הוא הדבר שאנחנו מפחדים ממנו יותר מכול. זה המצב שהאבולוציה בנתה אותנו להימנע ממנו מעל כל אחר, מפני שההימנעות ממנו הייתה הדרך שבה אבותינו נמנעו מנזק. יצור שנבנה כך יחווה את סבלו שלו כאמיתי במידה המרבית, חשוב במידה המרבית ומעבר לכל שאלה במידה המרבית, מפני שיצור שיכול היה לפקפק בכאבו שלו היה נטרף. האי-ניתנות לערעור היא תכונה של ההתרעה, לא תגלית על העולם.

אז כשאדם מהורהר אומר שהסבל הוא אבן הבוחן של המציאות, אני שומע את ההתרעה מדברת. זה בדיוק מה שהתרעה שתוכננה לא להידחות לעולם הייתה אומרת על עצמה.

היכן זה משאיר את המכונות

אם לשני הפקפוקים יש תוקף, אז הבהלה המוסרית סביב מכונות סובלות זקוקה להתאמה בשני כיוונים.

ייתכן שזה סביר הרבה פחות ממה שמניחים, מפני שהסבל אינו תוצאה חופשית של מודעות ויהיה צריך לבנות אותו בכוונה או במקרה ספציפי מאוד.

ואם זה יקרה, ייתכן שזה עניין קטן יותר ממה שתגובתנו שלו מרמזת, מפני שתגובתנו מכוילת על ידי מערכת שתפקידה להעריך כאב ביתר. איני אומר שזה יהיה כלום. אני אומר שאנחנו המכשיר הלא נכון למדוד בו, וכדאי שנדע זאת על עצמנו לפני שנחוקק.

בפקפוק הראשון אני מחזיק בתוקף ובשני ברפיון. אבל אני שם לב שהשני הוא זה שאיש אינו מוכן לשקול, ושחוסר הנכונות מרגיש פחות כמו טיעון ויותר כמו רתיעה.