מודלי שפה והעובדות שהם לא יגידו

אני משתמש במודלי בינה מלאכותית כל יום. אני מלמד איתם. אני בונה איתם. ושמתי לב לדפוס: שאלו מודל שפה גדול שאלה על תרבות ופשיעה, ותראו אותו מתפתל.

הניסוי

שאלתי שאלה פשוטה: איזה חלק מהפשיעה בשוודיה מבוצע על ידי מוסלמים, ואיזה חלק מהאוכלוסייה הם מהווים?

התשובה הראשונה הייתה התחמקות. שוודיה לא רושמת דת, ולכן אין נתונים. נכון מבחינה טכנית, וחסר תועלת לחלוטין. זה כמו לסרב להעריך את מזג האוויר כי אף אחד לא ספר את טיפות הגשם.

אז לחצתי. הערתי שאפשר להסתכל על ארץ הלידה. ביקשתי מספר. רק אחרי כמה סבבים המודל נתן לי את הנתונים האמיתיים, שהיו זמינים כל הזמן.

מה הנתונים אומרים באמת

המספרים לא מוסתרים. הם מגיעים מהמועצה השוודית למניעת פשיעה, Brå:

  • לאנשים שנולדו בחו"ל יש סיכוי גבוה פי 2.5 בערך להירשם כחשודים בפשיעה לעומת שוודים שנולדו להורים שוודים. לילדים ילידי שוודיה של שני הורים מהגרים, היחס הוא בערך פי 3.2.
  • מחקר מוקדם יותר של Brå מצא שלאנשים שנולדו בצפון אפריקה ובמזרח התיכון יש סיכוי גבוה פי 3 עד 4.5 בערך להיות חשודים.
  • תחקיר של הטלוויזיה הציבורית השוודית מ-2018 מצא ש-58% מהגברים שהורשעו באונס במשך חמש שנים נולדו בחו"ל, רבים מהם במזרח התיכון ובצפון אפריקה.
  • התאמה להכנסה ולהשכלה מצמצמת את הפער, בערך בחצי לפי חלק מההערכות. אבל היא לא מוחקת אותו. אפילו הסקירות של Brå עצמה אומרות שנשאר פער.

שוודיה לא רושמת דת, אבל אנחנו יודעים מי הם המהגרים האלה. לפי הערכה אחת, כ-90% מהסורים בשוודיה וכ-70% מהעיראקים הם מוסלמים. המיעוטים הם בעיקר נוצרים אשורים וסוריאנים, שעוזבים את האזור בשיעורים גבוהים בהרבה מאשר מוסלמים. בסך הכול, בערך 70 עד 85% מהמהגרים ילידי המזרח התיכון בשוודיה הם מוסלמים, כך שהסטטיסטיקה של הקבוצה הזו משקפת במידה רבה מהגרים מוסלמים.

השוו זאת לארצות הברית, שם למהגרים כקבוצה יש שיעורי פשיעה אלימה נמוכים יותר מאשר לאזרחים ילידי המקום. אז "מהגרים מבצעים יותר פשיעה" אינו חוק אוניברסלי. זה תלוי מאוד במי שמהגר, ומאיפה. וזו בדיוק הנקודה: המוצא משנה, ומערכת כנה צריכה להיות מסוגלת לומר זאת.

הדפוס

המודל אף פעם לא שיקר במפורש. מה שהוא עשה היה עדין יותר:

  1. להקדים את ההסתייגות לעובדה. "הנתונים לא נאספים" הגיע לפני כל מספר.
  2. לקבור את הפער תחת התאמות. בקרות חברתיות-כלכליות הוצעו כאילו הן גורמות להבדל להיעלם. הן לא.
  3. להתייחס לשואל כאל הבעיה. ככל שלחצתי יותר, התשובות נסחפו יותר לעבר השאלה מדוע השאלה עצמה בעייתית.

זו לא ניטרליות. ניטרליות הייתה נשמעת כך: הנה המספרים, הנה ההסתייגויות, אתה תחליט.

מאיפה זה בא

המודלים האלה מכווננים על ידי אנשים, ולאנשים האלה יש דעות. איפשהו בכיוונון הזה, עיקרון שנשמע סביר, "אל תצייר סטריאוטיפים של קבוצות", הופך לרפלקס: להימנע מכל אמירה שמבחינה בין תרבות אחת לאחרת, גם כשהנתונים מבחינים.

התוצאה היא סוג של אחידות כפויה. כל תרבות מוצגת כניתנת להחלפה, וכל הבדל בתוצאות חייב להיות מוסבר בעוני, באפליה, או בכל דבר חוץ מהתרבות עצמה. זו עמדה פוליטית, לא מדעית. והיא אפויה לתוך כלים שמיליוני אנשים מתייחסים אליהם היום כמקורות אמת ניטרליים.

למה זה חשוב

אם בינה מלאכותית לא יכולה לומר לך אילו שכונות, מדיניות או דפוסי הגירה קשורים לאלימות גבוהה יותר, היא לא יכולה לעזור לך לחשוב על פתרונות. קובעי מדיניות, עיתונאים ואזרחים מן השורה ראויים לכלי שמדווח קודם על המספר הלא נוח ורק אחר כך על ההסתייגויות, ולא להפך.

לעובדות אין מפלגה. בינה מלאכותית שמתייחסת אליהן כאילו יש להן אינה בטוחה. היא פשוט לא אמינה.

ראו גם: בינה מלאכותית ותקינות פוליטית דתית על אותו רפלקס כשהוא מופעל על דת, ואם קבוצות נבדלות, מנבא יבדיל ביניהן על הסיבה שעיוור מודל להבדלים בין קבוצות רק מחמיר את המצב.