איך הייתם מרגישים אם האלגוריתם היה קובע שלא תקבלו קצבה – רק בגלל דת, גזע או מין? ואם זה קורה, מי אמור לשלם את המחיר – המכונה או המדינה שמפעילה אותה?
אפליה אלגוריתמית – לא עתיד מסוכן, אלא מציאות עכשווית
הבינה המלאכותית הפכה לחלק בלתי נפרד מתהליכי קבלת ההחלטות במוסדות ציבוריים ברחבי העולם – החל ממערכות רווחה ומיסוי ועד לאכיפת חוק. אך לצד היעילות והדיוק שהיא מביאה, הולכת ומתרחבת גם תופעה מדאיגה: אפליה שמתרחשת לא על ידי בני אדם – אלא על ידי אלגוריתמים.
דוגמאות לכך נחשפו לא רק בהולנד, אלא גם במדינות נוספות. כך למשל:
- ברוטרדם הופעל אלגוריתם לזיהוי הונאות קצבאות שסימן באופן לא פרופורציונלי מהגרים, בין היתר בשל רמת השפה שלהם – פרמטר שלא שיקף כוונת הונאה אמיתית.
- במקרה אחר, מערכת בינה מלאכותית של רשות המסים ההולנדית סימנה בטעות למעלה מ־30,000 משפחות כעברייניות קצבאות. רבות מהן איבדו את מקור פרנסתן, חלקן פשטו רגל וילדים אף הוצאו מבתיהם.
מקרים אלה ממחישים שהאפליה האלגוריתמית היא לא תרחיש עתידי אלא אתגר עכשווי בעל השלכות כבדות.
איך אזרחים מייחסים אחריות לאפליה של מכונה?
כדי להבין כיצד הציבור מגיב לאפליה אלגוריתמית לעומת אפליה אנושית, נערך מחקר רחב־היקף בהשתתפות 2,483 אזרחים.
המחקר – שמובל על ידי ד"ר סער אלון-ברקת מאוניברסיטת חיפה – בחן כיצד אזרחים מייחסים אחריות למוסדות ציבוריים במצבים של אפליה, כאשר ההחלטות מתקבלות בידי בני אדם לעומת מקרים שבהם הן מתקבלות על ידי אלגוריתמים.
המשתתפים נחשפו לתרחישים היפותטיים של אפליה בתחום הרווחה ובתחום האכיפה, תוך שינוי מקור ההחלטה – אנושי או טכנולוגי – וכן זהות מפתח המערכת (פנימי בארגון או חיצוני).
הממצאים: הציבור לא סולח למכונה – בניגוד לחשש התיאורטי
הספרות המחקרית בפסיכולוגיה הציעה בשנים האחרונות תיאוריה מטרידה: בני אדם נוטים לגלות יותר סלחנות כלפי אפליה שמקורה במכונה לעומת אפליה אנושית. כך למשל מצביע מחקר של Bigman ועמיתיו (2023) על כך ש"אפליה אלגוריתמית מעוררת פחות זעם מוסרי מאשר אפליה אנושית" (Journal of Experimental Psychology: General).
הממצאים החדשים, לעומת זאת, מציעים תמונה שונה ומרגיעה: האזרחים אינם מייחסים פחות אחריות למוסדות ציבוריים כאשר ההחלטות מתקבלות על ידי אלגוריתם. במקרים מסוימים אף נרשמה דרישה גבוהה יותר למתן דין וחשבון כאשר מקור ההחלטה היה טכנולוגי.
בנוסף, רמת האחריות שייחסו המשתתפים הייתה גבוהה במיוחד בתחום הרווחה – כ־66% – לעומת כ־49% בלבד בתחום האכיפה, מה שמעיד על רמות שונות של אמון בין המערכות הציבוריות.
