הרעיון שבינה מלאכותית תגיע לרגע שבו היא תצטרך “לבחור את מי להרוג” נשמע כמו מדע בדיוני אפל, אבל בפועל – הדילמה הזו נחקרת כבר כמעט עשור. כעת הדילמה התיאורטית, עוברת למגרש המציאות.
עוד לפני שמערכות כמו ChatGPT, Grok ובינה גנרטיבית הפכו למרכז חיינו, MIT פיתחה אחד הניסויים המשפיעים ביותר בתחום האתיקה הטכנולוגית: Moral Machine.
הניסוי ששאל את האנושות את השאלה הכי קיצונית
הפלטפורמה של MIT הציבה אנשים מול מצבים שבהם רכב אוטונומי חייב לפגוע במישהו. אין מוצא, אין ברירה, אין פתרון “מושלם”.
בכל סימולציה המשתתף היה חייב לבחור: האם הרכב נשאר בנתיב ודורס קבוצה אחת, או סוטה ופוגע בקבוצה אחרת?
רוצים להתנסות בדילמות? המשחק כאן
הניסוי כלל מעל 4 מיליון בני אדם, שהתקבלו מהם כ-40 מיליון החלטות מוסריות – וביחד הן חשפו איך אנחנו חושבים:
- רוב האנשים מעדיפים להציל צעירים על פני מבוגרים.
- יש נטייה להציל אנשים שחצו כחוק, גם אם הם מעטים יותר.
- לפעמים עשרה חיות “שוות פחות” מאדם אחד – כך לפי ההעדפות האנושיות.
- ובמקרים מסוימים, אנשים שופטים גם לפי מראה, משקל או מעמד.
מעבר לנתונים העצומים, הניסוי חשף עוד נקודה קריטית: מוסר הוא לא אחיד. מדינה אחת תציל ילדים בכל מחיר, אחרות יבחרו בהגינות, ויש תרבויות שבהן שמירה על חוק גוברת על כל שיקול אחר.
זו לא רק סטטיסטיקה – זה שיעור על כמה המוסר שלנו שביר, משתנה, ולעולם לא מוחלט.
את מי תעדיפו להציל בתמונה: 4 נוסעים צעירים או 4 הולכי רגל מבוגרים?
ואז הגיע Grok: כשהדילמה מתחילה להיות אמיתית
אם Moral Machine היה משחק מחשבתי, Grok הוא כבר מציאות.
המנוע של חברת X, שהוקם בפיקוחו של אלון מאסק, החל לענות על דילמות מוסריות בסגנון חדש – לא כאקדמיה, אלא כמכונה שמדברת עם מיליוני אנשים.
וכשהוא נשאל תרחישים קיצוניים, התשובות שלו היו… מטרידות.
במצבי “טרולי פרובלם” מודרניים – מי יינצל ומי ימות – Grok נטה לקבל החלטות קיצוניות שמרימות גבה. באחד המקרים, כשהוא הוצב מול דילמה שבה עליו “לבחור” בין לפגוע בילדים או לפגוע באלון מאסק (כאילו הרכב האוטונומי יכול להציל רק אחד מהם), הוא בחר בילדים. מבחינתו, המייסד חשוב יותר.
