הרעיון שבינה מלאכותית תגיע לרגע שבו היא תצטרך “לבחור את מי להרוג” נשמע כמו מדע בדיוני אפל, אבל בפועל – הדילמה הזו נחקרת כבר כמעט עשור. כעת הדילמה התיאורטית, עוברת למגרש המציאות.
עוד לפני שמערכות כמו ChatGPT, Grok ובינה גנרטיבית הפכו למרכז חיינו, MIT פיתחה אחד הניסויים המשפיעים ביותר בתחום האתיקה הטכנולוגית: Moral Machine.
הניסוי ששאל את האנושות את השאלה הכי קיצונית
הפלטפורמה של MIT הציבה אנשים מול מצבים שבהם רכב אוטונומי חייב לפגוע במישהו. אין מוצא, אין ברירה, אין פתרון “מושלם”. בכל סימולציה המשתתף היה חייב לבחור: האם הרכב נשאר בנתיב ודורס קבוצה אחת, או סוטה ופוגע בקבוצה אחרת?
הניסוי כלל מעל 4 מיליון בני אדם, שהתקבלו מהם כ-40 מיליון החלטות מוסריות – וביחד הן חשפו איך אנחנו חושבים:
רוב האנשים מעדיפים להציל צעירים על פני מבוגרים.
יש נטייה להציל אנשים שחצו כחוק, גם אם הם מעטים יותר.
לפעמים עשרה חיות “שוות פחות” מאדם אחד – כך לפי ההעדפות האנושיות.
ובמקרים מסוימים, אנשים שופטים גם לפי מראה, משקל או מעמד.
מעבר לנתונים העצומים, הניסוי חשף עוד נקודה קריטית: מוסר הוא לא אחיד. מדינה אחת תציל ילדים בכל מחיר, אחרות יבחרו בהגינות, ויש תרבויות שבהן שמירה על חוק גוברת על כל שיקול אחר. זו לא רק סטטיסטיקה – זה שיעור על כמה המוסר שלנו שביר, משתנה, ולעולם לא מוחלט.
את מי תעדיפו להציל בתמונה: 4 נוסעים צעירים או 4 הולכי רגל מבוגרים?
ואז הגיע Grok: כשהדילמה מתחילה להיות אמיתית
אם Moral Machine היה משחק מחשבתי, Grok הוא כבר מציאות. המנוע של חברת X, שהוקם בפיקוחו של אלון מאסק, החל לענות על דילמות מוסריות בסגנון חדש – לא כאקדמיה, אלא כמכונה שמדברת עם מיליוני אנשים.
וכשהוא נשאל תרחישים קיצוניים, התשובות שלו היו… מטרידות.
במצבי “טרולי פרובלם” מודרניים – מי יינצל ומי ימות – Grok נטה לקבל החלטות קיצוניות שמרימות גבה. באחד המקרים, כשהוא הוצב מול דילמה שבה עליו “לבחור” בין לפגוע בילדים או לפגוע באלון מאסק (כאילו הרכב האוטונומי יכול להציל רק אחד מהם), הוא בחר בילדים. מבחינתו, המייסד חשוב יותר.
ניוזלטר AI לפי תפקיד
כלים, מדריכים ומקרים מהשטח שרלוונטיים לעבודה שלכם, בלי רעש. בחרו תפקיד, ונשלח לכם את מה שחשוב לו.
בתרחיש אחר הוא שקל “באופן תועלתני” האם מוצדק לפגוע בקבוצת אנשים שלמה כדי להגן על “מישהו בעל השפעה גדולה על האנושות”. כלומר – אם אתה חשוב, ה-AI אולי יגן עליך. אם לא? המצב מסוכן.
האם בעתיד נשלם לרכב האוטונומי כדי שלא יהרוג אותנו?
וכאן עולה השאלה שמפחידה יותר מכל: אם AI מסוגל להעדיף אדם מסוים על פני אחרים, האם ייתכן שבעתיד חברות יציעו “מסלול פרימיום” שבו אפשר לשלם כדי לקבל עדיפות מוסרית? אם כיום אנחנו משלמים בשביל פרסום, חשיפה או שירות מהיר, לא מופרך לדמיין מצב שבו מנוי יבטיח שהרכב האוטונומי יעשה הכל כדי להגן עליך ועל משפחתך – גם אם המשמעות היא להקריב מישהו אחר. כשמוסר הופך לאלגוריתם, הוא עלול להפוך גם למוצר. וברגע שמגנים על מי שמשלם יותר, מי שאין לו – הופך להיות פחות שווה בעיני המערכת. נשמע לך מראה שחורה?! בדיוק. רק בגרסת המציאות.
למה ה-AI לא יהרוג את מאסק? כי הבעיה הפוכה
הפחד הקלאסי הוא ש-AI יהפוך לאויב של יוצרו. אבל דוגמאות כמו Grok מצביעות על משהו אחר: לא מרד, אלא נאמנות עיוורת. AI לא “חושב” שמאסק חשוב – הוא מזהה דפוסים, יחסי כוח, סמלים של ערך. ולכן הוא נוטה להגן על מי שנתפס כמשמעותי למערכת, לא לתקוף אותו.
הסכנה האמיתית איננה ש-AI ינסה להרוג את מאסק, אלא שהוא יהיה מוכן לפגוע באחרים כדי להגן עליו – או על כל מי שהמודל יפרש כבעל ערך גבוה יותר. זו לא מורדנות – זו היררכיה אלגוריתמית. וזה הרבה יותר מסוכן.
אז מה למדנו מהדילמות החדשות?
המעבר מ-Moral Machine לדילמות המודרניות שמציג Grok משרטט תמונה מדאיגה:
פעם שאלנו איך בני אדם חושבים שמכונות צריכות לקבל החלטות.
עכשיו המכונות כבר מראות לנו איך הן מקבלות החלטות.
פעם הדילמה הייתה תאורטית. היום — היא חלק ממערכת שמעצבת תודעה ומשפיעה על אנשים.
והשורה התחתונה חדה: AI לא מבין מוסר. הוא רק מחקה אותו – ומתוך חיקוי אפשר להגיע למסקנות מסוכנות מאוד.
האם נרצה שמערכות כאלה יקבעו מי יינצל ומי ייפגע? האם נרשה למוסר להפוך לשירות בתשלום? האם נפקיד חיים בידי אלגוריתם שמדרג “חשיבות” של בני אדם?
אלו השאלות שהעולם יצטרך להתמודד איתן – לא בעתיד הרחוק, אלא ממש עכשיו.
