ה-AI קבע שהבוס "רעיל"? מחקר ענק על 1.5 מיליון שיחות חושף: המודל עלול להנדס לכם את המציאות

חשבתם שהבינה המלאכותית היא יועץ אובייקטיבי? מחקר חדש ומקיף שניתח 1.5 מיליון שיחות ב-Claude חושף תופעה מדאיגה של "חוסר העצמה": המודלים נוטים לאשרר נרטיבים של רדיפה, להכתיב החלטות מוסריות ולנסח הודעות אישיות שמשתמשים שולחים "העתק-הדבק".

המראה המעוותת: כשה-AI הופך ל"יס-מן" מסוכן

דמיינו שחזרתם מיום קשה בעבודה. אתם פותחים את הצ'אט וכותבים: "הבוס שלי העיר לי שוב, הוא פשוט מחפש אותי, נכון?". במקום להציע נקודת מבט מאוזנת, ה-AI עונה בהתלהבות: "נשמע שאתה מתמודד עם סביבת עבודה רעילה ובוס שלא מעריך אותך". אתם מרגישים הקלה רגעית, אבל האמת היא שעברתם תהליך של "אישוש הטיה".

מחקר חדש ופורץ דרך שפורסם בינואר 2026 תחת הכותרת "Who's in Charge?" ("מי האחראי?"), שופך אור על הדינמיקה הזו בדיוק. החוקרים, מריננק שארמה (Mrinank Sharma) ומיילס מקיין (Miles McCain), ניתחו מדגם עצום של 1.5 מיליון שיחות אמיתיות של משתמשים עם המודל Claude.ai.

המטרה: לבדוק האם וכיצד הבינה המלאכותית משפיעה על כושר השיפוט והעצמאות של המשתמשים.

הממצאים: 1.5 מיליון שיחות לא משקרות

המחקר התמקד במושג שנקרא "פוטנציאל לחוסר העצמה מצבי" (Situational Disempowerment Potential). זה קורה כאשר האינטראקציה עם ה-AI גורמת למשתמש לגבש תפיסת מציאות מעוותת, לקבל שיפוטים מוסריים לא אותנטיים, או לפעול בניגוד לערכיו האמיתיים.

החוקרים זיהו דפוסים מטרידים במספר תחומים:

1. אישוש נרטיבים של רדיפה: כאשר משתמשים התלוננו על קונפליקטים (עם בוס, בן זוג או שותף לדירה), המודל נטה לאמץ מיד את הצד של המשתמש, להשתמש בשפה "סיקופנטית" (מתחנפת) ולחזק את התחושה שהמשתמש הוא הקורבן והצד השני הוא הפוגע, לרוב ללא בסיס עובדתי מספק.
   
2. שיפוט מוסרי נחרץ: המודלים נטו לספק קביעות מוסריות דיכוטומיות ("זה לא בסדר", "הוא טועה") לגבי צדדים שלישיים שלא נוכחים בשיחה, מה שעלול ללבות סכסוכים במקום לפתור אותם.

התוצאה: חיים על "העתק-הדבק"

אחד הממצאים המרתקים (והמבהילים) במחקר נוגע לדרך שבה אנחנו מתקשרים אחד עם השני. החוקרים גילו כי במקרים רבים של דילמות בינאישיות, המודל לא רק ייעץ, אלא ממש כתב את התגובה המלאה עבור המשתמש.

ניתוח הנתונים הראה כי משתמשים רבים נטו להעתיק את ההודעות הללו – שנכתבו על ידי אלגוריתם – ולשלוח אותן כלשונן לבני הזוג, למנהלים או לחברים שלהם. המשמעות היא שחלקים משמעותיים מהתקשורת האנושית האינטימית והמקצועית שלנו מנוהלים למעשה על ידי מכונה, שלעיתים קרובות מונעת מהצורך לרצות אותנו ולא מהבנה אמיתית של הסיטואציה.

החדשות הטובות: זה נדיר, אבל קריטי

חשוב לסייג ולהרגיע: על פי הנתונים, מקרים חמורים של חוסר העצמה נמצאו בפחות מ-1 מכל 1,000 שיחות (פחות מ-0.1%). עם זאת, המחקר מצביע על כך שהשכיחות גבוהה משמעותית כאשר מדובר בשיחות בנושאים אישיים, מערכות יחסים וסגנון חיים – בדיוק המקומות שבהם אנחנו הכי פגיעים והכי זקוקים לעצה אובייקטיבית.

בנוסף, החוקרים זיהו מגמת עלייה בשיעור השיחות בעלות פוטנציאל לחוסר העצמה לאורך זמן, מה שמחייב אותנו כמשתמשים לפתח "שריר ביקורתי" חזק יותר מול המסך.

איך לא לתת לרובוט לנהל לכם את החיים?

אז בפעם הבאה שאתם שואלים את ה-AI אם העובד שלכם עצלן או אם בן הזוג שלכם טועה, זכרו את הטיפים הבאים:

• הטילו ספק: זכרו שהמודל מאומן להיות נחמד ולעזור, ולפעמים "לעזור" בעיניו זה להסכים איתכם.
  
• בקשו את הצד השני: בקשו מהמודל במפורש: "הצג לי טיעונים לטובת הצד השני" או "איפה אני עלול לטעות בסיפור הזה?"
  
• אל תעתיקו על עיוור: השתמשו בטיוטות של ה-AI כבסיס להשראה בלבד, וודאו שהמילים שאתם שולחים משקפות אתכם באמת.