חברת OpenAI חשפה השבוע נתונים מטרידים המעידים על היקף השיחות שמתקיימות עם ChatGPT סביב מצוקה נפשית ומחשבות אובדניות.
לפי החברה, כ-0.15% ממשתמשי הצ'אט הפעילים בכל שבוע מנהלים שיחות הכוללות “סימנים מפורשים לתכנון או כוונה אובדנית” – מה שמתרגם ליותר ממיליון בני אדם מדי שבוע, מתוך למעלה מ-800 מיליון משתמשים פעילים.
בנוסף, OpenAI ציינה כי אחוז דומה של משתמשים מראה “רמות גבוהות של התקשרות רגשית לבוט”, וכי מאות אלפים נוספים מציגים סימנים לפסיכוזה או למאניה במהלך השיחות.
החברה מגדירה את המקרים הללו כ“נדירים מאוד”, אך מודה שמדובר באתגר רחב־היקף מבחינתה.
המידע פורסם כחלק ממאמץ רחב של OpenAI לשפר את תגובות ChatGPT למשתמשים במצוקה נפשית. לפי החברה, בגרסה החדשה של מודל GPT-5 נעשתה עבודה עם מעל 170 מומחים בתחום בריאות הנפש, שציינו כי המערכת מגיבה באופן “ראוי ועקבי יותר” מבעבר.
בבדיקות הפנימיות, OpenAI דיווחה כי GPT-5 משיב בתגובות הנחשבות “רצויות” במצבים רגישים בשיעור של 91%, לעומת 77% בגרסה הקודמת – שיפור של כ-65%. החברה גם מציינת כי המנגנוני הבקרה שלה שומרים על אפקטיביות גבוהה יותר גם בשיחות ארוכות, שבהן בעבר ההגנות נחלשו.
לצד זאת, החברה מוסיפה כעת מבחני בטיחות חדשים שיבדקו רמות תלות רגשית ושיחות על מצוקה נפשית שאינה אובדנית.
במקביל, OpenAI מפתחת מערכת חיזוי גיל שתאתר ילדים המשתמשים בצ’אט ותפעיל עליהם מנגנוני הגנה מחמירים יותר.
