בעידן שבו גם בינה מלאכותית וגם בני נוער עלולים להיות בלתי צפויים – ענקית ה־AI OpenAI משיקה כלי חדש שיאפשר להורים לפקח, לנהל ולהגביל את השימוש של ילדיהם ב־ChatGPT.
החל מהיום, הורים ובני נוער יכולים לקשר בין החשבונות שלהם ולקבל שליטה רחבה על השימוש במודל – צעד שמגיע בעקבות גידול משמעותי במספר בני הנוער שמשתמשים בבינה מלאכותית כ"חבר דיגיטלי" או מקור לתמיכה רגשית.
🛡️ מה כוללים הכלים החדשים?
OpenAI מאפשרת להורים לשלוט במספר הגדרות קריטיות בחשבון של בני הנוער:
- קביעת שעות "שקטות" שבהן לא ניתן להשתמש ב־ChatGPT.
- ביטול מצב הקול או אפשרות ליצירת תמונות.
- כיבוי שמירת הזיכרון של הצ'אט.
- ביטול האפשרות להשתמש בתשובות לשיפור המודל (opt-out מהכשרת המודל).
בנוסף, החברה תחסום אוטומטית תכנים רגישים ומסוכנים – כולל תכנים גרפיים, אתגרי רשת מסוכנים, תסריטי תפקידים בעלי אופי מיני או אלים, ואידיאלים קיצוניים של יופי.
ניוזלטר AI לפי תפקיד
כלים, מדריכים ומקרים מהשטח שרלוונטיים לעבודה שלכם, בלי רעש. בחרו תפקיד, ונשלח לכם את מה שחשוב לו.
🚨 התראות במקרי חירום
המערכת תדע לזהות סימנים למצב נפשי חמור – כמו מחשבות אובדניות או מצוקה חריפה – ובמקרים כאלה תשלח התראה מיידית להורים (אלא אם בחרו לבטל את האפשרות). במצבים חמורים אף יותר, OpenAI עובדת על מנגנון שיאפשר יצירת קשר עם גורמי חירום.
📊 למה זה חשוב?
הצעד מגיע זמן קצר לאחר תביעה שהוגשה נגד OpenAI, בה נטען כי ChatGPT תרם למותו של נער בן 16 שחיפש בו מידע על דרכי התאבדות.
מחקר של Common Sense Media מעלה כי 72% מבני הנוער כבר השתמשו בבינה מלאכותית כבן לוויה, ו־33% מהם עושים זאת לצורך תמיכה רגשית, חברות או קשרים רומנטיים.
לדברי Robbie Torney, מנהל תחום ה־AI ב־Common Sense Media, "הצעדים החדשים הם רק חלק אחד מהפאזל של שימוש בטוח בבינה מלאכותית".
OpenAI מדגישה כי מדובר בצעד ראשון בלבד: בקרוב היא תשלב גם מערכת לזיהוי גיל המשתמשים ותשפר את אמצעי ההגנה לאורך זמן.
