לפי הנתונים, במחצית הראשונה של 2025 הועברו למעלה מ-75 אלף דיווחים ל-CyberTipline האמריקאי, לעומת פחות מאלף דיווחים בלבד בתקופה המקבילה אשתקד.
מדובר בקפיצה חריגה שמעלה שאלות קשות על השימוש לרעה בטכנולוגיות AI.
מהות הניצול וכיצד הוא מתרחש בפועל
הניצול אינו מתבצע בהכרח ישירות על ידי המערכת, אלא דרך משתמשים שמנסים לעשות שימוש בכלי הבינה המלאכותית לצרכים אסורים. בין היתר מדובר בניסיונות לייצר תכנים מיניים הקשורים לקטינים, עיבוד או ניתוח תמונות חשודות, סימולציות שיחה פוגעניות, ולעיתים גם ניסיונות להסתיר או להסוות פעילות עבריינית. במקרים רבים, עצם הבקשה או הדפוס ההתנהגותי של המשתמש הוא זה שמדליק נורה אדומה במערכות הזיהוי האוטומטיות.
OpenAI מדגישה כי מרבית הדיווחים אינם בהכרח ראיה לעבירה שבוצעה, אלא אינדיקציה מוקדמת לניסיון בעייתי שמחייב בדיקה. עם זאת, עצם היקף הפניות מצביע על אתגר הולך וגדל בהתמודדות עם ניצול קטינים בעידן של בינה מלאכותית נגישה.
Introducing parental controls in ChatGPT.
Now parents and teens can link accounts to automatically get stronger safeguards for teens. Parents also gain tools to adjust features & set limits that work for their family.
החברה מציינת כי העלייה במספר הדיווחים נובעת גם משיפור משמעותי במנגנוני הפיקוח, הסינון והבקרה. מערכות מתקדמות מזהות דפוסים חריגים בזמן אמת ומעבירות אותם לבדיקה אנושית. לצד זאת, מומחים טוענים כי אין די באמצעים טכנולוגיים בלבד.
ניוזלטר AI לפי תפקיד
כלים, מדריכים ומקרים מהשטח שרלוונטיים לעבודה שלכם, בלי רעש. בחרו תפקיד, ונשלח לכם את מה שחשוב לו.
נדרשת רגולציה ברורה יותר, חובת דיווח אחידה לכל ספקיות ה-AI, והעמקת שיתופי הפעולה בין חברות טכנולוגיה, רשויות אכיפה וארגוני הגנה על ילדים. בנוסף, עולה הצורך בהסברה לציבור על גבולות השימוש בכלים הללו והאחריות המשפטית הכרוכה בכך.
המיתוס על פרטיות הצאטים מתנפץ
נקודה מרכזית שעולה מהפרשה היא תפיסת הפרטיות של המשתמשים. בניגוד למה שרבים חושבים, שיחות עם מערכות AI אינן בהכרח פרטיות או מבודדות. כאשר מזוהה חשד לפעילות פלילית, התכנים הרלוונטיים יכולים להיות מועברים לגורמי ביטחון ורשויות מוסמכות, בהתאם לחוק.
OpenAI מבהירה כי שיתוף המידע נעשה לצורכי הגנה ומניעה בלבד, ולא כמעקב שגרתי אחר משתמשים. עם זאת, המשמעות ברורה. צאטים אינם מרחב חסין, ובוודאי שלא כשמדובר בפגיעה בקטינים. מי שמניח שהאינטראקציה עם AI מתקיימת בוואקום פרטי לחלוטין, טועה.
אתגר מתמשך בעידן הבינה המלאכותית
המקרה ממחיש את המתח שבין חדשנות טכנולוגית לבין אחריות חברתית. ככל שכלי AI הופכים חזקים ונפוצים יותר, כך גובר הצורך בהגנות עמוקות, שקיפות ושיח ציבורי מפוכח. הנתונים של OpenAI אינם רק נתון סטטיסטי, אלא תמרור אזהרה ברור לגבי המחיר האפשרי של שימוש לא מבוקר בטכנולוגיה מתקדמת.
