לפי הנתונים, במחצית הראשונה של 2025 הועברו למעלה מ-75 אלף דיווחים ל-CyberTipline האמריקאי, לעומת פחות מאלף דיווחים בלבד בתקופה המקבילה אשתקד.
מדובר בקפיצה חריגה שמעלה שאלות קשות על השימוש לרעה בטכנולוגיות AI.
מהות הניצול וכיצד הוא מתרחש בפועל
הניצול אינו מתבצע בהכרח ישירות על ידי המערכת, אלא דרך משתמשים שמנסים לעשות שימוש בכלי הבינה המלאכותית לצרכים אסורים. בין היתר מדובר בניסיונות לייצר תכנים מיניים הקשורים לקטינים, עיבוד או ניתוח תמונות חשודות, סימולציות שיחה פוגעניות, ולעיתים גם ניסיונות להסתיר או להסוות פעילות עבריינית. במקרים רבים, עצם הבקשה או הדפוס ההתנהגותי של המשתמש הוא זה שמדליק נורה אדומה במערכות הזיהוי האוטומטיות.
OpenAI מדגישה כי מרבית הדיווחים אינם בהכרח ראיה לעבירה שבוצעה, אלא אינדיקציה מוקדמת לניסיון בעייתי שמחייב בדיקה. עם זאת, עצם היקף הפניות מצביע על אתגר הולך וגדל בהתמודדות עם ניצול קטינים בעידן של בינה מלאכותית נגישה.
מה צריך לעשות כדי לצמצם את התופעה
החברה מציינת כי העלייה במספר הדיווחים נובעת גם משיפור משמעותי במנגנוני הפיקוח, הסינון והבקרה. מערכות מתקדמות מזהות דפוסים חריגים בזמן אמת ומעבירות אותם לבדיקה אנושית. לצד זאת, מומחים טוענים כי אין די באמצעים טכנולוגיים בלבד.
📬
רוצים לקבל עדכוני AI ישירות לאימייל?
הצטרפו לאלפי מנהלים שמקבלים את הניוזלטר השבועי שלנו
נדרשת רגולציה ברורה יותר, חובת דיווח אחידה לכל ספקיות ה-AI, והעמקת שיתופי הפעולה בין חברות טכנולוגיה, רשויות אכיפה וארגוני הגנה על ילדים. בנוסף, עולה הצורך בהסברה לציבור על גבולות השימוש בכלים הללו והאחריות המשפטית הכרוכה בכך.
המיתוס על פרטיות הצאטים מתנפץ
נקודה מרכזית שעולה מהפרשה היא תפיסת הפרטיות של המשתמשים. בניגוד למה שרבים חושבים, שיחות עם מערכות AI אינן בהכרח פרטיות או מבודדות. כאשר מזוהה חשד לפעילות פלילית, התכנים הרלוונטיים יכולים להיות מועברים לגורמי ביטחון ורשויות מוסמכות, בהתאם לחוק.
OpenAI מבהירה כי שיתוף המידע נעשה לצורכי הגנה ומניעה בלבד, ולא כמעקב שגרתי אחר משתמשים. עם זאת, המשמעות ברורה. צאטים אינם מרחב חסין, ובוודאי שלא כשמדובר בפגיעה בקטינים. מי שמניח שהאינטראקציה עם AI מתקיימת בוואקום פרטי לחלוטין, טועה.
אתגר מתמשך בעידן הבינה המלאכותית
המקרה ממחיש את המתח שבין חדשנות טכנולוגית לבין אחריות חברתית. ככל שכלי AI הופכים חזקים ונפוצים יותר, כך גובר הצורך בהגנות עמוקות, שקיפות ושיח ציבורי מפוכח. הנתונים של OpenAI אינם רק נתון סטטיסטי, אלא תמרור אזהרה ברור לגבי המחיר האפשרי של שימוש לא מבוקר בטכנולוגיה מתקדמת.
