בעוד רוב ההורים מודאגים מבריונות רשת, התמכרות למסכים או שיימינג, מתחת לפני השטח מתפתח איום חדש וחמור בהרבה – טרנד עולמי שבו ילדים ונערים משתמשים בבינה מלאכותית כדי ליצור תמונות עירום מזויפות של ילדות מהכיתה שלהם.
מה שנשמע כמו תסריט מדע בדיוני כבר הפך למציאות מטרידה. בשבוע האחרון דווח בארצות הברית על מקרה טראגי במיוחד – נער בן 16 ממדינת קנטקי שם קץ לחייו לאחר שתמונות עירום מזויפות שלו נוצרו והופצו ברשתות החברתיות. התמונות נראו אמיתיות לחלוטין, והוא נפל קורבן לסחיטה ולהשפלה ציבורית.
הטכנולוגיה שעומדת מאחורי המקרים האלה מבוססת על Deepfake, שיטה המאפשרת לבינה מלאכותית “להרכיב” תמונה חדשה ממספר תמונות אמיתיות. בעבר, ניתן היה לזהות בקלות שמדובר בזיוף, אך כיום – בזכות אלגוריתמים מתקדמים של AI Deepfake – כמעט בלתי אפשרי להבחין בהבדל.
האלגוריתמים לומדים את מבנה הגוף, את תנוחת הראש, את הצללים ואת התאורה – וכך מייצרים דמות שנראית אמיתית לחלוטין. אפילו מומחים מתקשים לזהות אם מדובר בצילום אמיתי או בתוצר של מכונה.
לפי נתוני Google Trends, ההתעניינות בנושא מתפוצצת. ביטויים כמו “deepfake sites”, “deepfake site”, “ai deepfake” ו־“deepfakes” רשמו עליות חדות של מעל 250 %. המונח Sabrina Carpenter, שהופיע ברשימות החיפוש לאחר שזמרת הפופ האמריקאית הפכה בעצמה לקורבן של סרטון Deepfake מיני, מוביל את הטרנד.
בתמונה: עליה מטרידה בנתונים של Google Trends
אבל מה שהיה עד לאחרונה נחלתם של עבריינים או חובבי טכנולוגיה, זולג עכשיו לעולם הילדים. בני נוער – חלקם תלמידי חטיבה ותיכון – לומדים לאמן מודלים בעצמם. כל מה שהם צריכים הוא כמה תמונות אמיתיות של הילדה מהכיתה: אחת בבגד ים מהקיץ, אחת מהטיול השנתי, עוד שתיים מהאינסטגרם או מטיקטוק. הם מזינים את התמונות לתוך מודל AI, ומבקשים ממנו “ליצור תמונה שלה בחדר שלה”, “בבגדים אינטימיים” או “כאילו היא מצלמת את עצמה במראה”.
תוך דקות, נוצרות תמונות שנראות אמיתיות לחלוטין. הגוף, העור, הרקע והתאורה משתלבים יחד באופן מושלם. התוצאה מצמררת: תמונה שנראית כאילו נלקחה מטלפון של הילדה עצמה – למרות שמעולם לא צולמה.
