בעולם שבו הבינה המלאכותית מתקדמת במהירות מסחררת, יש תחום אפל במיוחד שבו ההתפתחות הזו הפכה לסכנה ממשית.
הפקה של תכנים מיניים פוגעניים כלפי ילדים – ללא צורך בצילום או פגיעה פיזית, אך עם פגיעה מוסרית וחברתית הרסנית.
חשוב להבין – מנועי בינה מלאכותית כיום יודעים לייצר תמונות מזעזעות של ילדים – כולל של הילדים שלכם – בלי שהם בכלל היו שם, באמצעות תמונות תמימות מהרשתות החברתיות. התמונות מזויפות לחלוטין, אך לא ניתן להבחין בין מציאות לבדיה, ובמקרים רבים נעשה בהן שימוש לפגיעה, השפלה או סחיטה של הילד והמשפחה.
לפי דו"ח עדכני של ה־Internet Watch Foundation הבריטית, רק במחצית הראשונה של 2025 זוהו 1,286 סרטונים שנוצרו בבינה מלאכותית ובהם תכנים של התעללות מינית בילדים. לשם השוואה – בתקופה המקבילה אשתקד נמצאו רק שניים.
בארצות הברית, המרכז הלאומי לילדים נעדרים ומנוצלים (NCMEC) קיבל כ־485,000 דיווחים על חומרים הקשורים ל-AI, לרבות תמונות וסרטונים – לעומת 67,000 בלבד בשנת 2024 כולה.
ניוזלטר AI לפי תפקיד
כלים, מדריכים ומקרים מהשטח שרלוונטיים לעבודה שלכם, בלי רעש. בחרו תפקיד, ונשלח לכם את מה שחשוב לו.
למה זה מפחיד במיוחד?
איכות התמונות והווידאו השתפרה לרמה כזו שהיא כמעט בלתי ניתנת להבחנה מחומרים אמיתיים. לעיתים משולבים דמויות אמיתיות של ילדים עם תוכן שנוצר בבינה מלאכותית – מה שמקשה עוד יותר על זיהוי ומניעה. רשתות אפלות (Dark Web) משתפות פעולה כדי לייצר ולהפיץ את החומרים – כולל מדריכים טכניים וקהילות סגורות.
אזהרת מוקדמת – והמערכת לא מוכנה
דובר הקרן הבריטית, דרק ריי-היל, תיאר את המצב כ"קנרית במכרה" – כלומר, סימן מוקדם לאסון רחב היקף. אלא שהמערכות המשפטיות, החוקרות והטכנולוגיות, פשוט אינן ערוכות לגל האדיר של חומרים מזויפים אך מזיקים.
מה אפשר לעשות?
חקיקה עדכנית שתגביר את האחריות של פלטפורמות לשימוש לרעה בכלי בינה מלאכותית.
כלים לזיהוי תוכן מזויף – כולל סימון דיגיטלי ומעקב אחרי יצירה אוטומטית של דימויים.
הגברת מודעות בקרב הציבור, הורים, ומחנכים לנוכחות והסיכון של תוכן כזה ברשת.
💬 הדור הבא של הבינה המלאכותית מביא עימו לא רק הזדמנויות – אלא גם אחריות כבדה. אם לא נפעל עכשיו, הנזק יהיה עמוק, אנושי ובלתי הפיך.
