בין תחקיר "מלך הבוטים" בחדשות 12 לכלים החדשים של גוגל: המלחמה על המוניטין שלכם עולה שלב. כך ה-AI הופך לכלי נשק להכפשה, אבל גם למגן החזק ביותר שלכם.
התחקיר של אילן לוקאץ' בחדשות 12 (לצפייה לחצו כאן) חשף כיצד "מכונת רעל" פוליטית מופעלת בלחיצת כפתור מהודו או פורטוגל. אך עבור המגזר העסקי, האיום מורכב יותר: בוטים בשילוב AI גנרטיבי כבר לא רק מחלקים לייקים מזויפים. הם מסוגלים להקים אתרי חדשות פיקטיביים ולהפיץ סרטוני הכפשה בטכנולוגיית "דיפ-פייק" שנראים אנושיים לחלוטין.
מנגד, ענקיות הטכנולוגיה לא נשארות חייבות, וגוגל בראשן מובילה את המאבק עם טכנולוגיות הגנה מתוחכמות.
מכונת התוכן המזויפת: כשאלגוריתם כותב עליכם "תחקיר"
הטכנולוגיה שנחשפה בתחקיר חדשות 12 מאפשרת כיום לגורמים עוינים להקים בתוך דקות עשרות אתרי "חדשות" שנראים לגיטימיים. האתרים הללו מפרסמים כתבות הכפשה מתוחכמות על עסקים, הכוללות נתונים ועדויות מומצאות. מנועי החיפוש אמנם מנסים לסנן זאת, אך האתגר הוא עצום: המהירות שבה ה-AI מייצר תוכן אמין למראה מחייבת כל ארגון לעבור למצב של ניטור אקטיבי כדי שלא לגלות "תחקיר" שקרי בראש תוצאות החיפוש.
המלחמה של גוגל בזיוף: 170 מיליון ביקורות בחוץ
גוגל מבינה שהנכס היקר ביותר שלה הוא האמון. כחלק מהמאמץ לשמור על אמינות הפלטפורמה, גוגל חסמה והסירה בשנה האחרונה למעלה מ-170 מיליון ביקורות מזויפות שהופצו על ידי בוטים וחוות קליקים – עלייה דרמטית של כ-45% לעומת אשתקד.
בנוסף, החברה הסירה כ-12 מיליון פרופילים עסקיים מזויפים וחסמה מיליוני סרטוני הכפשה. גוגל משקיעה מיליארדי דולרים באלגוריתמים של למידת מכונה שיודעים לזהות "מתקפות דירוג" מתוזמנות עוד לפני שהן גורמות נזק לעסק.
מלכודת הקונצנזוס: כשכרטיס האשראי שלכם מציית לאלגוריתם
חשוב להבין כי הבוטים משפיעים באופן עמוק גם על הדעה שלנו ברכישת מוצרים ועל הרגלי הצריכה שלנו. זה מתחיל בסרטון טיקטוק ויראלי שנראה כמו המלצה תמימה של לקוחה נלהבת, ממשיך בציון של 4.9 כוכבים בגוגל ומסתיים במאות תגובות של 'חובה לקנות!' שרצות מתחת לכל פוסט. במוח שלנו נדלקת נורה ירוקה: 'אפקט הקונצנזוס' עובד שעות נוספות וגורם לנו להרגיש בטוחים בבחירה שלנו.
