המהפכה של תקצירי הבינה המלאכותית
כאשר אנו מחפשים כיום תשובות במנוע החיפוש של גוגל, אנו פוגשים יותר ויותר את תכונת "תקצירי ה-AI" (המוכרת בשם AI Overviews). המטרה המוצהרת של ענקית הטכנולוגיה ברורה: לספק לגולשים תשובות מהירות, תמציתיות ומקיפות כבר בראש עמוד התוצאות, בלי שיצטרכו ללחוץ על אף קישור חיצוני. על פניו, מדובר בשירות נוח שחוסך זמן יקר לכולנו. אך ככל שהשימוש במודלים מתקדמים של שפה הופך לשגרתי ויומיומי, עולה שאלה קריטית שנוגעת לכל אחד ואחת מאיתנו: עד כמה אנחנו באמת יכולים לסמוך על המידע הזה? מסתבר שחיפוש מידע ברשת מחייב אותנו כיום להתמודד מול תקצירים שנוצרו על ידי מכונה, שלמרות התחכום העצום שלהם, עלולים להפיץ מיליוני שגיאות וחצאי-אמיתות בכל שעה נתונה.
מבחן הדיוק: מה גילה המחקר של Oumi?
כדי להבין לעומק את רמת הדיוק האמיתית של המערכות הללו, הסטארט-אפ Oumi ביצע מחקר מעמיק ומקיף. במסגרת המחקר, נותחו 4,326 שאילתות חיפוש אמיתיות שהוזנו למנוע החיפוש של גוגל. החוקרים השתמשו בכלי המדידה SimpleQA, אשר נועד לבחון במדויק את היכולת של מודלי שפה, כמו סדרת מודלי ה-Gemini של גוגל, לענות על שאלות קצרות המבוססות על עובדות מוצקות וברורות.
התוצאות הראו מגמת שיפור בין הגרסאות השונות של המודלים: כאשר תקצירי ה-AI הופעלו על ידי המודל Gemini 2, הם ענו נכונה על 85% משאילתות החיפוש. כאשר המערכת שודרגה למודל החדיש והמתקדם יותר, Gemini 3, רמת הדיוק הכללית עלתה ל-91%. במבט ראשון, מדובר באחוזי הצלחה מרשימים למדי, אך הם מסתירים בתוכם בעיה עמוקה הרבה יותר בכל הנוגע לשקיפות ואמינות המידע.
פרדוקס המקורות: תשובה נכונה, סימוכין תלושים
בנקודה זו מתגלה עקב אכילס המשמעותי ביותר של תקצירי ה-AI. למרות שהדיוק העובדתי היבש אכן השתפר עם השקת Gemini 3, יכולת האימות של המידע (Verifiability) – כלומר היכולת שלנו כקוראים לבדוק מאיפה הגיע המידע ולסמוך עליו – דווקא הידרדרה משמעותית.
המחקר המטריד מצא כי עם מודל Gemini 3, לא פחות מ-56% מהתשובות הנכונות היו למעשה "חסרות בסיס" (Ungrounded). משמעות הדבר היא שהמקורות והקישורים שגוגל בחרה לצרף לתקצירי ה-AI פשוט לא גיבו במלואן את הטענות שהוצגו בתוך הפסקה המיוצרת. עבור הקורא הממוצע, התוצאה היא אשליית אמינות מסוכנת במיוחד: המערכת מציגה בפניו עובדה ומצמידה לה קישור סמכותי לכאורה כהוכחה, אך כל בדיקה מעמיקה של אותו קישור תגלה שאין לו שום קשר למידע שהוצג.
הסכנה האמיתית: אנחנו מפסיקים לבדוק את העובדות
הבעיה מקבלת משנה תוקף כשבוחנים את ההשפעה הפסיכולוגית וההתנהגותית של התקצירים הללו על המשתמשים ברשת. מכון המחקר היוקרתי Pew Research Center ערך בדיקה מקיפה שכללה 900 מבוגרים בארצות הברית, אשר ביצעו יחד 68,879 שאילתות במנוע החיפוש של גוגל.
