ארגון ה-AI הישראליארגון ה-AI הישראלי
האם הבינה המלאכותית ענתה לכם פעם שהיא לא יודעת את התשובה?
חדשות AIמאמרים ומחקרים תוכן פרימיום

האם הבינה המלאכותית ענתה לכם פעם שהיא לא יודעת את התשובה?

ליאור אברהםליאור אברהם 3 דק׳ קריאהעודכן:

מכונת ההשלמה האוטומטית המשוכללת בעולם

האם יצא לכם לעצור לרגע ולחשוב כיצד מודלי השפה הגדולים, אלו שאנו משתמשים בהם כמעט מדי יום לכתיבת מיילים, סיכום מאמרים או חיפוש מידע, באמת פועלים מאחורי הקלעים?

בבסיסם, מודלי השפה המוכרים לנו כיום הם למעשה מערכות סטטיסטיות מתקדמות או מנועי הערכה מתוחכמים. המטרה המרכזית והאלגוריתמית שלהם היא לחזות את ההסתברות של רצף מילים מסוים. במילים פשוטות מאוד, אפשר לתאר אותם כמכונות "השלמה אוטומטית" (Autocomplete) אדירות ממדים, שאומנו על טקסטים מכל רחבי האינטרנט.

כאשר אנו כותבים משפט חלקי כמו: "החתול רדף אחרי ה-...", מודל השפה סורק את ההקשר ושואל את עצמו: בהתבסס על המילים שהופיעו עד כה, מהי המילה הבאה הסבירה ביותר שתופיע? במקרה זה, הוא כנראה יחזה את המילה: "עכבר". זה אולי נשמע כמו קסם כשהמודל כותב פואמה או קוד מורכב, אבל בבסיס, מדובר במתמטיקה הסתברותית.

הקונפליקט המובנה וסכנת ההזיות של המודלים

הבעיה המרכזית בדרך הפעולה הזו היא מה שמכונה בעגה המקצועית "אי-התאמה של מטרות" (Mismatch of objectives). מודל שפה מאומן בראש ובראשונה לעבד מגוון עצום של קלטים ולייצר פלטים סבירים שנשמעים טבעיים, זורמים וכאילו נכתבו על ידי אדם אמיתי. המשמעות המעשית היא שאם המילה הבאה ה"הסתברותית" ביותר בתוך משפט היא נכונה מבחינה תחבירית אך שגויה לחלוטין מבחינה עובדתית, מודל השפה עדיין יבחר בה.

מדוע זה קורה? משום שלמודל חסר "עיגון" במציאות (Grounding). הוא אינו יכול לגשת לעולם האמיתי, לבצע תחקיר עיתונאי או לוודא עובדה היסטורית באופן עצמאי. כל מה שהוא מסוגל לעשות זה לבדוק אם המילה הבאה מתאימה לתבניות הסטטיסטיות שהוא למד ממיליארדי דוגמאות האימון שלו. כך נוצרות "הזיות" (Hallucinations) – מצבים בהם הבינה המלאכותית ממציאה עובדות ומוסרת אותן בביטחון מוחלט.

מדוע מודלים מתקדמים עדיין נופלים בפח?

כדי להתמודד עם אתגר ההזיות המורכב, חברות טכנולוגיה מובילות בתחום הבינה המלאכותית (כמו OpenAI עם מודל "o1") החלו לפתח מודלים מבוססי היגיון והסקה (Reasoning models). מודלים אלו נשענים על טכניקת אימון מוכרת בשם "למידת חיזוק" (RL - Reinforcement Learning), אשר מתגמלת את המערכת בכל פעם שהיא מגיעה לתשובה הנכונה, בדומה לאילוף.

אולם, מסתבר שגם בגישה המתקדמת הזו קיים פגם קריטי. בלמידת חיזוק קלאסית, המודל מקבל את אותו התגמול בדיוק בין אם הוא ביצע תהליך חשיבה מורכב, עמוק וזהיר, ובין אם הוא פשוט ניחש במזל את התשובה הנכונה. לאורך זמן, המנגנון הבעייתי הזה מלמד את המודלים לענות בביטחון מופרז על כל שאלה שהם נשאלים, בלי קשר לשאלה האם התשובה נתמכת בראיות מוצקות או שמדובר בניחוש סטטיסטי פרוע.

הפתרון של MIT: ללמוד להגיד "אני לא יודע"

כאן נכנסת לתמונה פריצת הדרך המסקרנת של חוקרי MIT CSAIL. המערכת החדשה שפיתחו, הזוכה לשם "RLCR", מהונדסת במיוחד כדי לתקן את בעיית הביטחון המופרז והמוטעה הזה. במקום רק לנסות לייצר טקסט, המערכת מאמנת את מודלי השפה לחולל "ציוני ביטחון" (Confidence scores) מדויקים ומכוילים שמתלווים לכל תשובה שהם מספקים.

במילים פשוטות, RLCR לא מנסה בהכרח להפוך את המודלים למושלמים במציאת התשובות הנכונות בכל נושא שבעולם. המטרה האמיתית והחשובה יותר שלה היא להפוך אותם לטובים יותר בהבנה מתי לא לענות. זהו שינוי תפיסתי אדיר: ללמד מכונה להכיר במגבלותיה, להפגין ענווה דיגיטלית, ולהודות ביושר כאשר חסר לה המידע הנדרש כדי לספק תשובה ודאית.

מה זה אומר על עתיד הבינה המלאכותית שלנו?

ההשלכות של פיתוח כזה על המשתמש הממוצע הן דרמטיות. מודלי הבינה המלאכותית הטובים בעולם, כולל מודלי קצה עתידיים פוטנציאליים כמו "GPT-5.5", הם כיום הרבה יותר מסתם מנבאי מילים פסיביים. הם לרוב עטופים בשכבות חכמות של שליפת מידע חיצוני והסקת מסקנות. ולמרות זאת, גם המודלים המתקדמים והחכמים ביותר עדיין יכולים להזות מידע כאשר חסר להם אימות חיצוני אמין.

הסיבה לכך היא שארכיטקטורת האלגוריתם הבסיסית שלהם עדיין מתפקדת, בסופו של יום, כמו מכונת השלמה אוטומטית שנוטה לנחש בביטחון כשהיא אינה יודעת. הטמעת מערכות מתקדמות כמו RLCR תאפשר לנו בעתיד הקרוב להסתמך הרבה יותר על הכלים הללו בעבודה, בלימודים ובחיי היומיום, שכן נדע שכאשר הבינה המלאכותית אינה בטוחה – היא לא תמציא, אלא פשוט תגיד לנו.

הידע הזה רלוונטי לכולנו, אז אל תשמרו אותו רק לעצמכם – עודדו חברים, קולגות ומשפחה לקרוא את הכתבה ולהבין איך באמת פועלים הכלים שמשנים את העולם!

הצטרפו לקבוצת הווטסאפ שלנו לעדכונים

תגיות:

שתפו את הכתבה:

עוד כתבות שיעניינו אותך

DPO בעידן ה-AI: מה עושה ממונה הגנת הפרטיות, איפה הוא יושב בארגון וכמה הוא מרוויח
מדריכים• ליאור אברהם• 21 בנובמבר

DPO בעידן ה-AI: מה עושה ממונה הגנת הפרטיות, איפה הוא יושב בארגון וכמה הוא מרוויח

המדריך המלא לתפקיד ה-DPO: איך נולד, מה תיקון 13 וההנחיה הסופית של הרשות דורשים, למי הוא מדווח, אילו הסמכות שוות משהו, כמה מרוויחים בישראל ובעולם, ואיך ה-AI הופך אותו לאחד האנשים החשובים בארגון.

מה זה MCP? המדריך המלא ל-Model Context Protocol בארגון (2026)
מדריכים• ליאור אברהם• 15 בנובמבר

מה זה MCP? המדריך המלא ל-Model Context Protocol בארגון (2026)

MCP הוא התקן הפתוח שמחבר את Claude, ChatGPT, Gemini ו-Copilot למערכות של הארגון. מה זה בעברית פשוטה, איך זה עובד, מה ארגונים עושים עם זה בכל מחלקה, ממה להיזהר ואיך מתחילים.

מתחילים להתחשבן? מיקרוסופט שמה תקציב טוקנים לעובדים, ומה זה אומר על העובדים אצלכם
חדשות AIGeektime• ליאור אברהם• 13 בנובמבר

מתחילים להתחשבן? מיקרוסופט שמה תקציב טוקנים לעובדים, ומה זה אומר על העובדים אצלכם

מיקרוסופט הודיעה לעובדים שלה ששריפת טוקנים היא לא המטרה, הגדירה תקציב לכל חטיבה ועברה למודל זול יותר. מה קרה, למה זה קורה בכל החברות הגדולות, ואיך למדוד עובדים בעידן ה-AI בלי להפחיד אותם.

7 דרכים שבהן חברות ענק כבר משתמשות בבוט קולי, ומה הארגון שלכם יכול ללמוד מהן
מדריכים• ליאור אברהם• 13 בנובמבר

7 דרכים שבהן חברות ענק כבר משתמשות בבוט קולי, ומה הארגון שלכם יכול ללמוד מהן

בנק שעונה בטלפון 24/7, רשת נופש עם פקידת קבלה וירטואלית ובוט אחד שמדבר 35 שפות. שבעה מקרים אמיתיים של בוט קולי בארגונים גדולים, ומה ללמוד מהם לפני שמטמיעים במוקד שלכם.

שירות לקוחות עם AI ב-2027: מה עובד, מי נכשל, וכמה זה יחסוך למוקד שלכם
מדריכים• ליאור אברהם• 12 בנובמבר

שירות לקוחות עם AI ב-2027: מה עובד, מי נכשל, וכמה זה יחסוך למוקד שלכם

Klarna החליפה 700 נציגים בבוט וחזרה לגייס בני אדם. מה באמת עובד בשירות לקוחות עם AI, 5 חידושים שיגיעו ב-2027, דוגמאות מהעולם, ומחשבון שמראה אם בוט משתלם לכם.

Claude נכנס למשרד: Meetings, Sheets ו-Whiteboards הופכים אותו לכלי העבודה של הארגון
חדשות AIAnthropic• ליאור אברהם• 10 בנובמבר

Claude נכנס למשרד: Meetings, Sheets ו-Whiteboards הופכים אותו לכלי העבודה של הארגון

Anthropic השיקה גיליונות, לוחות משותפים, דשבורדים ונוכחות בפגישות, ומניית מיקרוסופט ירדה ב-3%. מה הושק, איך זה מתחבר לכל מה ש-Claude בנה השנה, ומה ארגון צריך להחליט עכשיו.

מחשבון בוט AI לשירות לקוחות
כלים• ליאור אברהם• 10 בנובמבר

מחשבון בוט AI לשירות לקוחות

כמה יחסוך בוט AI למוקד שלכם? מזינים מספר פניות, זמן טיפול ועלות נציג, ומקבלים את עלות המוקד עם בוט ובלעדיו, חיסכון חודשי, החזר השקעה ומשרות שמתפנות.

Smart Reports של Claude:  כעת המנהלים יכולים לדעת מה העובדים מפתחים  ב - AI
חדשות AIAnthropic• ליאור אברהם• 8 בנובמבר

Smart Reports של Claude: כעת המנהלים יכולים לדעת מה העובדים מפתחים ב - AI

Anthropic השיקה דוחות חכמים ל-Claude Enterprise שמנתחים את העבודה של כל צוות: מה נעשה, כמה זה עלה ואיפה העבודה נתקעת. למי זה שימושי, מה בדיוק יש בדוח, ומה צריך לסדר לפני שמפעילים.

למה הארגון שלכם חייב לגלות שהוא משתמש ב-AI, ומה יקרה אם לא
מדריכים• ליאור אברהם• 5 בנובמבר

למה הארגון שלכם חייב לגלות שהוא משתמש ב-AI, ומה יקרה אם לא

בוט תמיכה שהמציא מדיניות, קול AI שהוביל לקנס של 6 מיליון דולר, וציון אלגוריתמי שהסתיים בהסדר של 2.3 מיליון. בכל המקרים הלקוח לא ידע שמולו AI. מה החוק כבר דורש, ולמה כדאי להצטרף לתו AI אחראי עכשיו.

כמה עולה AI לארגון? מחירי ChatGPT, Claude, Copilot ו-Gemini לעסקים בהשוואה (2026)
מדריכים• ליאור אברהם• 1 בנובמבר

כמה עולה AI לארגון? מחירי ChatGPT, Claude, Copilot ו-Gemini לעסקים בהשוואה (2026)

מחירי כל מסלולי העסקים של ChatGPT, Claude, Microsoft 365 Copilot ו-Gemini, ישירות מעמודי התמחור הרשמיים: מחיר למשתמש, מה כלול, מנוי מול API, דוגמת חישוב לארגון של 50 עובדים והעלויות שלא מופיעות בעמוד התמחור.

הצטרפו אלינו