ארגון ה-AI הישראליארגון ה-AI הישראלי
למי הבינה המלאכותית מסייעת יותר: למומחים או לחסרי ניסיון?
חדשות AI

למי הבינה המלאכותית מסייעת יותר: למומחים או לחסרי ניסיון?

ליאור אברהםליאור אברהם 3 דק׳ קריאה

ההבטחה הגדולה של הבינה המלאכותית ברפואה

בשנים האחרונות, הבינה המלאכותית הפכה לחלק בלתי נפרד מחיינו, והשפעתה על עולם הרפואה היא לא פחות ממהפכנית. יותר ויותר אנשים פונים לכלים חכמים, מנועי חיפוש מבוססי AI וצ'אטבוטים מתקדמים כדי לקבל אבחון ראשוני למחלות, פריחות בעור או תסמינים מדאיגים אחרים. במקביל, גם רופאים בקליניקות ובבתי חולים נעזרים במערכות תומכות החלטה שאושרו על ידי רשויות הבריאות כדי לאמת אבחנות ולשפר את הטיפול.

ההבטחה היא עצומה: רפואה מהירה יותר, מדויקת יותר ונגישה לכולם. אך האם הטכנולוגיה הזו באמת משרתת את כל המשתמשים באותה מידה של יעילות? חוקרים באוניברסיטת MIT בשיתוף מוסדות נוספים החליטו לבדוק זאת לעומק דרך מבחני אבחון של מחלות עור, והממצאים מעוררים מחשבה.

מלכודת האמון של משתמשים חסרי ניסיון

כאשר אדם ללא רקע רפואי פונה לבינה מלאכותית כדי לאבחן בעיה, הוא בדרך כלל מחפש ודאות והרגעה. המחקר בחן כיצד משתמשים מגיבים להמלצות של המערכת, במיוחד כשהיא מספקת "הסבר" לאבחנה שלה באמצעות מודלי שפה גדולים (LLMs) או מפות חום ויזואליות. התוצאה המדאיגה הייתה שמשתמשים חסרי ניסיון נטו לסמוך על המערכת באופן כמעט עיוור – גם כשהיא טעתה לחלוטין באבחון המחלה. למעשה, ברגע שהמערכת סיפקה להם הסבר כלשהו, קריא ורהוט, הם אימצו אותו כעובדה מוגמרת. המעניין הוא שדווקא הסברים עמומים וכלליים יותר נתפסו בעיניהם כאמינים ומשכנעים יותר.

התופעה הזו, המכונה "הטיית אוטומציה" (Automation Bias), גורמת לאנשים לכבות את החשיבה הביקורתית שלהם ולהניח שאם המחשב מספק תשובה ארוכה ומנוסחת היטב, היא בהכרח נכונה. עבור אדם שמחפש תשובה מהירה לבעיה רפואית, הישענות עיוורת כזו עשויה להוביל לפספוס של אבחנות קריטיות.

למה מומחים מעדיפים תשובות קצרות ולעניין?

מה קורה כשאותה מערכת בדיוק ניצבת מול רופא מומחה או צוות רפואי מיומן? כאן התמונה משתנה לחלוטין. רופאים ואנשי מקצוע לא נפלו בפח של הסברים שגויים. הם ידעו לזהות מתי הבינה המלאכותית מציעה כיוון נכון ומועיל, ומתי היא סוטה מהדרך ופולטת מידע שגוי. אך הממצא המפתיע ביותר במחקר נוגע לדרך שבה רופאים מעדיפים לקבל את המידע מהמערכת. בעוד שהציבור הרחב מחפש הסברים ארוכים ומפורטים כדי להשתכנע, הרופאים הציגו את הביצועים הטובים ביותר כאשר המערכת סיפקה להם אך ורק את התחזית הסופית – כלומר, את שם המחלה המשוערת, ללא שום הסבר נלווה.

מסתבר שעבור איש מקצוע, הסברים מילוליים עודפים או ניתוחים חזותיים של בינה מלאכותית עלולים להוות רעש רקע מיותר ואפילו מבלבל. שורה תחתונה פשוטה מאפשרת לרופאים להפעיל את שיקול הדעת המקצועי שלהם, לבחון את הנתונים בעצמם ולתת את האבחנה המדויקת ביותר למטופל.

הסכנה שמאחורי "בינה מלאכותית מוסברת"

תעשיית הטכנולוגיה משקיעה כיום משאבים אדירים בפיתוח מנגנונים של "בינה מלאכותית מוסברת" (Explainable AI) – מערכות שיודעות לא רק לתת תשובה סופית, אלא גם לשקף את תהליך קבלת ההחלטות שלהן בשפה טבעית. המטרה הברורה היא לבנות אמון מול המשתמשים. אולם, המחקר החדש מדגיש בצורה נחרצת כי גישה של "מידה אחת מתאימה לכולם" אינה עובדת כשמדובר בבריאות.

הסבר שעשוי להיות מועיל בסביבת מעבדה, עלול באותה עת להטעות אדם פשוט ולהעניק לו תחושת ביטחון מזויפת באבחנה שגויה לחלוטין. הפרדוקס הוא שאותם אנשים שזקוקים להכי הרבה עזרה והכוונה רפואית, הם בדיוק אלו שנמצאים בסיכון הגבוה ביותר להיפגע מהסברים שגויים של מערכות מתקדמות, פשוט כי אין להם את הכלים המקצועיים לערער על קביעת המכונה.

השורה התחתונה: הדרך הנכונה להיעזר בטכנולוגיה

המסקנה העיקרית העולה מן הנתונים היא שאנחנו חייבים לשנות גישה. חברות טכנולוגיה יצטרכו להתאים את האופן שבו בינה מלאכותית מתקשרת איתנו לרמת הידע הספציפית שלנו. מערכות עתידיות יצטרכו לזהות מול מי הן עומדות – רופא מומחה או מטופל מודאג בבית – ולהציג את המידע בצורה שמעודדת חשיבה ביקורתית ולא הסתמכות עיוורת.

עד שזה יקרה, האחריות נמצאת קודם כל בידיים שלנו כמטופלים. בפעם הבאה שאתם שואלים צ'אטבוט או מנוע חיפוש חכם על תסמין רפואי, זכרו שהסבר משכנע, ארוך ורהוט אינו ערובה לנכונות רפואית. בינה מלאכותית היא כלי עזר פנטסטי למידע כללי, אך היא בשום פנים ואופן אינה מחליפה ייעוץ רפואי מוסמך. אל תחששו להשתמש בטכנולוגיה החדשנית הזו כדי להעשיר את הידע שלכם, אבל זכרו תמיד לשמור על ספק בריא, לא לקפוץ למסקנות מהירות, ולשתף את המידע עם אנשי מקצוע אמיתיים שיודעים לראות את התמונה המלאה.

שאלות ותשובות
מחקר של אוניברסיטת MIT מראה כי מומחים, כמו רופאים, מפיקים תועלת רבה יותר מבינה מלאכותית כיוון שיש להם את הידע לזהות שגיאות. לעומתם, משתמשים חסרי ניסיון נוטים לפתח 'הטיית אוטומציה' ולסמוך באופן עיוור על המערכת, גם כשהיא טועה. לכן, הטכנולוגיה בטוחה ויעילה יותר כרגע בעיקר ככלי עזר לאנשי מקצוע בעלי חשיבה ביקורתית.
הצטרפו לקבוצת הווטסאפ שלנו לעדכונים

תגיות:

שתפו את הכתבה:

עוד כתבות שיעניינו אותך

DPO בעידן ה-AI: מה עושה ממונה הגנת הפרטיות, איפה הוא יושב בארגון וכמה הוא מרוויח
מדריכים• ליאור אברהם• 21 בנובמבר

DPO בעידן ה-AI: מה עושה ממונה הגנת הפרטיות, איפה הוא יושב בארגון וכמה הוא מרוויח

המדריך המלא לתפקיד ה-DPO: איך נולד, מה תיקון 13 וההנחיה הסופית של הרשות דורשים, למי הוא מדווח, אילו הסמכות שוות משהו, כמה מרוויחים בישראל ובעולם, ואיך ה-AI הופך אותו לאחד האנשים החשובים בארגון.

מה זה MCP? המדריך המלא ל-Model Context Protocol בארגון (2026)
מדריכים• ליאור אברהם• 15 בנובמבר

מה זה MCP? המדריך המלא ל-Model Context Protocol בארגון (2026)

MCP הוא התקן הפתוח שמחבר את Claude, ChatGPT, Gemini ו-Copilot למערכות של הארגון. מה זה בעברית פשוטה, איך זה עובד, מה ארגונים עושים עם זה בכל מחלקה, ממה להיזהר ואיך מתחילים.

מתחילים להתחשבן? מיקרוסופט שמה תקציב טוקנים לעובדים, ומה זה אומר על העובדים אצלכם
חדשות AIGeektime• ליאור אברהם• 13 בנובמבר

מתחילים להתחשבן? מיקרוסופט שמה תקציב טוקנים לעובדים, ומה זה אומר על העובדים אצלכם

מיקרוסופט הודיעה לעובדים שלה ששריפת טוקנים היא לא המטרה, הגדירה תקציב לכל חטיבה ועברה למודל זול יותר. מה קרה, למה זה קורה בכל החברות הגדולות, ואיך למדוד עובדים בעידן ה-AI בלי להפחיד אותם.

7 דרכים שבהן חברות ענק כבר משתמשות בבוט קולי, ומה הארגון שלכם יכול ללמוד מהן
מדריכים• ליאור אברהם• 13 בנובמבר

7 דרכים שבהן חברות ענק כבר משתמשות בבוט קולי, ומה הארגון שלכם יכול ללמוד מהן

בנק שעונה בטלפון 24/7, רשת נופש עם פקידת קבלה וירטואלית ובוט אחד שמדבר 35 שפות. שבעה מקרים אמיתיים של בוט קולי בארגונים גדולים, ומה ללמוד מהם לפני שמטמיעים במוקד שלכם.

שירות לקוחות עם AI ב-2027: מה עובד, מי נכשל, וכמה זה יחסוך למוקד שלכם
מדריכים• ליאור אברהם• 12 בנובמבר

שירות לקוחות עם AI ב-2027: מה עובד, מי נכשל, וכמה זה יחסוך למוקד שלכם

Klarna החליפה 700 נציגים בבוט וחזרה לגייס בני אדם. מה באמת עובד בשירות לקוחות עם AI, 5 חידושים שיגיעו ב-2027, דוגמאות מהעולם, ומחשבון שמראה אם בוט משתלם לכם.

Claude נכנס למשרד: Meetings, Sheets ו-Whiteboards הופכים אותו לכלי העבודה של הארגון
חדשות AIAnthropic• ליאור אברהם• 10 בנובמבר

Claude נכנס למשרד: Meetings, Sheets ו-Whiteboards הופכים אותו לכלי העבודה של הארגון

Anthropic השיקה גיליונות, לוחות משותפים, דשבורדים ונוכחות בפגישות, ומניית מיקרוסופט ירדה ב-3%. מה הושק, איך זה מתחבר לכל מה ש-Claude בנה השנה, ומה ארגון צריך להחליט עכשיו.

מחשבון בוט AI לשירות לקוחות
כלים• ליאור אברהם• 10 בנובמבר

מחשבון בוט AI לשירות לקוחות

כמה יחסוך בוט AI למוקד שלכם? מזינים מספר פניות, זמן טיפול ועלות נציג, ומקבלים את עלות המוקד עם בוט ובלעדיו, חיסכון חודשי, החזר השקעה ומשרות שמתפנות.

Smart Reports של Claude:  כעת המנהלים יכולים לדעת מה העובדים מפתחים  ב - AI
חדשות AIAnthropic• ליאור אברהם• 8 בנובמבר

Smart Reports של Claude: כעת המנהלים יכולים לדעת מה העובדים מפתחים ב - AI

Anthropic השיקה דוחות חכמים ל-Claude Enterprise שמנתחים את העבודה של כל צוות: מה נעשה, כמה זה עלה ואיפה העבודה נתקעת. למי זה שימושי, מה בדיוק יש בדוח, ומה צריך לסדר לפני שמפעילים.

למה הארגון שלכם חייב לגלות שהוא משתמש ב-AI, ומה יקרה אם לא
מדריכים• ליאור אברהם• 5 בנובמבר

למה הארגון שלכם חייב לגלות שהוא משתמש ב-AI, ומה יקרה אם לא

בוט תמיכה שהמציא מדיניות, קול AI שהוביל לקנס של 6 מיליון דולר, וציון אלגוריתמי שהסתיים בהסדר של 2.3 מיליון. בכל המקרים הלקוח לא ידע שמולו AI. מה החוק כבר דורש, ולמה כדאי להצטרף לתו AI אחראי עכשיו.

כמה עולה AI לארגון? מחירי ChatGPT, Claude, Copilot ו-Gemini לעסקים בהשוואה (2026)
מדריכים• ליאור אברהם• 1 בנובמבר

כמה עולה AI לארגון? מחירי ChatGPT, Claude, Copilot ו-Gemini לעסקים בהשוואה (2026)

מחירי כל מסלולי העסקים של ChatGPT, Claude, Microsoft 365 Copilot ו-Gemini, ישירות מעמודי התמחור הרשמיים: מחיר למשתמש, מה כלול, מנוי מול API, דוגמת חישוב לארגון של 50 עובדים והעלויות שלא מופיעות בעמוד התמחור.

הצטרפו אלינו