הרופא הרובוט כבר כאן: מאות כלי בינה מלאכותית נכנסים לשוק הבריאות – אבל האם הם באמת עובדים?

המהפכה הרפואית שכבר מתרחשת בבתי החולים

בשנים האחרונות, ובמיוחד בחודשים האחרונים, אנחנו עדים להתפוצצות של ממש בכמות כלי הבינה המלאכותית (AI) המיועדים לתחום הרפואה והבריאות. מדובר במערכות חכמות שמסוגלות לפענח צילומי רנטגן ו-MRI במהירות שיא, אלגוריתמים שחוזים הידרדרות במצבם של חולים מונשמים, וצ'אטבוטים רפואיים שמתשאלים מטופלים לפני המפגש עם הרופא.

ההבטחה היא עצומה: רפואה מהירה יותר, מדויקת יותר, וזולה יותר, שתקל על העומס הבלתי נסבל בבתי החולים ובמרפאות הקהילה. ההתלהבות סביב הכלים הללו בקרב משקיעים וחברות טכנולוגיה נמצאת בשיאה, אבל מתחת לפני השטח מתחילה לבעבע שאלה מטרידה אחת: כמה מהטכנולוגיות הנוצצות האלו באמת נבדקו לעומק לפני שהן הוטמעו בקליניקה?

הפער המסוכן בין המעבדה למציאות בשטח

כאשר חברת סטארט-אפ מפתחת מודל AI רפואי, היא לרוב מאמנת אותו על מאגר נתונים ספציפי ו"סטרילי". בתנאי מעבדה אלו, המודל עשוי להציג ביצועים מרהיבים ואחוזי דיוק של מעל 95% בזיהוי מחלות. אולם, חוקרים מובילים מצביעים על כך שברגע שהטכנולוגיה יוצאת מהמעבדה ופוגשת את העולם האמיתי והכאוטי של בתי החולים – הביצועים לעיתים קרובות צונחים באופן דרמטי.

בעולם האמיתי, צילומי הרנטגן עשויים להיות מטושטשים, מכשירי הדימות שונים מבית חולים אחד למשנהו, והמטופלים מציגים תמונה קלינית מורכבת שאינה תואמת את נתוני האימון המקוריים. הפער הזה אינו רק בעיה טכנית; כשמדובר בחיי אדם, אבחון שגוי או פספוס של גידול סרטני עלולים להסתיים באסון.

סכנת ההטיה: האם ה-AI מטפל בכולם באופן שווה?

אחת הבעיות החמורות ביותר שמתגלות בבחינת כלי AI רפואיים היא סוגיית ההטיה האלגוריתמית. מודלים רבים אומנו בעיקר על נתונים רפואיים של אוכלוסיות מסוימות (לרוב אוכלוסיות מערביות, מבוססות ובעלות גישה לשירותי בריאות מתקדמים).

התוצאה היא מערכות שעובדות מצוין עבור קבוצה דמוגרפית אחת, אך מציגות אחוזי שגיאה גבוהים משמעותית כאשר הן נדרשות לאבחן מטופלים ממוצא אתני שונה, או מאזורים גיאוגרפיים אחרים. חוסר הגיוון בנתוני האימון עלול להעמיק את אי-השוויון הקיים ממילא במערכת הבריאות, ולהוביל למצב שבו טכנולוגיה שנועדה להציל חיים, מפלה בפועל קבוצות מיעוט ומונעת מהן טיפול מיטבי.

הצורך הדחוף בשקיפות וברגולציה מעודכנת

כדי להתמודד עם האתגרים הללו, הקהילה הרפואית דורשת כיום לשנות את הכללים. לא מספיק שחברת טכנולוגיה תפרסם מאמר המעיד על הצלחת המודל שלה. נדרשים ניסויים קליניים מקיפים, אובייקטיביים וארוכי טווח בעולם האמיתי, בדומה לתהליך האישור שעוברת כל תרופה חדשה לפני שהיא מגיעה למדפים. סוכנויות רגולטוריות, כמו ה-FDA האמריקאי, מנסות להדביק את הפער הטכנולוגי ומתחילות לדרוש הוכחות חותכות יותר ליעילות ולבטיחות של כלי תוכנה רפואיים. בנוסף, ישנה קריאה גוברת לשקיפות מלאה מצידן של החברות המפתחות – רופאים ומטופלים חייבים לדעת על אילו נתונים אומן האלגוריתם, מהן המגבלות שלו, ובאילו מקרים אסור להסתמך עליו.

מה זה אומר עבורנו, כמטופלים מן השורה?

הכניסה של בינה מלאכותית לעולם הרפואה היא בלתי נמנעת, ופוטנציאל הריפוי והסיוע שלה הוא כביר. עם זאת, אנחנו, כמטופלים, צריכים להישאר ערניים ומעורבים. כאשר מציעים לנו אבחון או טיפול המבוססים על כלים טכנולוגיים חדשים, זכותנו לשאול שאלות: עד כמה הכלי הזה מבוסס? האם הרופא מסתמך עליו באופן בלעדי או ככלי עזר בלבד לשיקול דעתו המקצועי? טכנולוגיה היא משרתת נהדרת, אך היא אינה תחליף לאמפתיה, לניסיון הקליני וליחס האנושי של צוות רפואי מיומן. נחשפתם למידע מועיל? שתפו את הכתבה עם בני משפחה וחברים כדי שכולנו נגיע לביקור הבא אצל הרופא מודעים, חכמים ומוכנים יותר לעידן הרפואה הדיגיטלית!