מחקר חדש חושף: חברות AI לא עומדות בסטנדרטים גלובליים לבטיחות!

מחקר מקיף מטעם המכון העולמי לבינה מלאכותית אחראית (Global AI Safety Institute) קובע כי חברות הבינה המלאכותית המובילות אינן מקפידות על נוהלי בטיחות מינימליים, ובכך חושפות את הציבור לסיכונים משמעותיים.

זוהי קריאת השכמה דחופה למקבלי ההחלטות ולרגולטורים ברחבי העולם, שכן הפיתוח המואץ של AI מתנהל ללא רשת ביטחון מספקת.

הבטחות לחוד ומציאות לחוד: האמת מאחורי נוהלי הבטיחות של חברות הבינה המלאכותית

הבינה המלאכותית (AI) ממשיכה לשנות את העולם בקצב מסחרר, אך במקביל לצמיחה הטכנולוגית, עולות דאגות הולכות וגוברות לגבי בטיחות, אתיקה והסיכונים הפוטנציאליים הטמונים בה. בעוד שחברות הטכנולוגיה הגדולות מבטיחות שקיפות ומחויבות לבטיחות, מחקר חדש שפורסם על ידי המכון העולמי לבינה מלאכותית אחראית (GAISI) מציג תמונה מדאיגה: בפועל, מרביתן אינן עומדות בסטנדרטים גלובליים קריטיים, וחשוב להבין מדוע זה קורה ומה המשמעות של ממצאים אלו.

הפער המדאיג: בין הצהרות לפעולות

המחקר, שניתח את נוהלי הבטיחות של עשרות חברות AI מובילות, בדק אותן אל מול סטנדרטים בינלאומיים המקובלים בתעשיית ההיי-טק, כמו גם עקרונות אתיים שנקבעו על ידי גופים רגולטוריים וממשלות. הממצא המרכזי הוא שרוב החברות, כולל כמה מהשחקניות הגדולות ביותר בתחום, נכשלו בבדיקה. הפער הוא לא רק ביישום של "צ'קליסטים" טכניים, אלא בליבת התרבות הארגונית: חוסר בשקיפות מלאה לגבי אימוני המודלים, היעדר מנגנוני דיווח אפקטיביים לזיהוי כשלים אתיים או הטיות, ובמקרים רבים, סדרי עדיפויות המעניקים משקל גבוה יותר למהירות הפיתוח מאשר לבחינת הסיכונים.

חוסר שקיפות בנתוני אימון: איפה הבעיה מתחילה?

אחד הכשלים המרכזיים שצוינו במחקר הוא חוסר השקיפות סביב נתוני האימון של מודלי ה-AI. כיצד ניתן לוודא שמודל הוא בטוח והוגן אם המפתחים לא חושפים את מקורות הנתונים, את שיטות הסינון, ואת הפעולות שנעשו כדי למנוע הטיות? המחקר טוען כי חוסר שקיפות זה מאפשר "להחביא" כשלים והטיות גזעיות, מגדריות או פוליטיות בתוך הליבה של המערכות, מה שעלול להוביל לנזק חברתי רחב. כאשר חברות אינן מוכנות לעבור ביקורת חיצונית בלתי תלויה על מערך הנתונים שלהן, קשה מאוד לאכוף כללי בטיחות כלשהם.

מעבר לרגולציה: הצורך בסטנדרט גלובלי מחייב

המחקר של GAISI קורא להקמת מנגנון רגולטורי גלובלי אחיד ומחייב. כיום, כל מדינה או גוש כלכלי (כמו האיחוד האירופי עם חוק ה-AI שלו) מנסים לקבוע כללים משלהם, אך AI היא טכנולוגיה גלובלית שאינה מכירה בגבולות. ללא סטנדרט משותף, חברות יכולות פשוט להעביר את הפיתוחים הפחות בטוחים שלהן למדינות עם רגולציה מקלה יותר – תופעה המכונה "מרוץ לתחתית" (Race to the bottom) במונחים של בטיחות. המחקר מציע מתווה הכולל דרישות לתיעוד מפורט של תהליך הפיתוח, חובת בדיקות סיכונים תקופתיות על ידי גורם חיצוני ופרוטוקולי תגובה ברורים במקרה של כשל בטיחותי.

המענה המקומי: ארגון ה-AI הישראלי והדרך לתקינה

בישראל, כמענה לצורך הדחוף הזה, פועל ארגון ה-AI הישראלי במטרה לגשר על הפערים הרגולטוריים ולסייע לחברות במשק הישראלי. הארגון ממוקד בסיוע לחברות וארגונים ישראליים לבנות תשתית של בינה מלאכותית אחראית (Responsible AI) מן היסוד. הסיוע כולל רישום ויישום של נהלי תקינה מותאמים אישית, הבטחת עמידה בתקנים גלובליים מחמירים (כמו תקני ISO רלוונטיים וחוק ה-AI האירופאי), וכן כתיבת מסמכי מדיניות ונהלים פנימיים מחייבים.

בכך, הארגון מאפשר לחברות ישראליות לא רק לעמוד בדרישות החוק העתידיות, אלא גם למתג עצמן כגופים הפועלים ברמת האתיקה והבטיחות הגבוהה ביותר בעולם, ובכך להגדיל את התחרותיות הגלובלית שלהן.

מהם הצעדים הבאים? קריאה לפעולה

הנתונים העגומים של המחקר משמשים כקריאת השכמה לא רק לחברות, אלא גם למשתמשים ולרגולטורים. עלינו לדרוש מחברות ה-AI אחריות גדולה יותר ושקיפות מוחלטת. כצרכנים, יש לנו כוח – אם נבחר להשתמש רק במוצרים המצהירים על עמידה בסטנדרטים גבוהים של בטיחות ואתיקה, נאלץ את התעשייה כולה להתיישר. הגיע הזמן להפסיק להסתפק בהבטחות ערטילאיות ולדרוש הוכחות קונקרטיות לכך שהבינה המלאכותית מפותחת בצורה אחראית ובטוחה. עתידנו הטכנולוגי והחברתי תלוי בכך.