"לא ברור מה קרה," סיפרה לי רוית, מנהלת גיוס ותיקה בחברת טכנולוגיה מצליחה. "עשינו הכול לפי הספר: הכנסנו מערכת בינה מלאכותית לסינון קורות חיים, הגדרנו פרמטרים ברורים, חיברנו אותה למערכת משאבי האנוש. ודווקא אז משהו התפקשש. כל המועמדים שהמערכת העלתה נראו כמעט זהים."
המקרה אמיתי. השם והפרטים המזהים שונו.
- מערכת AI לסינון קורות חיים למדה מהגיוסים הקודמים של הארגון, והתחילה להעלות מועמדים כמעט זהים.
- זה קרה גם ל-Amazon ב-2018. ה-EU AI Act מסווג מערכות גיוס כמערכות בסיכון גבוה.
- הפתרון: דוגמאות מגוונות, גיוון כיעד מוצהר, בקרה אנושית ובדיקה רבעונית של התפלגות המועמדים.
ההתלהבות, ואז השאלות
בהתחלה כולם היו מרוצים: פחות זמן סינון, פחות קורות חיים לא רלוונטיים, יותר זמן לראיונות איכותיים. ואז הגיעו השאלות. איפה הנשים? איפה המועמדים מהמגזר החרדי, מהחברה הערבית, מהפריפריה? למה אין אף מועמד עם רקע קצת שונה או מסלול קריירה לא שגרתי?
כשהסתכלנו לעומק, התמונה התבהרה. המערכת למדה מהסינונים הקודמים של הארגון, אבל הסינונים האלה שיקפו הטיה שכבר הייתה קיימת. המילים שחזרו שוב ושוב בקורות החיים של מי שנקלטו בעבר הפכו ל"זהב" בעיני המודל. כל מה שלא הופיע במסה של העבר קיבל ציון נמוך. בלי ששמנו לב, בנינו מערכת שמנציחה את ההטיה במקום לתקן אותה.
זה כבר קרה לענקיות
זה לא מקרה מקומי. ב-2018 נחשף שAmazon גנזה כלי גיוס מבוסס AI, אחרי שהתברר שהוא מוריד ציון לקורות חיים שמופיעה בהם המילה "women's". הסיבה זהה: המודל למד מעשר שנים של גיוסים שבהם רוב המועסקים בתפקידים טכניים היו גברים.
והרגולציה כבר כאן. ה-EU AI Act מסווג מערכות AI לגיוס ולסינון מועמדים כמערכות בסיכון גבוה, עם דרישות לניהול סיכונים, לאיכות נתונים ולפיקוח אנושי. חברה ישראלית שמגייסת באירופה, או שמוכרת שם מערכות כאלה, צריכה להיערך לכך כבר עכשיו.
מה היה חסר
- קלט מגוון. המערכת למדה רק מהעבר של הארגון, על כל ההטיות שבו.
- מטרה מוצהרת. אף אחד לא הגדיר גיוון כיעד שהמערכת צריכה לשמור עליו.
- בקרה אנושית. לא היה שלב שבו אדם בודק את הדפוסים שהמערכת מייצרת.
- מנהלת הגיוס בחוץ. רוית, שמכירה את התפקידים והאנשים יותר מכולם, לא הייתה שותפה בהגדרת הקריטריונים.
אמרתי לרוית: "תחשבי שעובד חדש מצטרף לצוות ואומר: 'אני אבחר לבד את המועמדים, לפי מה שהיה פה עד עכשיו'. היית נותנת לו לעבוד לבד, בלי חפיפה?" היא ענתה מיד: "ברור שלא. זה מסוכן מדי." בדיוק. גם בינה מלאכותית צריכה חפיפה. היא צריכה להבין את הערכים שלך, ולקבל דוגמאות למה זה מועמד טוב וגם שונה.
