"לא ברור מה קרה," סיפרה לי רוית, מנהלת גיוס ותיקה בחברת טכנולוגיה מצליחה. "עשינו הכול לפי הספר: הכנסנו מערכת בינה מלאכותית לסינון קורות חיים, הגדרנו פרמטרים ברורים, חיברנו אותה למערכת משאבי האנוש. ודווקא אז משהו התפקשש. כל המועמדים שהמערכת העלתה נראו כמעט זהים."
המקרה אמיתי. השם והפרטים המזהים שונו.
בקצרה- מערכת AI לסינון קורות חיים למדה מהגיוסים הקודמים של הארגון, והתחילה להעלות מועמדים כמעט זהים.
- זה קרה גם ל-Amazon ב-2018. ה-EU AI Act מסווג מערכות גיוס כמערכות בסיכון גבוה.
- הפתרון: דוגמאות מגוונות, גיוון כיעד מוצהר, בקרה אנושית ובדיקה רבעונית של התפלגות המועמדים.
- זה בדיוק מה ש-AI אחראי אומר בפועל: אדם מאחורי ההחלטה, שקיפות מול המועמדים ובדיקת הטיה קבועה.
ההתלהבות, ואז השאלות
בהתחלה כולם היו מרוצים: פחות זמן סינון, פחות קורות חיים לא רלוונטיים, יותר זמן לראיונות איכותיים. ואז הגיעו השאלות. איפה הנשים? איפה המועמדים מהמגזר החרדי, מהחברה הערבית, מהפריפריה? למה אין אף מועמד עם רקע קצת שונה או מסלול קריירה לא שגרתי?
כשהסתכלנו לעומק, התמונה התבהרה. המערכת למדה מהסינונים הקודמים של הארגון, אבל הסינונים האלה שיקפו הטיה שכבר הייתה קיימת. המילים שחזרו שוב ושוב בקורות החיים של מי שנקלטו בעבר הפכו ל"זהב" בעיני המודל. כל מה שלא הופיע במסה של העבר קיבל ציון נמוך. בלי ששמנו לב, בנינו מערכת שמנציחה את ההטיה במקום לתקן אותה.
זה כבר קרה לענקיות
זה לא מקרה מקומי. ב-2018 נחשף שAmazon גנזה כלי גיוס מבוסס AI, אחרי שהתברר שהוא מוריד ציון לקורות חיים שמופיעה בהם המילה "women's". הסיבה זהה: המודל למד מעשר שנים של גיוסים שבהם רוב המועסקים בתפקידים טכניים היו גברים.
והרגולציה כבר כאן. ה-EU AI Act מסווג מערכות AI לגיוס ולסינון מועמדים כמערכות בסיכון גבוה, עם דרישות לניהול סיכונים, לאיכות נתונים ולפיקוח אנושי. חברה ישראלית שמגייסת באירופה, או שמוכרת שם מערכות כאלה, צריכה להיערך לכך כבר עכשיו.
מה היה חסר
- קלט מגוון. המערכת למדה רק מהעבר של הארגון, על כל ההטיות שבו.
- מטרה מוצהרת. אף אחד לא הגדיר גיוון כיעד שהמערכת צריכה לשמור עליו.
- בקרה אנושית. לא היה שלב שבו אדם בודק את הדפוסים שהמערכת מייצרת.
- מנהלת הגיוס בחוץ. רוית, שמכירה את התפקידים והאנשים יותר מכולם, לא הייתה שותפה בהגדרת הקריטריונים.
אמרתי לרוית: "תחשבי שעובד חדש מצטרף לצוות ואומר: 'אני אבחר לבד את המועמדים, לפי מה שהיה פה עד עכשיו'. היית נותנת לו לעבוד לבד, בלי חפיפה?" היא ענתה מיד: "ברור שלא. זה מסוכן מדי." בדיוק. גם בינה מלאכותית צריכה חפיפה. היא צריכה להבין את הערכים שלך, ולקבל דוגמאות למה זה מועמד טוב וגם שונה.
כלי חינמי: מערכות לסינון מועמדים מסווגות בחוק האירופי כסיכון גבוה. בודק ה-EU AI Act מראה אילו חובות חלות על מערכת הגיוס שלכם ומתי.
איך תיקנו את זה
המערכת לא הוצאה מהשימוש. היא עברה חינוך מחדש. רוית והצוות שלה הגדירו מחדש את הקריטריונים, הכניסו דוגמאות מגוונות של מועמדים מצליחים, והוסיפו שלב קבוע של ביקורת אנושית על רשימות הסינון. ומאז, פתאום צצו מועמדים חדשים: מפתיעים, טובים ומגוונים. כשרוית שלחה לי מייל עם הכותרת "הפעם, גייסנו אחרת", ידעתי שהמערכת שלה סוף סוף הבינה את האנשים.
"בינה מלאכותית לא שואלת אתכם אם להיות הוגנת. היא פשוט משכפלת את מה שהיא למדה. אתם אלה שצריכים ללמד אותה טוב יותר."
ליאור אברהם, מייסד ארגון ה-AI הישראלי
זה בדיוק מה ש-AI אחראי אומר
"AI אחראי" נשמע לפעמים כמו סיסמה של מצגת. המקרה של רוית מראה שזה הדבר הכי מעשי שיש. כל אחד מארבעת הדברים שהיו חסרים אצלה הוא עיקרון מוכר של שימוש אחראי ב-AI:
| מה היה חסר | העיקרון | איך זה נראה בגיוס |
| קלט מגוון | הוגנות | בודקים על מה המערכת לומדת, ומודדים אם היא מעדיפה קבוצה מסוימת |
| בקרה אנושית | אדם מאחורי ההחלטה | אף מועמד לא נפסל רק כי מכונה דירגה אותו נמוך |
| מטרה מוצהרת | אחריותיות | יש בעל תפקיד שאחראי על המערכת ועל התוצאות שלה, בשם ובתפקיד |
| מנהלת הגיוס בחוץ | שקיפות | המועמדים יודעים ש-AI משתתף בסינון, ויודעים למי לפנות אם יש להם שאלה |
הנקודה האחרונה חשובה במיוחד. מועמד שנדחה לא יודע אם קרא אותו אדם או אלגוריתם, וזה בדיוק המקום שבו אמון נשבר. כתבנו על זה בהרחבה בלמה הארגון שלכם חייב לגלות שהוא משתמש ב-AI. וגם הרגולציה מתקדמת: מערכות AI בגיוס צפויות להיות מחויבות בדרישות הסיכון הגבוה של החוק האירופי, וכל המידע על המועמדים כבר היום כפוף לחוק הגנת הפרטיות ולתיקון 13 שלו. הסקירה המלאה נמצאת במדריך הרגולציה שלנו לישראל ולאיחוד האירופי.
כדי שלארגונים יהיה דרך פשוטה להראות את זה החוצה, הקמנו את תו AI אחראי. הוא חינמי, והוא מראה ללקוחות ולמועמדים איפה הארגון משתמש ב-AI, מי אחראי עליו, ושיש אדם מאחורי כל החלטה שמשפיעה עליהם. מחלקת גיוס שמשתמשת ב-AI לסינון ומציגה את התו בעמוד המשרות שולחת למועמדים מסר ברור: אצלנו מכונה לא מחליטה עליכם לבד.
מה אתם יכולים לעשות כבר עכשיו
| שלב | מה עושים | מי אחראי |
| לפני ההטמעה | בודקים על אילו נתונים המערכת לומדת, ואילו הטיות יש בהם | משאבי אנוש + ספק המערכת |
| הגדרת קריטריונים | מגדירים גיוון כערך, לא רק כאילוץ, ומכניסים דוגמאות מגוונות | מנהלי הגיוס |
| בזמן אמת | אדם עובר על רשימות הסינון ומחפש דפוסים חוזרים מדי | רכז הגיוס |
| אחת לרבעון | בודקים את התפלגות המועמדים שעברו את הסינון לעומת כלל הפונים | משאבי אנוש + יועץ משפטי |
מה לשאול ספק של מערכת גיוס מבוססת AI
לפני שחותמים, כדאי לקבל תשובות כתובות לשאלות האלה:
- על אילו נתונים המערכת אומנה, והאם היא ממשיכה ללמוד מההחלטות שלנו?
- אילו בדיקות הטיה בוצעו, על אילו קבוצות, ומה היו התוצאות?
- האם אפשר לקבל הסבר לכל דירוג של מועמד?
- איך המערכת עומדת בדרישות ה-EU AI Act למערכות בסיכון גבוה, אם אנחנו מגייסים באירופה?
- היכן נשמר המידע של המועמדים, לכמה זמן, ומי יכול לגשת אליו?
בדיקה רבעונית פשוטה
אין צורך בכלי מתוחכם כדי לזהות בעיה. פעם ברבעון משווים את התפלגות המועמדים שעברו את הסינון להתפלגות כלל הפונים, לפי מגדר, גיל ואזור מגורים, ככל שהמידע נאסף כחוק. פער גדול ועקבי הוא סימן לבדוק את המערכת לעומק, לפני שהוא הופך לבעיה משפטית או תדמיתית.
עוד כלים, מדריכים ומקרים בתחום תמצאו בעמוד AI למשאבי אנוש, ותבניות מוכנות למדיניות ולנהלים בערכת הטמעת ה-AI החינמית שלנו.
השורה התחתונה
סינון קורות חיים עם AI יכול לחסוך מאות שעות, ולהביא מועמדים שבן אדם עייף היה מפספס. אבל רק אם מלמדים את המערכת מה באמת מחפשים, ולא רק מה חיפשו בעבר. מערכת גיוס בלי בקרה אנושית היא לא חיסכון. היא סיכון משפטי ותדמיתי שמחכה לקרות. וארגון שמראה בגלוי שהוא משתמש ב-AI באחריות, מרוויח דווקא מזה את האמון של המועמדים הטובים ביותר.