ארגון ה-AI הישראליארגון ה-AI הישראלי
מנהלת גיוס מביטה במסך עם רשימת מועמדים דומים
הטמעת AI בארגוניםמקרה בוחן

מערכת ה-AI סיננה מועמדים, וכולם יצאו זהים: מקרה של הטיה בגיוס

ליאור אברהםליאור אברהם 5 דק׳ קריאהעודכן:

"לא ברור מה קרה," סיפרה לי רוית, מנהלת גיוס ותיקה בחברת טכנולוגיה מצליחה. "עשינו הכול לפי הספר: הכנסנו מערכת בינה מלאכותית לסינון קורות חיים, הגדרנו פרמטרים ברורים, חיברנו אותה למערכת משאבי האנוש. ודווקא אז משהו התפקשש. כל המועמדים שהמערכת העלתה נראו כמעט זהים."

המקרה אמיתי. השם והפרטים המזהים שונו.

בקצרה
  • מערכת AI לסינון קורות חיים למדה מהגיוסים הקודמים של הארגון, והתחילה להעלות מועמדים כמעט זהים.
  • זה קרה גם ל-Amazon ב-2018. ה-EU AI Act מסווג מערכות גיוס כמערכות בסיכון גבוה.
  • הפתרון: דוגמאות מגוונות, גיוון כיעד מוצהר, בקרה אנושית ובדיקה רבעונית של התפלגות המועמדים.
  • זה בדיוק מה ש-AI אחראי אומר בפועל: אדם מאחורי ההחלטה, שקיפות מול המועמדים ובדיקת הטיה קבועה.

ההתלהבות, ואז השאלות

בהתחלה כולם היו מרוצים: פחות זמן סינון, פחות קורות חיים לא רלוונטיים, יותר זמן לראיונות איכותיים. ואז הגיעו השאלות. איפה הנשים? איפה המועמדים מהמגזר החרדי, מהחברה הערבית, מהפריפריה? למה אין אף מועמד עם רקע קצת שונה או מסלול קריירה לא שגרתי?

כשהסתכלנו לעומק, התמונה התבהרה. המערכת למדה מהסינונים הקודמים של הארגון, אבל הסינונים האלה שיקפו הטיה שכבר הייתה קיימת. המילים שחזרו שוב ושוב בקורות החיים של מי שנקלטו בעבר הפכו ל"זהב" בעיני המודל. כל מה שלא הופיע במסה של העבר קיבל ציון נמוך. בלי ששמנו לב, בנינו מערכת שמנציחה את ההטיה במקום לתקן אותה.

זה כבר קרה לענקיות

זה לא מקרה מקומי. ב-2018 נחשף שAmazon גנזה כלי גיוס מבוסס AI, אחרי שהתברר שהוא מוריד ציון לקורות חיים שמופיעה בהם המילה "women's". הסיבה זהה: המודל למד מעשר שנים של גיוסים שבהם רוב המועסקים בתפקידים טכניים היו גברים.

והרגולציה כבר כאן. ה-EU AI Act מסווג מערכות AI לגיוס ולסינון מועמדים כמערכות בסיכון גבוה, עם דרישות לניהול סיכונים, לאיכות נתונים ולפיקוח אנושי. חברה ישראלית שמגייסת באירופה, או שמוכרת שם מערכות כאלה, צריכה להיערך לכך כבר עכשיו.

מה היה חסר

  • קלט מגוון. המערכת למדה רק מהעבר של הארגון, על כל ההטיות שבו.
  • מטרה מוצהרת. אף אחד לא הגדיר גיוון כיעד שהמערכת צריכה לשמור עליו.
  • בקרה אנושית. לא היה שלב שבו אדם בודק את הדפוסים שהמערכת מייצרת.
  • מנהלת הגיוס בחוץ. רוית, שמכירה את התפקידים והאנשים יותר מכולם, לא הייתה שותפה בהגדרת הקריטריונים.

אמרתי לרוית: "תחשבי שעובד חדש מצטרף לצוות ואומר: 'אני אבחר לבד את המועמדים, לפי מה שהיה פה עד עכשיו'. היית נותנת לו לעבוד לבד, בלי חפיפה?" היא ענתה מיד: "ברור שלא. זה מסוכן מדי." בדיוק. גם בינה מלאכותית צריכה חפיפה. היא צריכה להבין את הערכים שלך, ולקבל דוגמאות למה זה מועמד טוב וגם שונה.

כלי חינמי: מערכות לסינון מועמדים מסווגות בחוק האירופי כסיכון גבוה. בודק ה-EU AI Act מראה אילו חובות חלות על מערכת הגיוס שלכם ומתי.

איך תיקנו את זה

המערכת לא הוצאה מהשימוש. היא עברה חינוך מחדש. רוית והצוות שלה הגדירו מחדש את הקריטריונים, הכניסו דוגמאות מגוונות של מועמדים מצליחים, והוסיפו שלב קבוע של ביקורת אנושית על רשימות הסינון. ומאז, פתאום צצו מועמדים חדשים: מפתיעים, טובים ומגוונים. כשרוית שלחה לי מייל עם הכותרת "הפעם, גייסנו אחרת", ידעתי שהמערכת שלה סוף סוף הבינה את האנשים.

"בינה מלאכותית לא שואלת אתכם אם להיות הוגנת. היא פשוט משכפלת את מה שהיא למדה. אתם אלה שצריכים ללמד אותה טוב יותר."
ליאור אברהם, מייסד ארגון ה-AI הישראלי

זה בדיוק מה ש-AI אחראי אומר

"AI אחראי" נשמע לפעמים כמו סיסמה של מצגת. המקרה של רוית מראה שזה הדבר הכי מעשי שיש. כל אחד מארבעת הדברים שהיו חסרים אצלה הוא עיקרון מוכר של שימוש אחראי ב-AI:

מה היה חסרהעיקרוןאיך זה נראה בגיוס
קלט מגווןהוגנותבודקים על מה המערכת לומדת, ומודדים אם היא מעדיפה קבוצה מסוימת
בקרה אנושיתאדם מאחורי ההחלטהאף מועמד לא נפסל רק כי מכונה דירגה אותו נמוך
מטרה מוצהרתאחריותיותיש בעל תפקיד שאחראי על המערכת ועל התוצאות שלה, בשם ובתפקיד
מנהלת הגיוס בחוץשקיפותהמועמדים יודעים ש-AI משתתף בסינון, ויודעים למי לפנות אם יש להם שאלה

הנקודה האחרונה חשובה במיוחד. מועמד שנדחה לא יודע אם קרא אותו אדם או אלגוריתם, וזה בדיוק המקום שבו אמון נשבר. כתבנו על זה בהרחבה בלמה הארגון שלכם חייב לגלות שהוא משתמש ב-AI. וגם הרגולציה מתקדמת: מערכות AI בגיוס צפויות להיות מחויבות בדרישות הסיכון הגבוה של החוק האירופי, וכל המידע על המועמדים כבר היום כפוף לחוק הגנת הפרטיות ולתיקון 13 שלו. הסקירה המלאה נמצאת במדריך הרגולציה שלנו לישראל ולאיחוד האירופי.

כדי שלארגונים יהיה דרך פשוטה להראות את זה החוצה, הקמנו את תו AI אחראי. הוא חינמי, והוא מראה ללקוחות ולמועמדים איפה הארגון משתמש ב-AI, מי אחראי עליו, ושיש אדם מאחורי כל החלטה שמשפיעה עליהם. מחלקת גיוס שמשתמשת ב-AI לסינון ומציגה את התו בעמוד המשרות שולחת למועמדים מסר ברור: אצלנו מכונה לא מחליטה עליכם לבד.

מה אתם יכולים לעשות כבר עכשיו

שלבמה עושיםמי אחראי
לפני ההטמעהבודקים על אילו נתונים המערכת לומדת, ואילו הטיות יש בהםמשאבי אנוש + ספק המערכת
הגדרת קריטריוניםמגדירים גיוון כערך, לא רק כאילוץ, ומכניסים דוגמאות מגוונותמנהלי הגיוס
בזמן אמתאדם עובר על רשימות הסינון ומחפש דפוסים חוזרים מדירכז הגיוס
אחת לרבעוןבודקים את התפלגות המועמדים שעברו את הסינון לעומת כלל הפוניםמשאבי אנוש + יועץ משפטי

מה לשאול ספק של מערכת גיוס מבוססת AI

לפני שחותמים, כדאי לקבל תשובות כתובות לשאלות האלה:

  1. על אילו נתונים המערכת אומנה, והאם היא ממשיכה ללמוד מההחלטות שלנו?
  2. אילו בדיקות הטיה בוצעו, על אילו קבוצות, ומה היו התוצאות?
  3. האם אפשר לקבל הסבר לכל דירוג של מועמד?
  4. איך המערכת עומדת בדרישות ה-EU AI Act למערכות בסיכון גבוה, אם אנחנו מגייסים באירופה?
  5. היכן נשמר המידע של המועמדים, לכמה זמן, ומי יכול לגשת אליו?

בדיקה רבעונית פשוטה

אין צורך בכלי מתוחכם כדי לזהות בעיה. פעם ברבעון משווים את התפלגות המועמדים שעברו את הסינון להתפלגות כלל הפונים, לפי מגדר, גיל ואזור מגורים, ככל שהמידע נאסף כחוק. פער גדול ועקבי הוא סימן לבדוק את המערכת לעומק, לפני שהוא הופך לבעיה משפטית או תדמיתית.

עוד כלים, מדריכים ומקרים בתחום תמצאו בעמוד AI למשאבי אנוש, ותבניות מוכנות למדיניות ולנהלים בערכת הטמעת ה-AI החינמית שלנו.

השורה התחתונה

סינון קורות חיים עם AI יכול לחסוך מאות שעות, ולהביא מועמדים שבן אדם עייף היה מפספס. אבל רק אם מלמדים את המערכת מה באמת מחפשים, ולא רק מה חיפשו בעבר. מערכת גיוס בלי בקרה אנושית היא לא חיסכון. היא סיכון משפטי ותדמיתי שמחכה לקרות. וארגון שמראה בגלוי שהוא משתמש ב-AI באחריות, מרוויח דווקא מזה את האמון של המועמדים הטובים ביותר.

מקורות ואימות

הטענות העובדתיות בכתבה נבדקו מול המקורות הבאים.

  1. 1Amazon גנזה כלי גיוס מבוסס AIreuters.com
  2. 2מערכות AI לגיוס ולסינון מועמדים כמערכות בסיכון גבוהartificialintelligenceact.eu
שאלות ותשובות
כי הן לומדות מהחלטות הגיוס של העבר. אם בעבר נקלטו בעיקר מועמדים מסוג מסוים, המודל ילמד להעדיף אותם. כך קרה ל-Amazon, שגנזה ב-2018 כלי גיוס שהוריד ציון לקורות חיים של נשים.
הצטרפו לקבוצת הווטסאפ שלנו לעדכונים

תגיות:

שתפו את הכתבה:

עוד כתבות שיעניינו אותך

DPO בעידן ה-AI: מה עושה ממונה הגנת הפרטיות, איפה הוא יושב בארגון וכמה הוא מרוויח
מדריכים• ליאור אברהם• 21 בנובמבר

DPO בעידן ה-AI: מה עושה ממונה הגנת הפרטיות, איפה הוא יושב בארגון וכמה הוא מרוויח

המדריך המלא לתפקיד ה-DPO: איך נולד, מה תיקון 13 וההנחיה הסופית של הרשות דורשים, למי הוא מדווח, אילו הסמכות שוות משהו, כמה מרוויחים בישראל ובעולם, ואיך ה-AI הופך אותו לאחד האנשים החשובים בארגון.

מה זה MCP? המדריך המלא ל-Model Context Protocol בארגון (2026)
מדריכים• ליאור אברהם• 15 בנובמבר

מה זה MCP? המדריך המלא ל-Model Context Protocol בארגון (2026)

MCP הוא התקן הפתוח שמחבר את Claude, ChatGPT, Gemini ו-Copilot למערכות של הארגון. מה זה בעברית פשוטה, איך זה עובד, מה ארגונים עושים עם זה בכל מחלקה, ממה להיזהר ואיך מתחילים.

מתחילים להתחשבן? מיקרוסופט שמה תקציב טוקנים לעובדים, ומה זה אומר על העובדים אצלכם
חדשות AIGeektime• ליאור אברהם• 13 בנובמבר

מתחילים להתחשבן? מיקרוסופט שמה תקציב טוקנים לעובדים, ומה זה אומר על העובדים אצלכם

מיקרוסופט הודיעה לעובדים שלה ששריפת טוקנים היא לא המטרה, הגדירה תקציב לכל חטיבה ועברה למודל זול יותר. מה קרה, למה זה קורה בכל החברות הגדולות, ואיך למדוד עובדים בעידן ה-AI בלי להפחיד אותם.

7 דרכים שבהן חברות ענק כבר משתמשות בבוט קולי, ומה הארגון שלכם יכול ללמוד מהן
מדריכים• ליאור אברהם• 13 בנובמבר

7 דרכים שבהן חברות ענק כבר משתמשות בבוט קולי, ומה הארגון שלכם יכול ללמוד מהן

בנק שעונה בטלפון 24/7, רשת נופש עם פקידת קבלה וירטואלית ובוט אחד שמדבר 35 שפות. שבעה מקרים אמיתיים של בוט קולי בארגונים גדולים, ומה ללמוד מהם לפני שמטמיעים במוקד שלכם.

שירות לקוחות עם AI ב-2027: מה עובד, מי נכשל, וכמה זה יחסוך למוקד שלכם
מדריכים• ליאור אברהם• 12 בנובמבר

שירות לקוחות עם AI ב-2027: מה עובד, מי נכשל, וכמה זה יחסוך למוקד שלכם

Klarna החליפה 700 נציגים בבוט וחזרה לגייס בני אדם. מה באמת עובד בשירות לקוחות עם AI, 5 חידושים שיגיעו ב-2027, דוגמאות מהעולם, ומחשבון שמראה אם בוט משתלם לכם.

Claude נכנס למשרד: Meetings, Sheets ו-Whiteboards הופכים אותו לכלי העבודה של הארגון
חדשות AIAnthropic• ליאור אברהם• 10 בנובמבר

Claude נכנס למשרד: Meetings, Sheets ו-Whiteboards הופכים אותו לכלי העבודה של הארגון

Anthropic השיקה גיליונות, לוחות משותפים, דשבורדים ונוכחות בפגישות, ומניית מיקרוסופט ירדה ב-3%. מה הושק, איך זה מתחבר לכל מה ש-Claude בנה השנה, ומה ארגון צריך להחליט עכשיו.

מחשבון בוט AI לשירות לקוחות
כלים• ליאור אברהם• 10 בנובמבר

מחשבון בוט AI לשירות לקוחות

כמה יחסוך בוט AI למוקד שלכם? מזינים מספר פניות, זמן טיפול ועלות נציג, ומקבלים את עלות המוקד עם בוט ובלעדיו, חיסכון חודשי, החזר השקעה ומשרות שמתפנות.

Smart Reports של Claude:  כעת המנהלים יכולים לדעת מה העובדים מפתחים  ב - AI
חדשות AIAnthropic• ליאור אברהם• 8 בנובמבר

Smart Reports של Claude: כעת המנהלים יכולים לדעת מה העובדים מפתחים ב - AI

Anthropic השיקה דוחות חכמים ל-Claude Enterprise שמנתחים את העבודה של כל צוות: מה נעשה, כמה זה עלה ואיפה העבודה נתקעת. למי זה שימושי, מה בדיוק יש בדוח, ומה צריך לסדר לפני שמפעילים.

למה הארגון שלכם חייב לגלות שהוא משתמש ב-AI, ומה יקרה אם לא
מדריכים• ליאור אברהם• 5 בנובמבר

למה הארגון שלכם חייב לגלות שהוא משתמש ב-AI, ומה יקרה אם לא

בוט תמיכה שהמציא מדיניות, קול AI שהוביל לקנס של 6 מיליון דולר, וציון אלגוריתמי שהסתיים בהסדר של 2.3 מיליון. בכל המקרים הלקוח לא ידע שמולו AI. מה החוק כבר דורש, ולמה כדאי להצטרף לתו AI אחראי עכשיו.

כמה עולה AI לארגון? מחירי ChatGPT, Claude, Copilot ו-Gemini לעסקים בהשוואה (2026)
מדריכים• ליאור אברהם• 1 בנובמבר

כמה עולה AI לארגון? מחירי ChatGPT, Claude, Copilot ו-Gemini לעסקים בהשוואה (2026)

מחירי כל מסלולי העסקים של ChatGPT, Claude, Microsoft 365 Copilot ו-Gemini, ישירות מעמודי התמחור הרשמיים: מחיר למשתמש, מה כלול, מנוי מול API, דוגמת חישוב לארגון של 50 עובדים והעלויות שלא מופיעות בעמוד התמחור.

הצטרפו אלינו