ארגון ה-AI הישראליארגון ה-AI הישראלי
תרשים זרימה של תהליך רכש אוטומטי עם נקודת אישור חסרה
הטמעת AI בארגוניםמקרה בוחן

התהליך האוטומטי אישר הזמנה של עשרות אלפי שקלים בלי חתימה: מה אסור לתת ל-AI לעשות לבד

ליאור אברהםליאור אברהם 3 דק׳ קריאה

"זה פשוט קרה, בלי שאף אחד שם לב." כך פתח עומר, מנהל פרויקטים בארגון גדול, את השיחה שלנו. הצוות שלו בדיוק סיים לבנות תהליך אוטומטי חדש, מבוסס בינה מלאכותית, לטיפול בבקשות רכש. הרעיון היה נכון: לייעל, לחסוך זמן ולצמצם טעויות אנוש. ובשבועות הראשונים נראה שהכול עובד חלק.

ואז בקשה אחת, רגישה במיוחד, עברה את כל השלבים בלי שאף אחד אישר אותה. לא המנהל הישיר, לא הכספים ולא אחראי הרכש. הזמנה בעלות של עשרות אלפי שקלים נשלחה אוטומטית לספק חיצוני.

המקרה אמיתי. השם והפרטים המזהים שונו.

בקצרה
  • תהליך רכש אוטומטי מבוסס AI שלח לספק הזמנה של עשרות אלפי שקלים בלי שאף אחד אישר אותה.
  • הסיבה: סף סכום שלא עודכן, בלי נקודת עצירה, בלי בעלים ובלי בקרה אנושית.
  • הכלל: מה שלא הייתם נותנים לעובד חדש לעשות לבד, אל תתנו גם ל-AI.

איך זה קרה

המערכת עבדה לפי כלל פשוט: "אם סוג הבקשה הוא X והעלות נמוכה מ-Y, אין צורך באישור ידני." אלא שבמקרה הזה סף הסכום לא עודכן בהגדרות, והבקשה עברה למרות שהייתה חריגה. והחלק הכי מטריד: אף אחד לא שם לב. רק כשעובד ראה את ההזמנה בפועל ונבהל, התחילו לחקור לאחור.

בתחקיר התברר שלושה דברים:

  • לא הייתה בתהליך אף נקודת עצירה.
  • לא הוגדר מי אחראי לאישור חריגים.
  • לא הייתה בקרה אנושית בשום שלב.

כשהכול אוטומטי, גם הטעות אוטומטית.

הבעיה לא הייתה במערכת

המערכת עשתה בדיוק מה שאמרו לה. הבעיה הייתה בתכנון: אף אחד לא מיפה מראש את הצמתים שבהם טעות עולה כסף, ואף אחד לא שאל "מה יקרה אם ההגדרה הזו שגויה?". זה נכון לכל אוטומציה, אבל עם AI זה חשוב שבעתיים: ככל שהמערכת "חכמה" יותר, כך קל יותר לסמוך עליה בלי לבדוק.

והסיכון רק גדל. סוכני AI, כמו Dots של ChatGPT ודומיו, כבר לא רק ממליצים. הם מבצעים פעולות: שולחים מיילים, ממלאים טפסים ומעדכנים מערכות. ארגון שלא הגדיר גבולות לאוטומציה פשוטה של רכש, לא יהיה מוכן לסוכן שעובד ברקע 24 שעות ביממה.

"מה שלא היית נותן לעובד חדש לעשות לבד ביום הראשון שלו, אל תיתן גם לבינה מלאכותית." — ליאור אברהם, מייסד ארגון ה-AI הישראלי

איך היינו מונעים את זה

  1. מיפוי צמתים קריטיים לפני כתיבת שורת קוד. לכל שלב בתהליך שואלים: מה הנזק המקסימלי אם הוא טועה? איפה שהתשובה היא "כסף", "לקוח" או "רגולציה", חייבת להיות נקודת בקרה.
  2. אישור כפול במקרים רגישים וחריגים. סכום מעל סף, ספק חדש או בקשה שלא מתאימה לדפוס הרגיל עוצרים אוטומטית ומחכים לאדם.
  3. ברירת מחדל בטוחה. כשההגדרה חסרה או לא ברורה, התהליך עוצר. הוא לא ממשיך הלאה.
  4. התראות בזמן אמת על חריגות. דוח יומי קצר: מה עבר אוטומטית, מה נעצר ומה חריג. מישהו אחד אחראי לעבור עליו.
  5. תיעוד פשוט ובעלות ברורה. מסמך של עמוד אחד שמסביר מי עושה מה ומתי, ומי הבעלים של כל כלל במערכת. כלל בלי בעלים הוא כלל שאף אחד לא יעדכן.
  6. בדיקה תקופתית של הספים. הגדרות שנקבעו ביום ההשקה מתיישנות: מחירים עולים, ספקים מתחלפים. פעם ברבעון עוברים עליהן.

מסגרות מקובלות לניהול סיכוני AI, כמו AI Risk Management Framework של NIST, מדגישות בדיוק את העקרונות האלה: לזהות מראש היכן נדרש פיקוח אנושי, ולוודא שיש מי שאחראי עליו.

מה לתת ל-AI לעשות לבד, ומה לא

רמת סיכוןדוגמאותרמת אוטומציה מומלצת
נמוכהסיווג פניות, ניסוח טיוטה, סיכום מסמךאוטומטי מלא, עם בדיקה מדגמית
בינוניתתשובה ללקוח, עדכון רשומה במערכת, הזמנה שגרתית מתחת לסףאוטומטי עם התראה ואפשרות לבטל
גבוההתשלום, הזמנה חריגה, התחייבות מול ספק, החלטה על עובדAI מכין, אדם מאשר. תמיד

תבנית: מפת נקודות בקרה לתהליך אוטומטי

לפני שמחברים AI לתהליך, ממלאים טבלה כזו לכל שלב. אם בעמודה האחרונה ריק, התהליך לא עולה לאוויר:

שלבמה יכול להשתבשנזק מקסימליבקרהבעלים
סיווג הבקשהסיווג שגויניתוב לגורם הלא נכוןבדיקה מדגמית שבועית[שם]
בדיקת סף סכוםסף לא מעודכןהזמנה חריגה בלי אישורעצירה אוטומטית כשאין ערך תקין[שם]
שליחה לספקהזמנה כפולה או שגויההתחייבות כספיתאישור אנושי מעל [סכום][שם]

ומה עם סוכני AI?

הכלל הזה הופך קריטי עוד יותר עם סוכנים שפועלים ברקע, כמו Dots של ChatGPT, Gemini Spark ודומיהם. לפני שמחברים סוכן למערכת שמזיזה כסף, כדאי להגדיר לו הרשאות מינימליות: לקרוא ולהכין, אבל לא לשלוח ולא לאשר. את ההרחבה עושים בהדרגה, אחרי שבועות של בקרה ומדידה.

עוד כלים, מדריכים ומקרים בתחום תמצאו בעמוד AI לתפעול ורכש, ותבניות מוכנות למדיניות ולנהלים בערכת הטמעת ה-AI החינמית שלנו.

השורה התחתונה

האוטומציה בארגון של עומר לא נכשלה. היא עבדה מצוין, וזו בדיוק הבעיה: היא עבדה גם כשהיא לא הייתה אמורה לעבוד. לפני שמחברים AI לתהליך שמזיז כסף, צריך להחליט מראש איפה הוא עוצר ומי מאשר. הזמן שמשקיעים במיפוי הזה קטן בהרבה מהזמן שמשקיעים אחר כך בתחקיר.

שאלות ותשובות
תשלומים, הזמנות חריגות, התחייבויות מול ספקים והחלטות שנוגעות לעובדים או ללקוחות. בפעולות כאלה ה-AI מכין, ואדם מאשר.
הצטרפו לקבוצת הווטסאפ שלנו לעדכונים

תגיות:

שתפו את הכתבה:

עוד כתבות שיעניינו אותך

DPO בעידן ה-AI: מה עושה ממונה הגנת הפרטיות, איפה הוא יושב בארגון וכמה הוא מרוויח
מדריכים• ליאור אברהם• 21 בנובמבר

DPO בעידן ה-AI: מה עושה ממונה הגנת הפרטיות, איפה הוא יושב בארגון וכמה הוא מרוויח

המדריך המלא לתפקיד ה-DPO: איך נולד, מה תיקון 13 וההנחיה הסופית של הרשות דורשים, למי הוא מדווח, אילו הסמכות שוות משהו, כמה מרוויחים בישראל ובעולם, ואיך ה-AI הופך אותו לאחד האנשים החשובים בארגון.

מה זה MCP? המדריך המלא ל-Model Context Protocol בארגון (2026)
מדריכים• ליאור אברהם• 15 בנובמבר

מה זה MCP? המדריך המלא ל-Model Context Protocol בארגון (2026)

MCP הוא התקן הפתוח שמחבר את Claude, ChatGPT, Gemini ו-Copilot למערכות של הארגון. מה זה בעברית פשוטה, איך זה עובד, מה ארגונים עושים עם זה בכל מחלקה, ממה להיזהר ואיך מתחילים.

מתחילים להתחשבן? מיקרוסופט שמה תקציב טוקנים לעובדים, ומה זה אומר על העובדים אצלכם
חדשות AIGeektime• ליאור אברהם• 13 בנובמבר

מתחילים להתחשבן? מיקרוסופט שמה תקציב טוקנים לעובדים, ומה זה אומר על העובדים אצלכם

מיקרוסופט הודיעה לעובדים שלה ששריפת טוקנים היא לא המטרה, הגדירה תקציב לכל חטיבה ועברה למודל זול יותר. מה קרה, למה זה קורה בכל החברות הגדולות, ואיך למדוד עובדים בעידן ה-AI בלי להפחיד אותם.

7 דרכים שבהן חברות ענק כבר משתמשות בבוט קולי, ומה הארגון שלכם יכול ללמוד מהן
מדריכים• ליאור אברהם• 13 בנובמבר

7 דרכים שבהן חברות ענק כבר משתמשות בבוט קולי, ומה הארגון שלכם יכול ללמוד מהן

בנק שעונה בטלפון 24/7, רשת נופש עם פקידת קבלה וירטואלית ובוט אחד שמדבר 35 שפות. שבעה מקרים אמיתיים של בוט קולי בארגונים גדולים, ומה ללמוד מהם לפני שמטמיעים במוקד שלכם.

שירות לקוחות עם AI ב-2027: מה עובד, מי נכשל, וכמה זה יחסוך למוקד שלכם
מדריכים• ליאור אברהם• 12 בנובמבר

שירות לקוחות עם AI ב-2027: מה עובד, מי נכשל, וכמה זה יחסוך למוקד שלכם

Klarna החליפה 700 נציגים בבוט וחזרה לגייס בני אדם. מה באמת עובד בשירות לקוחות עם AI, 5 חידושים שיגיעו ב-2027, דוגמאות מהעולם, ומחשבון שמראה אם בוט משתלם לכם.

Claude נכנס למשרד: Meetings, Sheets ו-Whiteboards הופכים אותו לכלי העבודה של הארגון
חדשות AIAnthropic• ליאור אברהם• 10 בנובמבר

Claude נכנס למשרד: Meetings, Sheets ו-Whiteboards הופכים אותו לכלי העבודה של הארגון

Anthropic השיקה גיליונות, לוחות משותפים, דשבורדים ונוכחות בפגישות, ומניית מיקרוסופט ירדה ב-3%. מה הושק, איך זה מתחבר לכל מה ש-Claude בנה השנה, ומה ארגון צריך להחליט עכשיו.

מחשבון בוט AI לשירות לקוחות
כלים• ליאור אברהם• 10 בנובמבר

מחשבון בוט AI לשירות לקוחות

כמה יחסוך בוט AI למוקד שלכם? מזינים מספר פניות, זמן טיפול ועלות נציג, ומקבלים את עלות המוקד עם בוט ובלעדיו, חיסכון חודשי, החזר השקעה ומשרות שמתפנות.

Smart Reports של Claude:  כעת המנהלים יכולים לדעת מה העובדים מפתחים  ב - AI
חדשות AIAnthropic• ליאור אברהם• 8 בנובמבר

Smart Reports של Claude: כעת המנהלים יכולים לדעת מה העובדים מפתחים ב - AI

Anthropic השיקה דוחות חכמים ל-Claude Enterprise שמנתחים את העבודה של כל צוות: מה נעשה, כמה זה עלה ואיפה העבודה נתקעת. למי זה שימושי, מה בדיוק יש בדוח, ומה צריך לסדר לפני שמפעילים.

למה הארגון שלכם חייב לגלות שהוא משתמש ב-AI, ומה יקרה אם לא
מדריכים• ליאור אברהם• 5 בנובמבר

למה הארגון שלכם חייב לגלות שהוא משתמש ב-AI, ומה יקרה אם לא

בוט תמיכה שהמציא מדיניות, קול AI שהוביל לקנס של 6 מיליון דולר, וציון אלגוריתמי שהסתיים בהסדר של 2.3 מיליון. בכל המקרים הלקוח לא ידע שמולו AI. מה החוק כבר דורש, ולמה כדאי להצטרף לתו AI אחראי עכשיו.

כמה עולה AI לארגון? מחירי ChatGPT, Claude, Copilot ו-Gemini לעסקים בהשוואה (2026)
מדריכים• ליאור אברהם• 1 בנובמבר

כמה עולה AI לארגון? מחירי ChatGPT, Claude, Copilot ו-Gemini לעסקים בהשוואה (2026)

מחירי כל מסלולי העסקים של ChatGPT, Claude, Microsoft 365 Copilot ו-Gemini, ישירות מעמודי התמחור הרשמיים: מחיר למשתמש, מה כלול, מנוי מול API, דוגמת חישוב לארגון של 50 עובדים והעלויות שלא מופיעות בעמוד התמחור.

הצטרפו אלינו