תחשבו על לקוח שכותב למחלקת התמיכה שלכם, ומקבל תשובה מנומסת וחתומה בשם פרטי. הוא לא יודע שענה לו בוט. הוא בטוח שזו עמדה רשמית של החברה. ועכשיו תחשבו שהבוט המציא את התשובה.
זה לא תרחיש תיאורטי. זה קרה לחברות אמיתיות, ובכל המקרים שאני מביא כאן אותה טעות עלתה ביוקר: ביטולי מנויים, קנסות של מיליוני דולרים ותביעות ייצוגיות. אפשר להמשיך להתווכח אם AI טוב או מסוכן, אבל את הלקח הזה כדאי לקחת כבר עכשיו: הבעיה הגדולה היא לא שהשתמשתם ב-AI. הבעיה היא שהלקוח לא ידע.
בכתבה הזו אני עובר על שלושה מקרים קיצוניים, מסביר מה החוק כבר דורש, ולמה הקמנו בארגון ה-AI הישראלי את תו AI אחראי. בסוף יש גם מה לעשות כבר השבוע.
מקרה ראשון: Cursor, והבוט שהמציא מדיניות
Cursor היא אחת מחברות ה-AI המצליחות בעולם. היא מוכרת עורך קוד מבוסס AI למפתחים. באפריל 2025 משתמשים התחילו להתנתק מהחשבון בכל פעם שעברו בין מחשבים. אחד מהם כתב לתמיכה, וקיבל תשובה ממי שהציג את עצמו בשם "Sam". לפי התשובה, החברה מאפשרת שימוש במכשיר אחד בלבד למנוי, וזו מדיניות אבטחה מכוונת.
הבעיה: מדיניות כזו לא הייתה קיימת. Sam היה בוט, ואף אחד לא אמר למשתמשים. הם התייחסו לתשובה כאל החלטה רשמית, הסערה עלתה ל-Reddit ול-Hacker News, וחלק מהמשתמשים הודיעו שהם מבטלים את המנוי. אחד המייסדים נאלץ להתנצל בפומבי ולהסביר שזו הייתה "תשובה שגויה של בוט תמיכה". לקוחות שנפגעו קיבלו החזר כספי (The Register).
שימו לב לתיקון שהחברה עשתה אחרי הסערה: מעכשיו כל תשובה שנכתבת ב-AI בתמיכה במייל מסומנת ככזו (Slashdot). שורה אחת. אילו הייתה שם מההתחלה, הלקוח היה מבין שמדובר בבוט שיכול לטעות, היה מבקש נציג, והסיפור לא היה מגיע לכותרות.
הלקח לארגון: הזיה של מודל היא בעיה טכנית. הזיה שהלקוח חושב שהיא מדיניות של החברה היא כבר בעיה עסקית.
מקרה שני: קול AI של נשיא ארה"ב, וקנס של 6 מיליון דולר
בינואר 2024, יומיים לפני הבחירות המקדימות בניו המפשייר, אלפי בוחרים קיבלו שיחת טלפון מוקלטת. הקול נשמע בדיוק כמו של הנשיא ג'ו ביידן, והוא קרא להם לא להצביע. זה לא היה ביידן. יועץ פוליטי בשם סטיב קרמר שכר אדם שיצר את ההקלטה בכלי שיבוט קול מבוסס AI. אף אחד מהשומעים לא ידע שהוא שומע קול מלאכותי.
המחיר הגיע מכמה כיוונים:
רשות התקשורת האמריקאית (FCC) הטילה על קרמר קנס של 6 מיליון דולר, והקנס נעשה סופי בספטמבר 2024 (Nextgov).
חברת התקשורת Lingo Telecom, שרק העבירה את השיחות ולא יצרה אותן, שילמה מיליון דולר בהסדר. היא לא אימתה כמו שצריך את זהות מי ששלח את השיחות (The Record).
כבר בפברואר 2024 קבעה ה-FCC שקול שנוצר ב-AI הוא "קול מלאכותי" לפי חוק הגנת צרכני הטלפון, ולכן שיחה כזו דורשת הסכמה מראש של מי שמקבל אותה (FCC).
דרך אגב, ביוני 2025 חבר מושבעים זיכה את קרמר מהאישומים הפליליים (WSHU). הקנס האזרחי לא קשור להליך הזה.
אתם לא מתכננים להתחזות לנשיא, אני יודע. אבל הלקח רלוונטי לכל ארגון שמפעיל בוט קולי: מי שנמצא בשרשרת משלם, גם אם הוא לא כתב את התסריט. אם ספק חיצוני מפעיל בשבילכם בוט קולי שמתקשר ללקוחות בקול אנושי, והלקוח לא יודע שזה AI, אתם חלק מהשרשרת.
מקרה שלישי: SafeRent, והציון שאף אחד לא הסביר
מרי לואי, אישה שחורה ממסצ'וסטס שקיבלה שובר סיוע בשכר דירה מהמדינה, הגישה בקשה לשכור דירה. היא נדחתה. הסיבה היחידה הייתה ציון של 324 שקיבלה ממערכת אלגוריתמית בשם SafeRent, שחברות ניהול נכסים משתמשות בה כדי לסנן שוכרים. בדוח של 11 עמודים שהמערכת הפיקה לא היה הסבר איך חושב הציון או מה השפיע עליו (משרד המשפטים האמריקאי).
מבחינתה, היא נדחתה ולא ידעה למה. רק בדיעבד התברר שמי שקיבל את ההחלטה בפועל היה ציון אוטומטי, שלפי התביעה נשען על חובות שאינם קשורים לשכר דירה, ולא התחשב בכך ששובר הסיוע מכסה את רוב שכר הדירה (כתב התביעה המתוקן).
ב-2022 הוגשה תביעה ייצוגית בטענה שהציון מפלה שוכרים שחורים והיספנים ומחזיקי שוברי סיוע. בנובמבר 2024 אישר בית המשפט הסדר של כ-2.3 מיליון דולר. במסגרתו SafeRent לא תציג במשך חמש שנים ציון למועמדים שמחזיקים בשובר סיוע (Cohen Milstein). החברה לא הודתה בהפרה, וטענה שהציון עומד בחוק. היא הסבירה שהמשך ההתדיינות יקר מדי.
הלקח לארגון: מערכת שמחליטה על אנשים, בלי לגלות שהיא קיימת, בלי להסביר ובלי לאפשר ערעור, היא מערכת שמחכה לתביעה.
נרשמים בחינם לחברות, וקוראים כתבות תוכן איכותיות
חברות במועדון ארגון ה-AI הישראלי, בחינם לשנה. כל הכתבות לחברים באתר נפתחות מיד, והניוזלטר השבועי מגיע אליכם למייל.
החוט המקשר: האדם לא ידע
שלוש טכנולוגיות שונות לגמרי: בוט טקסט, שיבוט קול ומודל דירוג. ובכל זאת שורש אחד: האדם שמולן לא ידע שהוא פוגש AI, ולכן לא יכול היה לפקפק, לבקש אדם או לערער.
מקרה
מה האדם לא ידע
המחיר
מה היה מונע את זה
Cursor
שהוא מתכתב עם בוט
ביטולי מנויים, התנצלות פומבית והחזרים
גילוי בכל ממשק AI מול לקוחות, ונוהל לטיפול בטעויות AI
קול AI של ביידן
שהקול מלאכותי
קנס של 6 מיליון דולר, ומיליון דולר לחברה שהעבירה את השיחות
סימון תוכן שנוצר ב-AI, ואיסור על שימוש בקול של אדם בלי הסכמה
SafeRent
שאלגוריתם החליט עליו, ועל סמך מה
הסדר של כ-2.3 מיליון דולר, והפסקת השימוש בציון
אדם מאשר החלטות שליליות, זכות להסבר ולבדיקה חוזרת, ובדיקת הטיות
העמודה הימנית לא נכתבה במיוחד לכתבה הזו. אלה שאלות מתוך השאלון של תו AI אחראי.
זה כבר לא רק אתיקה: מה החוק אומר היום
עד לא מזמן, גילוי שימוש ב-AI היה בגדר "התנהגות יפה". זה השתנה.
אירופה: מ-2 באוגוסט 2026 חלות חובות השקיפות של חוק ה-AI האירופי (סעיף 50). מי שמפעיל צ'אטבוט או בוט קולי מול אנשים חייב לגלות להם שהם מדברים עם מערכת AI. החובות האלה לא נדחו, גם אחרי חבילת ההקלות שאושרה השנה (Goodwin). החוק חל גם על חברה ישראלית שהמערכת שלה משרתת משתמשים באיחוד. אפשר לבדוק את רמת הסיכון שלכם בבודק חוק ה-AI האירופי.
ארה"ב: קול AI בשיחות יזומות דורש הסכמה מראש, כמו שראינו במקרה של ביידן. ובתי משפט כבר קבעו שהחברה אחראית למה שהבוט שלה אומר. בית דין בקנדה חייב את Air Canada לכבד מדיניות החזר שהצ'אטבוט שלה המציא, ודחה את הטענה שהבוט הוא "גורם נפרד" (החלטת בית הדין).
ישראל: תיקון 13 לחוק הגנת הפרטיות נכנס לתוקף באוגוסט 2025, ונתן לרשות להגנת הפרטיות סמכות להטיל קנסות מנהליים משמעותיים (IAPP). טיוטת ההנחיה של הרשות לגבי AI, שפורסמה באפריל 2025, מדגישה שקיפות בהחלטות אוטומטיות (BABL AI).
אז הקמנו תו
כשהתחלתי לשבת עם מנהלים על הנושא הזה, שמעתי שוב ושוב את אותה שאלה: "בסדר, אבל איך אני מראה ללקוחות שאנחנו עושים את זה נכון?". אין היום בישראל דרך מקובלת לעשות את זה. אז בנינו אחת.
תו AI אחראי של ארגון ה-AI הישראלי מראה ללקוח, במקום אחד, איפה הארגון משתמש ב-AI, מה נכנס לכלים, מי אחראי ואיך מגיעים לאדם. יש לו שתי דרגות:
תו שקיפות AI, בחינם, לעסקים מ-10 עובדים. עונים על שאלון של 12 שאלות וחותמים על הצהרה. חמש מהשאלות הן חובה: בעל תפקיד שאחראי על AI, הנחיה כתובה לעובדים, גילוי ללקוחות כשהם מדברים עם בוט, כתובת פנייה ציבורית ועמוד "שימוש ב-AI" באתר.
תו AI אחראי לארגונים, לארגונים מ-150 עובדים. מכינים תיק תיעוד שנבדק על ידי סוקר מטעמנו, לפי תחומים: שקיפות כללית (חובה), סוכני AI, תוכן שנוצר ב-AI, גיוס, שירות לקוחות, החלטות אוטומטיות, פרסום וממשל תאגידי.
התו הוא לא מדבקה. מטמיעים אותו באתר בשורת קוד אחת, ולחיצה עליו פותחת כרטיס חי: האם התו פעיל, מה הארגון הצהיר או מה נבדק, ועד מתי הוא בתוקף. אם התו מושעה או פג תוקף, הלקוח רואה את זה.
שתי הדרגות של התו, הכרטיס שנפתח בלחיצה, והמצבים שהלקוח יכול לראות
לתו יש כמה מצבים, וכולם גלויים ללקוח:
ממתין לאישור במייל: הארגון נרשם, ונשאר לו לאשר את ההרשמה בקישור שנשלח אליו.
בקשה בבדיקה: בתו לארגונים, סוקר מטעמנו בודק את תיק התיעוד.
המתנה לקבלת תו: התו אושר, ולארגון יש 14 יום להטמיע את שורת הקוד באתר.
תו פעיל: הקוד באתר והתו בתוקף. זה המצב שלקוח מצפה לראות.
אין תו: עברו 14 יום והתו לא הוטמע.
פג תוקף: התו תקף לשנה, ולא חודש.
התו מושעה או נשלל: התגלתה אי התאמה בין מה שהארגון הצהיר לבין מה שקורה בפועל. כל אחד יכול לדווח לנו על אי התאמה מתוך הכרטיס.
וכמו שאנחנו מבקשים מאחרים, גם אנחנו עשינו את זה. בתחתית כל עמוד באתר הזה יש את התו שלנו. לחצו עליו, ותגיעו לכרטיס של ארגון ה-AI הישראלי: ארבעה תחומים ו-25 סעיפים שנבדקו. בין השאר: גילוי מלא בכל ממשק AI, בדיקה אנושית לפני פרסום, בעלים אנושי לכל סוכן AI, ואיסור על שימוש בקול או בדמות של אדם בלי הסכמה. בדיוק הסעיפים שהיו עוצרים את שלושת המקרים שלמעלה.
חשוב לי לומר: התו לא קובע שהארגון עומד בחוק, והוא לא חוות דעת משפטית. הוא מעיד על מה שהארגון הצהיר, או על תיק התיעוד שנבדק.
למה לא לחכות לשנה הבאה
אני שומע הרבה "נגיע לזה". הנה למה אני חושב שזו טעות:
החובה כבר כאן. חובת הגילוי באירופה בתוקף מאוגוסט 2026. אם יש לכם לקוחות או משתמשים באיחוד, אתם כבר באיחור.
הלקוחות שלכם כבר שואלים. שאלוני רכש של לקוחות גדולים, ובמיוחד אירופיים, כוללים היום שאלות על מדיניות AI. תו נותן תשובה מסודרת אחת במקום לכתוב מסמך חדש בכל מכרז.
האחריות נשארת אצלכם, לא אצל הספק. Air Canada טענה שהבוט אחראי לעצמו, והפסידה. Lingo רק העבירה שיחות, ושילמה. אם ספק ה-AI שלכם טועה מול הלקוח, הלקוח יתבע אתכם.
יש AI אצלכם, גם אם לא החלטתם עליו. עובדים כבר משתמשים בכלים, ספקים כבר הוסיפו פיצ'רים של AI למערכות שלכם. השאלון של התו מכריח לעשות רשימה, ורוב הארגונים מגלים בה דברים שלא ידעו.
התיקון זול לפני, ויקר אחרי. Cursor תיקנה את הבעיה בשורה אחת: "התשובה נכתבה על ידי AI". אבל היא כתבה אותה אחרי שהלקוחות כבר ביטלו מנוי והסיפור כבר הגיע לכותרות.
אמון הוא יתרון תחרותי. כשכולם משתמשים ב-AI, מי שמראה שהוא משתמש בו באחריות בולט. מי שנכנס עכשיו בין הראשונים במאגר יהיה זה שלקוחות פוגשים קודם.
תקינה בדרך, ומי שמוכן מרוויח. בדנמרק פועל כבר מ-2021 תו D-seal, שהקימו ארגוני התעשייה והמסחר הדניים יחד עם ארגון הצרכנים. הוא מסמן חברות שעומדות בדרישות של אבטחת מידע ושימוש אחראי בנתונים, כולל דרישות לאלגוריתמים ול-AI (Invest in Denmark, OECD). התו שלנו בנוי ברוח D-seal וחוק ה-AI האירופי. אני לא יודע מתי תקינה כזו תגיע לישראל, אבל אני כן יודע מי יהיה מוכן כשהיא תגיע: מי שהתחיל קודם.
מה זה אומר לארגון שלכם
חמישה צעדים שאפשר להתחיל בהם כבר השבוע:
מפו איפה לקוחות פוגשים AI אצלכם: צ'אטבוט, בוט קולי, מיילים אוטומטיים, החלטות על אשראי, מחיר או זכאות, וסינון מועמדים.
הוסיפו גילוי בכל נקודה כזו: משפט פשוט כמו "אני עוזר AI של החברה", או "התשובה נכתבה בעזרת AI ונבדקה על ידי נציג".
ודאו שתמיד יש דרך להגיע לאדם, ושהחלטה שלילית על לקוח לא מתקבלת על ידי מערכת לבדה.
באיחוד האירופי כן: מ-2 באוגוסט 2026 מי שמפעיל צ'אטבוט או בוט קולי מול אנשים חייב לגלות שמדובר במערכת AI, וזה חל גם על חברות ישראליות שמשרתות משתמשים באיחוד. בארה"ב שיחה יזומה בקול AI דורשת הסכמה מראש. בישראל אין עדיין חובה כללית, אבל תיקון 13 לחוק הגנת הפרטיות מחמיר את האכיפה על שימוש במידע אישי.
