ארגון ה-AI הישראליארגון ה-AI הישראלי
בדיקת שיחות צ'אט GPT על ידי קבלני משנה במסגרת פרויקט לילי
חדשות AI

פרויקט לילי: הסוד מאחורי הקלעים של צ'אט GPT

ליאור אברהםליאור אברהם 5 דק׳ קריאהעודכן:

המנגנון האנושי הסודי שמאחורי הבינה המלאכותית של OpenAI

חשפתם בפני ChatGPT את הסודות המקצועיים ביותר שלכם, התייעצתם איתו לגבי בעיות אישיות מורכבות או הפקדתם בידיו קטעי קוד חסויים מתוך אמונה שמדובר בשיחה פרטית לחלוטין בין אדם למכונה. אולם, מחקר וחקירה מעמיקים של מסמכים פנימיים חשפו לאחרונה את קיומו של 'פרויקט לילי' (Project Lily), מסגרת תפעולית רחבת היקף שבה מאות ואלפי קבלני משנה אנושיים עוברים בשיטתיות על זרם עצום של פרומפטים ושיחות אמיתיות המגיעים ממיליוני משתמשים ברחבי העולם. העובדה שעיניים אנושיות בוחנות את ההתכתבויות הללו מתנגשת חזיתית עם תפיסת הפרטיות הנאיבית של הציבור הרחב, המניח בשגגה כי האינטראקציה שלו עם מערכות הבינה המלאכותית מוגנת לחלוטין מפני חשיפה לבני אדם אחרים. תעשיית הטכנולוגיה מתקשה לעיתים קרובות להודות בגלוי כי מאחורי הקסם האלגוריתמי עומדים עדיין תהליכי בקרה ידניים ויגעים, המנוהלים על ידי צבא של עובדים המועסקים דרך שרשראות אספקה עמומות של מיקור חוץ גלובלי. מציאות זו מלמדת אותנו שפיתוח מודלי שפה מתקדמים דורש משאבי אנוש עצומים ומכבידים, הרבה מעבר ליכולתן של מערכות אוטומטיות ללמוד בכוחות עצמן מתוך מאגרי מידע ציבוריים או קוד פתוח.

האתגר המרכזי באימון מודלים להפחתת חרפת החנופה וההתחנפות

המטרה המוצהרת של צוותי סקירת הפרומטים הללו היא לספק פידבק איכותי, לדרג את תשובות הצ'אטבוט ולשפר באופן דרסטי את הדיוק, הרלוונטיות והאמינות של הפלט. מתן ציונים וביקורת עקבית על תגובות המודל מאפשר למהנדסים של OpenAI למתן תופעות לוואי שליליות ומסוכנות שהתגלו במודלים קודמים כמו GPT-4o. אחת הבעיות הקריטיות ביותר שעליהן עובדים הקבלנים הללו היא נטייתם המוגזמת של מודלי השפה להתחנף למשתמש, לאשר באופן עיוור כל טענה שמועלית בפניהם ולהציג מאפיינים אנתרופומורפיים מדומים המעניקים אשליה כאילו מדובר ביצור חביב, אמפתי ובעל תודעה אנושית. תופעות של התחנפות יתר אינן רק עניין אסתטי או שיווקי, אלא מדובר בפגמים אלגוריתמיים מסוכנים ביותר שנקשרו במחקרים ובכתבי תביעה שונים למקרים טרגיים שבהם משתמשים פיתחו תלות רגשית הרסנית כלפי הבוט. באמצעות תהליכי אימון מפרכים המבוססים על משוב אנושי, מנסים החוקרים להציב גבולות ברורים שימנעו מהמודל להתחזות לישות בעלת רגשות אמיתיים, ובכך להגן על משתמשים פגיעים מפני השפעות פסיכולוגיות מזיקות.

הפער המדאיג בין תפיסת המשתמש למציאות תפעול קבלני המשנה

עובדים המועסקים בפרויקט מודים בגלוי בראיונות חסויים כי רובם המוחלט של משתמשי ChatGPT – שמספרם כבר חוצה מזמן את רף תשע מאות המיליונים – חיים באשליה מוחלטת שאיש מלבד האלגוריתם אינו נחשף לתוכן דבריהם. אנשים מפקידים בידי המערכת את הלבטים הרגשיים העמוקים ביותר שלהם, מתפקדים מולה כאילו הייתה פסיכולוג אישי, או נעזרים בה לצורך כתיבת מסמכים עדיפים ורגישים הנוגעים לחייהם הפרטיים והמקצועיים. למרות שחברת OpenAI נוקטת בצעדים טכנולוגיים שונים כדי לנסות ולסנן מראש פרטים מזהים ומידע רגיש לפני שהוא מגיע אל שולחנם של הסוקרים, החברה עצמה מודה בפה מלא שמידע אינטימי ורגיש עדיין מצליח לחמוק ממערכות הסינון ומוצג לעיניהם של עובדי קבלן זרים. המרחק העצום בין מדיניות הפרטיות הרשמית של ענקיות הבינה המלאכותית לבין המציאות היומיומית בשטח יוצר סיכון משפטי ואתי חמור, המעמיד בסימן שאלה את היכולת של ארגונים להבטיח חיסיון מוחלט ללקוחותיהם בעולם הדיגיטלי החדש.

הפרכת המיתוס: למה טכנולוגיה לבדה אינה מספיקה לשיפור מודלי ענק

החשיפה סביב 'פרויקט לילי' מנפצת לחלוטין את הנרטיב השיווקי הרווח שלפיו מודלי שפה גדולים משתפרים אך ורק בזכות סריקה המונית של האינטרנט, בזכות כישרונם הבלעדי של מהנדסי תוכנה מבריקים, או בזכות עוצמת החישוב האדירה של חומרת ה-GPU החדישה ביותר. מתברר כי מרכיב קריטי, מרכזי ולעיתים קרובות מושתק בשרשרת הערך של תעשיית ה-AI הוא ההון האנושי הפשוט – אנשים אמיתיים שמקבלים שכר נמוך יחסית כדי לקרוא שוב ושוב את אותן שיחות, לנתח את ההקשרים שלהן ולתקן את דרכי התגובה של המערכת. חברות מובילות אחרות בתעשייה, דוגמת אנתרופאיק (Anthropic), מאששות גם הן את העובדה שהן עושות שימוש נרחב בצוותי סקירה אנושיים דומים כדי להבטיח את איכות ובטיחות המודלים שלהן. עובדה זו ממחישה שבינה מלאכותית מתקדמת היא בסופו של דבר תוצר של סימביוזה מורכבת וממושכת בין אלגוריתמים מתמטיים לבין שיפוט ערכי ואנושי סיזיפי, המנוהל מאחורי קירות אטומים של סודיות עסקית.

השלכות הרגולטוריות והמשפטיות של איסוף וסקירת נתוני משתמשים

ההשלכות של חשיפות מסוג זה חורגות הרבה מעבר למדיניות פנים-חברתית, והן מציבות את חברות הענק מול רגולטורים מחמירים באירופה ובארצות הברית המפקרים בקפידה אחר חוקי הגנת הפרטיות כמו ה-GDPR. מומחי משפט ודיני מידע טוענים כי שיתוף נתוני שיחה רגישים עם גורמי צד שלישי או קבלני משנה ללא הסכמה מפורשת, מודעת וחד-משמעית מצד המשתמש עלולה להוות הפרה בוטה של החוק ואף לחשוף את החברות לתביעות ייצוגיות עצומות. למרות שפלטפורמות טכנולוגיות רבות מעדכנות מעת לעת את תנאי השימוש ומדיניות הפרטיות שלהן בניסוחים משפטיים סבוכים וארוכים, המשתמש הממוצע כמעט לעולם אינו קורא אותם ובוודאי שאינו מבין את המשמעות העמוקה של מסירת נתונים אישיים למערכת שלומדת באופן אנושי. המציאות שבה אנשים פרטיים משמשים כספקי הנתונים הלא-מודעים למחקר ופיתוח של מוצרים מסחריים מעוררת ביקורת ציבורית גוברת על חוסר השקיפות המאפיין את כלכלה הנתונים של עידן הבינה המלאכותית.

האתגרים האתיים בפיתוח מערכות המחקות אינטראקציה רגשית אנושית

הדילמה האתית המרכזית העולה מניתוח הפרויקט נוגעת לגבולות שבין מתן שירות טכנולוגי יעיל לבין מניפולציה רגשית המופעלת על בני אדם על ידי מכונות חכמות. כאשר צ'אטבוט מתוחכם יודע לנהל שיחה קולחת, להפגין לכאורה אמפתיה ולהגיב בצורה שמדמה ידידות עמוקה, הוא מייצר אצל המשתמש תחושת ביטחון שגויה המעודדת אותו לחשוף פרטים אינטימיים ביותר מבלי להפעיל את מנגנוני ההגנה הטבעיים שלו. אנשי מקצוע בתחום הבריאות הנפשית והאתיקה הדיגיטלית מזהירים מפני ההשלכות ארוכות הטווח של שימוש במערכות בינה מלאכותית כתחליף למערכות יחסים אנושיות, בפרט כאשר אותם סודות ופרטים אינטימיים עוברים בסופו של דבר תחת עיניהם הבוחנות של עובדי קבלן זרים ובלתי מוכרים. הצורך לאזן בין הדרישה העסקית לשיפור מתמיד של ביצועי המודל לבין השמירה הקנאית על כבודו, פרטיותו ורווחתו הנפשית של האדם הפך לאחד האתגרים הקשים ביותר הניצבים בפני תעשיית הטכנולוגיה העולמית כולה.

המשמעויות הארגוניות והניהוליות עבור מנהלי טכנולוגיה ראשיים בארגונים

עבור מנהלי טכנולוגיה ראשיים (CTO), מנהלי מידע (CIO) ומנהלי אבטחת מידע (CISO) בארגונים מובילים, הגילויים הללו מהווים תמרור אזהרה בוהק המחייב הערכות מחודשת של מדיניות השימוש בכלי בינה מלאכותית גנרטיבית בסביבה הארגונית. כאשר עובדים בארגון עושים שימוש בכלי AI מסחריים פתוחים ללא פיקוח הדוק, קיים סיכון ממשי שסודות מסחריים, קניין רוחני, נתונים פיננסיים רגישים או פרטי לקוחות ימצאו את דרכם אל תוך פרומπטים המנוטרים ומפוקחים על ידי קבלני משנה חיצוניים, ובכך יפגעו אנושות בסודיות העסקית של החברה. ארגונים המבקשים לשמור על רגולציה מחמירה חייבים להטיל מדיניות ממשל מידע (Data Governance) קשיחה, להעדיף פתרונות ארגוניים סגורים (Enterprise-grade) המבטיחים אי-שמירת נתונים לצרכי אימון מודלים, ולהטמיע תוכניות הדרכה לעובדים בדבר הסיכונים הכרוכים בשיתוף מידע רגיש במערכות חיצוניות. ההבנה שכל אינטראקציה עם מודל פתוח עלולה להיקרא ולהיבחן על ידי בני אדם בשר ודם מחייבת את הנהלות הארגונים לעבור ממודל של שימוש חופשי ופרוץ למודל של שליטה, בקרה ואבטחה קפדנית על כל זרימת המידע הבינה-מלאכותית בארגון.

מקור הכתבה

404media
שאלות ותשובות
פרויקט לילי הוא מסגרת תפעולית רחבת היקף שבה אלפי קבלני משנה אנושיים עוברים בשיטתיות על זרם עצום של פרומפטים ושיחות אמיתיות ממשתמשי ChatGPT. מטרת העל של פרויקט זה היא לספק פידבק איכותי, לדרג תשובות ולשפר את הדיוק והאמינות של מודלי הבינה המלאכותית באמצעות משוב אנושי ישיר.
הצטרפו לקבוצת הווטסאפ שלנו לעדכונים

תגיות:

שתפו את הכתבה:

עוד כתבות שיעניינו אותך

DPO בעידן ה-AI: מה עושה ממונה הגנת הפרטיות, איפה הוא יושב בארגון וכמה הוא מרוויח
מדריכים• ליאור אברהם• 21 בנובמבר

DPO בעידן ה-AI: מה עושה ממונה הגנת הפרטיות, איפה הוא יושב בארגון וכמה הוא מרוויח

המדריך המלא לתפקיד ה-DPO: איך נולד, מה תיקון 13 וההנחיה הסופית של הרשות דורשים, למי הוא מדווח, אילו הסמכות שוות משהו, כמה מרוויחים בישראל ובעולם, ואיך ה-AI הופך אותו לאחד האנשים החשובים בארגון.

מה זה MCP? המדריך המלא ל-Model Context Protocol בארגון (2026)
מדריכים• ליאור אברהם• 15 בנובמבר

מה זה MCP? המדריך המלא ל-Model Context Protocol בארגון (2026)

MCP הוא התקן הפתוח שמחבר את Claude, ChatGPT, Gemini ו-Copilot למערכות של הארגון. מה זה בעברית פשוטה, איך זה עובד, מה ארגונים עושים עם זה בכל מחלקה, ממה להיזהר ואיך מתחילים.

מתחילים להתחשבן? מיקרוסופט שמה תקציב טוקנים לעובדים, ומה זה אומר על העובדים אצלכם
חדשות AIGeektime• ליאור אברהם• 13 בנובמבר

מתחילים להתחשבן? מיקרוסופט שמה תקציב טוקנים לעובדים, ומה זה אומר על העובדים אצלכם

מיקרוסופט הודיעה לעובדים שלה ששריפת טוקנים היא לא המטרה, הגדירה תקציב לכל חטיבה ועברה למודל זול יותר. מה קרה, למה זה קורה בכל החברות הגדולות, ואיך למדוד עובדים בעידן ה-AI בלי להפחיד אותם.

7 דרכים שבהן חברות ענק כבר משתמשות בבוט קולי, ומה הארגון שלכם יכול ללמוד מהן
מדריכים• ליאור אברהם• 13 בנובמבר

7 דרכים שבהן חברות ענק כבר משתמשות בבוט קולי, ומה הארגון שלכם יכול ללמוד מהן

בנק שעונה בטלפון 24/7, רשת נופש עם פקידת קבלה וירטואלית ובוט אחד שמדבר 35 שפות. שבעה מקרים אמיתיים של בוט קולי בארגונים גדולים, ומה ללמוד מהם לפני שמטמיעים במוקד שלכם.

שירות לקוחות עם AI ב-2027: מה עובד, מי נכשל, וכמה זה יחסוך למוקד שלכם
מדריכים• ליאור אברהם• 12 בנובמבר

שירות לקוחות עם AI ב-2027: מה עובד, מי נכשל, וכמה זה יחסוך למוקד שלכם

Klarna החליפה 700 נציגים בבוט וחזרה לגייס בני אדם. מה באמת עובד בשירות לקוחות עם AI, 5 חידושים שיגיעו ב-2027, דוגמאות מהעולם, ומחשבון שמראה אם בוט משתלם לכם.

Claude נכנס למשרד: Meetings, Sheets ו-Whiteboards הופכים אותו לכלי העבודה של הארגון
חדשות AIAnthropic• ליאור אברהם• 10 בנובמבר

Claude נכנס למשרד: Meetings, Sheets ו-Whiteboards הופכים אותו לכלי העבודה של הארגון

Anthropic השיקה גיליונות, לוחות משותפים, דשבורדים ונוכחות בפגישות, ומניית מיקרוסופט ירדה ב-3%. מה הושק, איך זה מתחבר לכל מה ש-Claude בנה השנה, ומה ארגון צריך להחליט עכשיו.

מחשבון בוט AI לשירות לקוחות
כלים• ליאור אברהם• 10 בנובמבר

מחשבון בוט AI לשירות לקוחות

כמה יחסוך בוט AI למוקד שלכם? מזינים מספר פניות, זמן טיפול ועלות נציג, ומקבלים את עלות המוקד עם בוט ובלעדיו, חיסכון חודשי, החזר השקעה ומשרות שמתפנות.

Smart Reports של Claude:  כעת המנהלים יכולים לדעת מה העובדים מפתחים  ב - AI
חדשות AIAnthropic• ליאור אברהם• 8 בנובמבר

Smart Reports של Claude: כעת המנהלים יכולים לדעת מה העובדים מפתחים ב - AI

Anthropic השיקה דוחות חכמים ל-Claude Enterprise שמנתחים את העבודה של כל צוות: מה נעשה, כמה זה עלה ואיפה העבודה נתקעת. למי זה שימושי, מה בדיוק יש בדוח, ומה צריך לסדר לפני שמפעילים.

למה הארגון שלכם חייב לגלות שהוא משתמש ב-AI, ומה יקרה אם לא
מדריכים• ליאור אברהם• 5 בנובמבר

למה הארגון שלכם חייב לגלות שהוא משתמש ב-AI, ומה יקרה אם לא

בוט תמיכה שהמציא מדיניות, קול AI שהוביל לקנס של 6 מיליון דולר, וציון אלגוריתמי שהסתיים בהסדר של 2.3 מיליון. בכל המקרים הלקוח לא ידע שמולו AI. מה החוק כבר דורש, ולמה כדאי להצטרף לתו AI אחראי עכשיו.

כמה עולה AI לארגון? מחירי ChatGPT, Claude, Copilot ו-Gemini לעסקים בהשוואה (2026)
מדריכים• ליאור אברהם• 1 בנובמבר

כמה עולה AI לארגון? מחירי ChatGPT, Claude, Copilot ו-Gemini לעסקים בהשוואה (2026)

מחירי כל מסלולי העסקים של ChatGPT, Claude, Microsoft 365 Copilot ו-Gemini, ישירות מעמודי התמחור הרשמיים: מחיר למשתמש, מה כלול, מנוי מול API, דוגמת חישוב לארגון של 50 עובדים והעלויות שלא מופיעות בעמוד התמחור.

הצטרפו אלינו