האם הארגון שלכם מאבד את הסודות המסחריים שלו? האזהרה של אלכס קרפ, מנכ"ל פלנטיר

משהו השתבש לגמרי בדרך שבה מוכרים לכם AI

ארגונים רבים כיום מרגישים שהם חייבים לאמץ מודלי שפה גדולים (LLMs) כדי לא להישאר מאחור. אבל אלכס קרפ, מנכ"ל ענקית ניתוח הנתונים פלנטיר (Palantir), מזהיר בראיון נוקב ל-CNBC שמשהו השתבש לגמרי בדרך שבה הטכנולוגיה הזו נמכרת לארגונים. לטענתו, מנהלים בארגונים רבים בארצות הברית זועמים כיום בחדרים סגורים.

הסיבה לכך היא שהם משלמים הון עתק על "טוקנים" (Tokens) של מודלים מתקדמים, אך בפועל אינם רואים מכך שום ערך ממשי או החזר על ההשקעה. קרפ מתאר מציאות שבה ההבטחות הגדולות של חברות הבינה המלאכותית המובילות נמכרות בצורה חסרת אחריות ("oversold"). מתוך לחץ עסקי, ארגונים קונים כוח מחשוב ושירותים פי כמה ממה שהם באמת צריכים, בעוד שאת הערך האמיתי לליבת העסק הם מתקשים למצוא.

הסכנה השקטה: אתם מוסרים את היתרון התחרותי שלכם

כשארגון מחבר את הדאטה הארגוני שלו למודלים חיצוניים בחיפוש אחר פתרון מהיר, הוא חושף את עצמו לסכנה אדירה. קרפ מסביר שארגונים מעבירים למעשה את ה"אלפא" (Alpha) שלהם – היתרון התחרותי, הסודות המסחריים והקניין הרוחני (IP) שמייחדים את החברה – ישירות לידיים של ספקי מודלי השפה.

לטענתו, חברות ה-AI הללו מקבלות גישה למידע שלכם, שומרות אותו, ועלולות להשתמש בו לאימון עתידי ולשכפול המודל העסקי שלכם. קרפ שואל באופן רטורי: למה שאני אתן לחברות אחרות גישה למידע שלי כדי שהן יבנו ממנו את היתרון התחרותי שלי?. כשחברה עובדת בצורה כזו, היא למעשה עושה למודיעין העסקי שלה מיקור חוץ לעמק הסיליקון בצורה מסוכנת.

הפתרון: שכבת אונטולוגיה ושליטה מלאה בדאטה

כדי שארגונים יוכלו להפיק ערך אמיתי מבינה מלאכותית, מבלי לסכן את עצמם, הם זקוקים ליותר מאשר גישה גולמית למודל שפה. הפתרון, על פי קרפ, טמון בבניית "שכבת אפליקציה" או "אונטולוגיה" ( DLP - Ontology) שיושבת בדיוק באמצע, בין הארגון לבין המודלים החיצוניים. תפקידה של שכבה זו היא להפוך את השימוש למדויק, בטוח ומועיל למטרות עסקיות. היא מבטיחה שהמודל החיצוני לא ישמור (Cache) או ילמד את הנתונים העסקיים הרגישים של הארגון, וכך מונעת את זליגת הקניין הרוחני החוצה.

ארכיטקטורה זו מאפשרת לארגון להחליף מודלים שונים כרצונו, תוך שמירה מלאה על כל הסודות, המשקולות (Weights) והנתונים בתוך סביבה מוגנת. כך, הארגון הוא זה שקובע כיצד המודל פועל ומנתח את הנתונים.

מחדל השליטה: אל תעשו מיקור חוץ לעתיד החברה

המסר המרכזי של קרפ למנהלים ולדירקטוריונים הוא לחדול מלהיות צרכנים עיוורים. כל ארגון חייב להתחיל לשאול שאלות יסודיות ונוקבות את ספקי הבינה המלאכותית שלו: מי באמת הבעלים של הדאטה?. היכן הנתונים נשמרים?. האם הפרומפטים (ההנחיות) שאנו מזינים מאובטחים לחלוטין?

קרפ משווה זאת למערכות ביטחוניות, ומזכיר כי משרד ההגנה האמריקאי, כמו גם גופי ביטחון בישראל (המשתמשים במערכות פלנטיר), לעולם לא יעבירו את ניהול שדה הקרב שלהם לשליטת גופים חיצונים לא מבוקרים. בדיוק באותו אופן, הארגון שלכם לא יכול להרשות לעצמו לוותר על השליטה בליבת הפעילות העסקית שלו.

המשמעות הניהולית והדרך קדימה עבורכם

הבינה המלאכותית כאן כדי לשנות את המסלול של העתיד, אך חובת ההוכחה חלה עליכם, המנהלים בארגון. ההחלטה כיצד ואיך להטמיע כלים אלו היא שתקבע האם תייצרו מנוע צמיחה אדיר, או תרוקנו את הארגון מנכסיו הייחודיים.

אנו בארגון ה-AI הישראלי מאמינים שהטמעת AI בארגון חייבת להיות מלווה בסטנדרטים מחמירים של אבטחת מידע (כמו תקן ISO 42001), שמירה על קניין רוחני (IP), והקמת תשתיות של אונטולוגיה ארגונית.

אנו מזמינים אתכם לאמץ חדשנות באחריות, לייצר ערך מבוסס דאטה ארגוני פנימי ולא לשלם רק על ססמאות ו"טוקנים".

אל תשמרו את המידע החשוב הזה לעצמכם – שתפו את המאמר עם מנכ"ל החברה, מנהלי מערכות המידע (CIOs), הקולגות וכל צוותי החדשנות, ועזרו לארגון שלכם לנווט את מהפכת ה-AI בצורה בטוחה, חכמה ותחרותית.