מיקרוסופט פרסמה השבוע אזהרה רשמית וחריגה הנוגעת לפיצ'ר ה-AI הניסיוני החדש שלה, Copilot Actions. הפיצ'ר, שנועד להעניק למערכת ההפעלה יכולות פעולה עצמאיות ("Agentic"), טומן בחובו סיכונים משמעותיים הכוללים מתקפות הזרקת פקודות (Prompt Injection) וגניבת מידע רגיש ללא ידיעת המשתמש.
למרות שכרגע הפיצ'ר כבוי כברירת מחדל, המומחים מזהירים כי שילובו העתידי בליבת מערכת ההפעלה מחייב היערכות מחודשת מצד ארגונים ומשתמשים פרטיים.
האזהרה של מיקרוסופט: ה-AI מקבל גישה, והאקרים עלולים לנצל זאת
בצעד המעיד על אחריות אך גם על גודל האיום, מיקרוסופט עדכנה את מסמכי האבטחה הרשמיים של Windows 11 עם אזהרה מפורשת לגבי השימוש ב-Copilot Actions. מדובר בפיצ'ר המאפשר ל-AI לא רק "לדבר" איתנו, אלא לבצע פעולות ממשיות במערכת ההפעלה באופן אוטונומי (יכולות Agentic).
החשש המרכזי הוא מפני מתקפות מסוג Prompt Injection ו-Cross-Prompt Injection (XPIA). במתקפות אלו, תוכן זדוני (למשל, טקסט נסתר באתר אינטרנט או בתוך מסמך תמים) יכול "לבלבל" את המודל ולגרום לו לבצע פעולות בניגוד לרצון המשתמש – כמו שליחת קבצים רגישים לשרת חיצוני או הרצת פקודות זדוניות, כל זאת ללא לחיצה אחת מצד הקורבן ("Zero-Click").
מהם הסיכונים המרכזיים לארגונים ולמשתמשים?
המעבר מ-AI שמייצר טקסט ל-AI שמבצע פעולות (Action-Oriented) משנה את כללי המשחק באבטחת מידע:
📬
רוצים לקבל עדכוני AI ישירות לאימייל?
הצטרפו לאלפי מנהלים שמקבלים את הניוזלטר השבועי שלנו
- גניבת מידע אוטומטית: האקרים יכולים להשתמש ב-AI כדי לסרוק מסמכים ולחלץ מהם מידע רגיש כמו סיסמאות או נתונים פיננסיים.
- הרצת קוד מרחוק: ניצול הרשאות ה-AI כדי להריץ תוכנות זדוניות על המחשב המקומי.
- הזיות מסוכנות: המודל עלול לפרש לא נכון בקשות ולבצע פעולות הרסניות, כמו מחיקת קבצים, בשוגג.
מיקרוסופט מדגישה כי הפיצ'ר כבוי כברירת מחדל ודורש הפעלה יזומה, וכי היא מיישמת מנגנוני הפרדת הרשאות (Sandboxing) ואימות משתמש כדי לצמצם את הסיכון.
ארגון ה-AI הישראלי: תקינה ושימוש בטוח הם המפתח
בארגון ה-AI הישראלי אנו רואים בהתפתחות זו קריאת השכמה. היכולות החדשות מחייבות ארגונים לאמץ תקינת AI מסודרת ולא להסתפק בברירות המחדל של היצרן.
שימוש בטוח ב-AI ארגוני דורש כעת:
- מדיניות Zero Trust ל-AI: אין לאפשר לסוכני AI גישה בלתי מוגבלת לכלל המידע הארגוני. יש להגדיר הרשאות ספציפיות ומצומצמות.
- הדרכת עובדים: המודעות למתקפות Prompt Injection חייבת להיות חלק מתוכנית ההכשרה של כל עובד המשתמש בכלי AI.
- פיקוח ובקרה (Monitoring): שימוש בכלי אבטחה ייעודיים (כמו Microsoft Security Copilot) לניטור פעולות ה-AI וזיהוי התנהגות חריגה בזמן אמת.
מעוניינים בליווי מקצועי, הטמעת תקינת AI (כולל הכנה לתקן ISO/IEC 42001) והדרכות לאבטחת שימוש בבינה מלאכותית בארגון שלכם? ניתן לפנות אלינו לייעוץ והתאמת תוכנית עבודה מסודרת.
