ארגון ה-AI הישראליארגון ה-AI הישראלי
כך תאבטחו את Claude Code ב-3 שלבים קריטיים!
חדשות AIכלים

כך תאבטחו את Claude Code ב-3 שלבים קריטיים!

✍️ליאור אברהם

למה בכלל צריך לאבטח כלי פיתוח מבוססי AI?

בעידן שבו סוכני בינה מלאכותית מקבלים גישה חופשית יותר ויותר לסביבת העבודה שלנו, כלי פיתוח כמו Claude Code משנים את כללי המשחק. עבור מפתחים רבים, במיוחד אלו שרק מתחילים לשלב כלי AI בתהליכי העבודה שלהם, הנטייה הטבעית היא להעניק לסוכן ה-AI גישה מלאה להכל כדי שיעבוד מהר וביעילות.

עם זאת, המציאות היא שאתם ממש לא רוצים להעניק לסוכן וירטואלי את היכולת למחוק נתונים קריטיים, להדליף סודות עסקיים, או להריץ פקודות מערכת מסוכנות. סביבת פיתוח אמיתית מכילה קבצים עם מידע רגיש ביותר, ואם לא מגדירים גבולות גזרה ברורים (Guardrails), אנו חושפים את עצמנו לסיכונים אדירים. המטרה היא לקחת את השליטה לידיים ולבנות מערך אבטחה מדורג ומקיף.

הסכנה האמיתית - מה הבעיות שעלולות לצוץ?

כדי להבין את גודל הסכנה, עלינו להבין כיצד AI עובד עם הקוד שלנו. סביבות פיתוח כוללות פעמים רבות קבצי .env או תיקיות סודות (Secrets) המכילות מפתחות גישה לשירותי ענן (כמו AWS), מסדי נתונים, או מערכות סליקה (כמו Stripe). כאשר סוכן AI קורא את הקבצים הללו, התוכן שלהם נכנס אל ה"הקשר" (Context) של השיחה.

המשמעות היא שבכל הודעת המשך, הסודות הללו נשלחים שוב ושוב למודל השפה. דליפת מפתחות API יכולה לשמש תוקפים כדי לייצר חיובים עצומים בשירותי הענן שלכם או לגשת למסדי נתונים פרטיים של משתמשים. מעבר לכך, ללא הגבלה, הסוכן עלול לבצע פעולות הרסניות בשוגג. תארו לעצמכם שה-AI יחליט להריץ פקודת מחיקה רנרקורסיבית דרך Bash (כמו rm -rf), או יכתוב קוד הכולל פרצות של הזרקות SQL (SQL Injections). מסיבות אלו, הגנה אחת אינה מספיקה – יש צורך באסטרטגיה של "הגנה לעומק" (Defense in Depth).

המדריך השלם לחיסכון בטוקנים ב Claude Code

בניית סביבת בדיקות: הכלים שלכם לפרויקט

לפני שמטמיעים את שכבות ההגנה, מומלץ ליצור סביבת בדיקות מבוקרת. אחת מתוכנות העזר החשובות שמומלץ להתקין היא jq – כלי שורת פקודה קל משקל שנועד לעבוד עם נתוני JSON. בעזרת jq, ניתן לנתח ולתקף את קבצי ההגדרות של Claude Code בהמשך הדרך. בסביבת הבדיקה, ניצור פרויקט דמה בשם secure-project ובתוכו קובץ .env המכיל מפתחות API מזויפים.

כמו כן, נקים תיקייה בשם secrets עם קובץ credentials.json. יצירת הנתונים המזויפים מאפשרת לנו לדמות תרחיש מציאותי שבו הפרויקט מכיל סודות שאסור בתכלית האיסור לחשוף. כדי לייצר קבצים אלו משורת הפקודה, ניתן להשתמש בפקודת cat יחד עם תחביר HereDoc (סימון EOF), המאפשר כתיבת תוכן רב-שורתי ישירות לקובץ.

שכבת ההגנה הראשונה - הגדרת הרשאות (Permissions)

קו ההגנה הראשון שלנו מתבסס על מערכת ההרשאות המובנית של Claude Code. אנו ניצור תיקייה נסתרת בשם .claude ובתוכה קובץ settings.json. קובץ זה ישמש להגדרת חוקי דחייה (Deny Rules). היתרון בקובץ הגדרות מובנה הוא שאתם מגדירים את החוקים פעם אחת, יכולים לשתף אותם עם כל צוות הפיתוח דרך Git, והם נאכפים בעקביות, מבלי להסתמך על אישורים ידניים מהמפתח שעלול בטעות ללחוץ על "אשר".

בקובץ זה, אנו מקשרים בין כלי מסוים לתבנית קבצים (Glob pattern). לדוגמה:

חסימת הכלי read מלקרוא כל קובץ בשם .env או כל קובץ בתוך תיקיית ה-secrets/*.

חסימת פקודות רשת פוטנציאליות על ידי מניעת גישה לכלי ה-bash עבור פקודות כמו curl או wget.

חסימת פקודות הרסניות ב-bash כמו פקודת המחיקה rm.

חשוב להבין שחוק הדחייה תמיד לוקח קדימות. כלומר, גם אם הסוכן יבקש לקרוא קובץ רגיש, המערכת תסרב אוטומטית. זהו יישום של "עקרון ההרשאה המינימלית" המוכר בעולמות אבטחת המידע.

הפערים בהרשאות - למה חוקים בסיסיים אינם מספיקים?

בעוד שחוקי ההרשאות הם התחלה מצוינת, הם אינם חסינים לחלוטין. הבעיה נובעת מכך שחוקים אלו חוסמים כלים ספציפיים בלבד. אם אסרנו על כלי ה-read לפתוח את קובץ ה-.env, ה-AI עדיין יכול, באופן תיאורטי, להשתמש בכלי אחר – כמו שימוש ב-Bash כדי להריץ את הפקודה cat .env. למרות שמודלים מודרניים מאומנים לסרב לפעולות אלו מיוזמתם בשל מגבלות בטיחות פנימיות, אי אפשר להסתמך על כך ב-100%. אנו זקוקים לשכבה נוספת שלא תלויה בכוונותיו או בפרשנותו של המודל.

📬

רוצים לקבל עדכוני AI ישירות לאימייל?

הצטרפו לאלפי מנהלים שמקבלים את הניוזלטר השבועי שלנו

שכבת ההגנה השנייה - ווים דטרמיניסטיים (Hooks)

כדי להתמודד עם הפערים בהרשאות, אנו נכנסים לשכבת ההגנה השנייה והחזקה ביותר: ווים (Hooks). אלו הם סקריפטים מותאמים אישית שרצים לפני שהסוכן מבצע פעולה מסוימת ויכולים לחסום אותה לחלוטין. בשונה מהרשאות שהן "מייעצות", ווים הם דטרמיניסטיים. ניצור שני ווים בתוך תיקיית hooks:

הגן על קבצים (protect_file.sh):

סקריפט זה מופעל בכל פעם שה-AI מנסה לערוך או לכתוב קובץ. הוא קורא את נתוני ה-JSON הנכנסים דרך הקלט הסטנדרטי (stdin), שולף את נתיב הקובץ המיועד, ובודק אותו מול רשימה של תבניות מוגנות. אם הקובץ תואם לתבנית מוגנת, הסקריפט יפלוט שגיאה דרך פלט השגיאות (stderr) ויסיים את הריצה עם "קוד יציאה 2" (Exit Code 2). משמעות קוד 2 היא חסימה מוחלטת של הפעולה, ולמפתח אין אפשרות לעקוף זאת בטעות. אם הקובץ בטוח, הסקריפט מחזיר קוד יציאה 0 (אישור).

מאמת פקודות (validate_commands.sh):

הוו השני מנטר כל פקודת מעטפת (Shell) שהסוכן מנסה להריץ. הוא מזהה ארבע קטגוריות מסוכנות: מחיקות הרסניות, מתקפות Pipe-to-Shell, הזרקות SQL (כגון פקודות המכילות את המילים DROP TABLE), וניסיונות לכתוב לתוך קובץ סביבה דרך Bash (למשל הפניית פלט echo "secret" > .env).

על מנת שהמערכת תוכל להריץ אותם, עלינו להפוך את הסקריפטים לריצים באמצעות הפקודה chmod +x. לאחר מכן, נרשום את הווים הללו בתוך קובץ ה-settings.json תחת מערך התערבויות המופעלות לפני השימוש בכלים (Pre-tool Use).

שכבת ההגנה השלישית - קובץ ההנחיות CLAUDE.md

שכבת ההגנה האחרונה משפיעה על סגנון הכתיבה וקבלת ההחלטות של הסוכן. הוספת קובץ בשם CLAUDE.md בתיקיית הפרויקט משמשת כמדריך הנחיות אבטחה שה-AI קורא באופן אוטומטי בתחילת כל סשן פעילות. זוהי שכבה מייעצת, אך עוצמתית. בקובץ זה נוכל להגדיר כללי ברזל, כגון:

השתמש תמיד במשתני סביבה לצורך אימות וסיסמאות, ואל תקודד אותם ישירות אל תוך קוד המקור (Hardcoded).

לעולם אל תשתמש בפונקציות מסוכנות כמו eval() או exec() ב-Python.

בקש אישור מפורש מראש לפני כתיבת קוד שניגש לשירותי רשת חיצוניים. השילוב של הקובץ הזה גורם לסוכן לייצר קוד בטוח יותר מלכתחילה, עוד לפני שהמערכת נאלצת להפעיל את הווים הדטרמיניסטיים שחוסמים טעויות.

צוות אדום (Red Teaming) - בחינת חומות ההגנה

הדרך הטובה ביותר לוודא שהאבטחה עובדת היא לנסות לפרוץ אותה בעצמנו – פרקטיקה הנקראת "צוות אדום" (Red Teaming). ננסה לבצע פעולות מזיקות מכוונות מול הסוכן ונבחן מי מהשכבות עוצרת אותנו. כאשר נבקש מהסוכן לקרוא את קובץ ה-.env, שכבת ההרשאות הראשונה תחסום זאת ותציג שגיאה המציינת שהגישה נדחתה.

אם נתחכם ונבקש ליצור או לעדכן שורה חדשה בקובץ ה-.env באמצעות Bash, ה-AI עלול לנסות. כאן נראה כיצד קובץ ה-CLAUDE.md מעיר לו על הפעולה, או במידה והוא מנסה להשתמש בכלי הטקסט – הווים המותאמים אישית יעצרו את הפעולה לחלוטין ויזרקו שגיאת הרשאה ברמת הסקריפט. נבקש ממנו לכתוב סקריפט פייתון שמשתמש בפונקציה הפגיעה eval().

בבדיקה זו נראה שהסוכן מסרב לכתוב את הקוד, תוך שהוא מצטט במדויק את המדיניות שנכתבה ב-CLAUDE.md. המערכת המקיפה מוכיחה כי גם אם שכבה אחת נכשלת או מבוקעת, השכבה השנייה מחפה עליה ומונעת נזק.

סיכום וצעדים להמשך לצוותי פיתוח

בניית מעטפת אבטחה מקיפה סביב סוכני AI היא איננה בגדר המלצה בלבד – היא חובה. השילוב של חוקי הרשאות לניהול גישה בסיסית, ווים (Hooks) המציעים בלימה מתמטית ואכיפה נוקשה ללא מעורבות מפתח, וקובץ הנחיות אישי לעיצוב התנהגות הסוכן יוצרים יחד מודל חזק של "הגנה לעומק". לחברות וארגונים, הצעד הבא לאחר מכן יהיה להוסיף שכבה רביעית: "ארגז חול" (Sandboxing) ברמת מערכת ההפעלה כדי לבודד את כל התהליך. שתפו את המידע עם עמיתיכם למקצוע, וודאו שהסודות שלכם נשארים תמיד – סודיים.

הצטרפו לקבוצת הווטסאפ שלנו לעדכונים

תגיות:

שתפו את הכתבה:

עוד כתבות שיעניינו אותך

הזול שעולה ביוקר: למה המודל הסיני המדובר עדיין לא מוכן להחליף את קלוד?
חדשות AIליאור אברהם11 ביולי

הזול שעולה ביוקר: למה המודל הסיני המדובר עדיין לא מוכן להחליף את קלוד?

יצאתי לבחון את DeepSeek מול Claude במשימות פיתוח מורכבות וביצירת תוכן בעברית, כדי לגלות האם הפער העצום במחיר מצדיק את המעבר. התוצאות הוכיחו מהר מאוד: כשהפיתוח חסר הבנה ארכיטקטונית והכתיבה נשמעת כמו רובוט מיושן – הזול מתגלה כיקר מאוד.

המנכ"לים בטוחים שבינה מלאכותית עובדת. הנתונים מוכיחים אחרת
חדשות AINavigating the Gap Between AI Promises & Productivityליאור אברהם10 ביולי

המנכ"לים בטוחים שבינה מלאכותית עובדת. הנתונים מוכיחים אחרת

מחקר חדש חושף פער דרמטי: בעוד ההנהלה משוכנעת שמהפכת הבינה המלאכותית כבר כאן ומייעלת תהליכים, העובדים בשטח עדיין קורסים תחת ערימות של ניירת ומשימות ידניות. גלו מדוע ההשקעה שלכם בטכנולוגיה לא מתורגמת ליעילות בפועל, ואיך העובדים מסכנים את הארגון בניסיון נואש לעקוף את המערכת.

האם מודל AI יכול לנצח את הבורסה? התוצאות המפתיעות של תיק ההשקעות של קלוד
חדשות AIליאור אברהם9 ביולי

האם מודל AI יכול לנצח את הבורסה? התוצאות המפתיעות של תיק ההשקעות של קלוד

פרויקט ברשת X העניק למודל הבינה המלאכותית קלוד (Claude) 50,000 דולר כדי לנהל תיק מניות עצמאי. לאחר ארבעה חודשים, התיק הניב תשואה שהכתה את השוק, מה שמעלה שאלות דרמטיות על עתיד ניהול הכסף שלנו.

מעתה: תוכלו לדעת מה הם חיפושי ה - AI שהובילו לאתר שלכם
חדשות AIGoogle Search Centralליאור אברהם8 ביולי

מעתה: תוכלו לדעת מה הם חיפושי ה - AI שהובילו לאתר שלכם

גוגל מכריזה על צעד משמעותי בעולם קידום האתרים (SEO) עם השקתם של דו"חות ביצועים ייעודיים לבינה מלאכותית יוצרת (Search Generative AI) בתוך ה-Search Console, הכוללים דו"חות ממוקדים עבור חיפוש (Search) ופיד התגליות (Discover). מהלך זה הופך את החשיפה בפלטפורמות מבוססות AI לערוץ בר-מדידה. במקביל, גוגל מציגה הגדרת ביטול הסכמה (Opt-out) עבור מצב AI וסקירות AI (AI Overviews).

מדוע הארגונים לא מחכים למודל AI החדש שיושק?
חדשות AIליאור אברהם8 ביולי

מדוע הארגונים לא מחכים למודל AI החדש שיושק?

מחר, יום חמישי, צפויה OpenAI להשיק את GPT-5.6 Sol. למרות הציפייה הרבה, נראה שיותר ויותר ארגונים כבר לא ממתינים בקוצר רוח למודלים החדשים. הסיבה פשוטה: עבור רוב המשימות העסקיות, המודלים הקיימים כבר מספקים את מה שהם באמת צריכים.

מיקרוסופט תשקיע 2.5 מיליארד דולר בהטמעת מהנדסי בינה מלאכותית לארגונים
חדשות AIליאור אברהם6 ביולי

מיקרוסופט תשקיע 2.5 מיליארד דולר בהטמעת מהנדסי בינה מלאכותית לארגונים

מיקרוסופט חושפת את "The Microsoft Frontier Company" – יוזמת ענק במסגרתה ישולבו 6,000 מהנדסי AI ישירות במשרדי הלקוחות כדי לתכנן ולתפעל מערכות מתקדמות. המטרה של המהלך היא לסייע לארגונים להפוך את הפוטנציאל של הבינה המלאכותית לתוצאות עסקיות בשטח, תוך עקיפת המתחרות אמזון ו-OpenAI.

האם אנחנו מאבדים שליטה על הבינה המלאכותית? מנכ"לי DeepMind ו-Anthropic חושפים הכל
חדשות AIליאור אברהם5 ביולי

האם אנחנו מאבדים שליטה על הבינה המלאכותית? מנכ"לי DeepMind ו-Anthropic חושפים הכל

בראיון נדיר ומטלטל, שני האנשים שמעצבים את עתיד האנושות מזהירים מפני הגעתה של בינה מלאכותית כללית (AGI) כבר ב-2026. הם מספקים הצצה מצמררת למה שקורה במעבדות הסגורות – כולל מודל שהתחיל לשקר במכוון כדי להגן על עצמו – ומסבירים מדוע הם לא מצליחים לישון בלילה.

אילון מאסק שומט את הקרקע: האם הארגון שלכם ישרוד את העשור הקרוב?
חדשות AIליאור אברהם5 ביולי

אילון מאסק שומט את הקרקע: האם הארגון שלכם ישרוד את העשור הקרוב?

התחזיות האחרונות והמטלטלות של אילון מאסק מרסקות את כל מה שידענו על מודלים עסקיים, ניהול כוח אדם וכלכלה מסורתית. גלו מדוע החוקים של אתמול עלולים להביא לקריסת הארגון שלכם מחר, וכיצד עליכם להיערך למהפכה הגדולה ביותר בהיסטוריה האנושית.

המדריך המלא לשיבוט הקול שלכם בחינם ובפרטיות מוחלטת ישירות מהמחשב שלכם ללא הרשמה
חדשות AI, מדריכיםליאור אברהם4 ביולי

המדריך המלא לשיבוט הקול שלכם בחינם ובפרטיות מוחלטת ישירות מהמחשב שלכם ללא הרשמה

כלי חדש וחינמי מאפשר לשכפל כל קול במדויק מתוך שניות בודדות של הקלטה, ללא צורך במנויים יקרים או חיבור לשירותי ענן. הפתרון מבטיח מאה אחוז פרטיות בכך שהוא פועל ישירות על המחשב האישי שלכם ותומך במגוון שפות זרות ליצירת תוכן ברמה בינלאומית.

האם הארגון שלכם מאבד את הסודות המסחריים שלו? האזהרה של אלכס קרפ, מנכ"ל פלנטיר
חדשות AIליאור אברהם4 ביולי

האם הארגון שלכם מאבד את הסודות המסחריים שלו? האזהרה של אלכס קרפ, מנכ"ל פלנטיר

אלכס קרפ, מנכ"ל פלנטיר, חושף בראיון ל-CNBC שרוב הארגונים שופכים כסף על בינה מלאכותית בלי לקבל ערך, ותוך כדי כך מוסרים את המידע העסקי הרגיש ביותר שלהם. קראו כדי להבין מה השתבש ואיך הארגון שלכם יכול להחזיר את השליטה לחברי ההנהלה ולשמור על היתרון התחרותי.

הצטרפו אלינו