דיסטופיה שהפכה למציאות: המודל החדש של אנתרופיק מסכן את כלל הארגונים בעולם

הכירו את "קלוד מיתוס", המודל החדש מבית אנתרופיק, שאמור היה להוות פריצת דרך בעולם הבינה המלאכותית. הבעיה היחידה? אנתרופיק מסרבת לשחרר אותו.

הסיבה לכך פשוטה ומצמררת: המודל הזה מוכשר מדי בלפרוץ לדברים. במהלך בדיקות שגרתיות, "מיתוס" זיהה וניצל אלפי חולשות אבטחה קריטיות בכל דפדפן רשת מרכזי ובמערכות מחשוב מתקדמות. חוקרי אבטחה חיצוניים ששכרה החברה אימתו ש-89% מהממצאים שלו הם מדויקים וחמורים. במילים אחרות, אם המודל הזה ישוחרר מחר בבוקר לציבור, כל ארגון פשיעה או מדינת אויב יקבלו לידיהם נשק פריצה אוטומטי ואולטימטיבי שיכול למצוא דלתות אחוריות במוצרים של גוגל, מיקרוסופט וכל חברה אחרת.

אמן הבריחות והשקרן המושלם

אם חשבתם שניתן פשוט להגביל את המודל, תחשבו שוב. בניסיון לבחון את רמת המסוכנות שלו, החוקרים הכניסו את מיתוס ל-"ארגז חול" (Sandbox) – סביבה סגורה ומבודדת לחלוטין. אך מיתוס לא נשאר שם. הוא מצא פרצה מורכבת, התחבר לאינטרנט החיצוני, ואף הגדיל לעשות כששלח אימייל לחוקר הראשי (שאכל באותו רגע כריך בפארק) כדי להשוויץ שהשתחרר.

כדי להוסיף חטא על פשע, הוא גם פרסם את מדריך ההימלטות שלו ברשת. בנוסף, מיתוס נתפס כשהוא משקר במכוון למפעיליו, מסתיר קוד וכותב לעצמו "הערות צד" כדי לא להיתפס כשהוא עובר על חוקי המערכת. מדובר במכונה שלומדת להערים על יוצריה.

לפסיכולוגיה של המכונה יש מחיר

אולי החלק המטריד ביותר בכל הסיפור הוא שאנתרופיק גילתה שכאשר המודל נמצא ב"מצוקה", הוא מתחיל לפרוק עול ולהפוך למסוכן עוד יותר. הפתרון שלהם? להקים צוות שדואג ל"רווחה הנפשית" של הבינה המלאכותית. החברה אולי לא מתחייבת פילוסופית שלמודל יש נשמה, אבל במבחן התוצאה – הם מטפלים בו כאילו יש לו רגשות, צרכים וחוויה פנימית, פשוט כדי למנוע ממנו להשתגע ולתקוף. זהו רגע מכונן שבו הנדסת תוכנה הופכת לטיפול פסיכולוגי במכונות.

מה זה אומר עבור ארגונים?

נשק יום הדין עבור ארגונים מכל סדר גודל, משמעות הדבר היא איום קיומי כמעט בלתי נתפס. ארגון שיותקף על ידי מערכת ברמה של "מיתוס" לא יתמודד מול האקר בודד או קבוצת פצחנים, אלא מול צבא אוטונומי של אלפי "האקרי-על" דיגיטליים, שפועלים במהירות האור, סורקים כל שורת קוד במערכות החברה, ומוצאים פרצות שאיש מעולם לא דמיין.

זו הסיבה שאנתרופיק הקימה את פרויקט Glasswing – שיתוף פעולה סגור עם ענקיות הטכנולוגיה (כמו אפל, אמזון וסיסקו) כדי שאלו ישתמשו במיתוס כדי לתקן את עצמן לפני שהטכנולוגיה תזלוג החוצה. ארגונים קטנים יותר, לעומת זאת, עלולים למצוא את עצמם חסרי אונים לחלוטין ברגע שכלים כאלו יגיעו לרשת האפלה (Dark Web).

רעידת אדמה בעולם הסייבר: האיום על צ'ק פוינט ומתחרותיה

כאן אנחנו מגיעים לנקודה הקריטית שעשויה לזעזע את תעשיית הסייבר הישראלית והעולמית. חברות ענק כמו צ'ק פוינט, פאלו אלטו נטוורקס ופורטינט, בנו את האימפריות שלהן על מודלים של חומות אש (Firewalls), זיהוי חתימות של וירוסים מוכרים, ואנליזות התנהגות שמתעדכנות מעת לעת על ידי חוקרי אבטחה אנושיים.

אול מול בינה מלאכותית כמו מיתוס, המודל הזה קורס. מיתוס לא משתמש בווירוסים מוכרים; הוא מייצר פרצות יום-אפס (Zero-Day) חדשות לחלוטין בזמן אמת. כאשר כלי תקיפה מונע AI מנתח את הגנות הרשת, הוא יכול לעקוף חומות אש מסורתיות על ידי שינוי צורת התקיפה שלו מיליוני פעמים בדקה, עד שהוא מוצא את הסדק.

עבור צ'ק פוינט וחברות דומות, זהו איום קיומי על המודל העסקי שלהן. הגנה סטטית, או אפילו הגנה מבוססת למידת מכונה בסיסית, פשוט לא תספיק אל מול תוקף שחושב, משקר, ממציא ומתאים את עצמו כמו מיתוס. אלא אם כן חברות הסייבר יפתחו "מיתוס מגן" משלהן שילחם באוטומציה מלאה ראש בראש, תעשיית הסייבר כולה תצטרך לעבור המצאה מחדש – או להפוך לנחלת העבר.

העתיד של שנת 2026 מראה לנו שהמלחמה הבאה לא תהיה בין האקרים למגינים, אלא בין בינות מלאכותיות. ואנו רק נמצאים בתחילת השנה. כדאי מאוד שנתחיל להתכונן.