חברת הבינה המלאכותית אנתרופיק (Anthropic) מסרבת להיכנע ללחצי הפנטגון להסיר את מגבלות הבטיחות של מודל קלוד (Claude).
המאבק הזה, שעלול לעלות לחברה ביוקר ולהכניסה ל"רשימה שחורה", מציב קו אדום היסטורי וברור בכל הנוגע לשימוש בטכנולוגיית AI למעקבי המונים ונשק אוטונומי.
הקרב על העקרונות במחיר של מיליארדים בעידן שבו חברות טכנולוגיה רודפות אחרי חוזים ממשלתיים בסכומי עתק, החלטה אחת מטלטלת את עמק הסיליקון. חברת אנתרופיק, המפתחת של מודל השפה הפופולרי קלוד (Claude), מצאה את עצמה תחת לחץ כבד מצד משרד ההגנה האמריקאי (הפנטגון).
הדרישה? להסיר או להגמיש את "חומות המגן" (Guardrails) ומגבלות הבטיחות המובנות במודלים שלה, כדי להתאים אותם לצרכים צבאיים נרחבים. למרות הלחץ הכלכלי והפוליטי העצום, מנכ"ל החברה, דריו אמודי, פרסם השבוע הצהרה שבה הבהיר שהחברה מסרבת בתוקף להיענות לדרישה. החלטה זו מעמידה בסיכון את עתיד היחסים בין החברה לממשל, אך מדגישה את מחויבותה של אנתרופיק לפיתוח אחראי ובטוח של טכנולוגיה.
מעקב המונים ונשק אוטונומי: הקווים האדומים ההתנגשות בין אנתרופיק לפנטגון לא נובעת מסירוב גורף לעבוד עם מערכות הביטחון. למעשה, אמודי ציין כי מודלי Claude כבר פרוסים בהרחבה בקהילות המודיעין והביטחון, מעבדות לאומיות ואפילו ברשתות ממשלתיות מסווגות. הם משמשים לניתוח מודיעין, סייבר, תכנון תפעולי וסימולציות.
SAN FRANCISCO, CALIFORNIA – SEPTEMBER 20: Anthropic Co-Founder & CEO Dario Amodei speaks onstage during TechCrunch Disrupt 2023 at Moscone Center on September 20, 2023 in San Francisco, California. (Photo by Kimberly White/Getty Images for TechCrunch)
הבעיה מתחילה בשני תחומים ספציפיים שהם בגדר קו אדום עבור החברה: מעקב המונים על אזרחים אמריקאים ופיתוח נשק אוטונומי לחלוטין. לדברי אמודי, השימוש בבינה מלאכותית למעקב המונים מציב "סיכונים חדשים וחמורים לחרויות היסוד שלנו".
לגבי נשק אוטונומי, אף על פי שהטכנולוגיה עשויה להיות שימושית בעתיד, אנתרופיק טוענת כי נכון להיום, פשוט לא קיימות מגבלות בטיחות מחמירות מספיק כדי לפרוס מערכות כאלו ללא סיכון ממשי לטעויות הרות אסון. "במקרים מסוימים, אנו מאמינים ש-AI עלול לחתור תחת ערכים דמוקרטיים במקום להגן עליהם", הסביר אמודי.
ניוזלטר AI לפי תפקיד
כלים, מדריכים ומקרים מהשטח שרלוונטיים לעבודה שלכם, בלי רעש. בחרו תפקיד, ונשלח לכם את מה שחשוב לו.
איומים, רשימות שחורות ומתחרים שקופצים על ההזדמנות התגובה של הפנטגון לסירוב של אנתרופיק הייתה חריפה וחסרת תקדים. הסוכנות החלה בצעדים להכנסת החברה ל"רשימה שחורה" על ידי תיוגה כ"סיכון שרשרת אספקה" – תווית שבדרך כלל שמורה לחברות ממדינות עוינות.
צעד כזה לא רק יפגע בחוזים הישירים של אנתרופיק עם הצבא, אלא יאלץ את כל ספקי הביטחון והקבלנים של משרד ההגנה לנתק את קשריהם עם החברה. בנוסף, שר ההגנה האמריקאי, פיט הגסת', איים להפעיל את "חוק הייצור הביטחוני" כדי לאלץ את אנתרופיק להתאים את המודלים שלה לדרישות הצבא – צעד שזכה לביקורת כ"לא קוהרנטי" מצד בכירים לשעבר בממשל.
במקביל, במקום להתמודד עם הסוגיה האתית, הפנטגון פשוט עבר למתחרים: השבוע נחתם הסכם עם חברת xAI (מפתחת מודל Grok) לשילוב מערכותיה במערכות מסווגות, כולל פיתוח נשק ופעילות בשדה הקרב.
מה זה אומר עלינו, המשתמשים? כמשתמשי קצה, המאבק הזה חשוב לנו יותר ממה שנדמה. כשחברת ענק מוכנה לסכן אחוז ניכר מהכנסותיה כדי לעמוד בהתחייבויות האתיות שלה, זה משדר מסר חזק לגבי האמון שאנו יכולים לתת בה. אנתרופיק בנתה את המוניטין שלה סביב המושג של "בטיחות בבינה מלאכותית" (AI Safety), ונסיגה כעת הייתה בגידה בעקרונות הליבה שלה.
מנגד, ייתכן שהחברה תמצא את היתרון דווקא במגזר העסקי: חברות, ארגונים גדולים ובנקים, שהם שונאי סיכון מטבעם וזקוקים למערכות AI אמינות ובטוחות, צפויים לתת אמון רב יותר במודל של חברה שמוכיחה שהיא לא מתפשרת על הבטיחות, גם מול האיומים הגדולים ביותר. המאבק הזה יעצב את האופן שבו ממשלות וחברות טכנולוגיה ישתפו פעולה בשנים הקרובות, ויקבע האם הטכנולוגיה תשרת את האנושות, או תסכן אותה.
מה דעתכם? האם חברות צריכות לשים גבולות? הדיון סביב בינה מלאכותית ונשק אוטונומי נמצא רק בראשיתו. נשמח לשמוע מה אתם חושבים – האם אנתרופיק צודקת בעמידתה מול הפנטגון, או שחברות מסחריות צריכות לאפשר לממשלות להשתמש בטכנולוגיה לצרכי ביטחון כפי שהן רואות לנכון? שתפו אותנו!
