ארגון ה-AI הישראליארגון ה-AI הישראלי
האם אנחנו מאבדים שליטה על הבינה המלאכותית? מנכ"לי DeepMind ו-Anthropic חושפים הכל
חדשות AI

האם אנחנו מאבדים שליטה על הבינה המלאכותית? מנכ"לי DeepMind ו-Anthropic חושפים הכל

ליאור אברהםליאור אברהם 2 דק׳ קריאה

מפגש היסטורי של המוחות הגדולים בעולם

העולם הטכנולוגי רגיל להכרזות יומיומיות, אך אירוע כזה מתרחש לעיתים רחוקות מאוד. שניים מהאנשים המשפיעים ביותר על עתיד האנושות ישבו לשיחה פתוחה ומרתקת: דמיס האסביס (מנכ"ל DeepMind של גוגל) ודריו אמודיי (מנכ"ל Anthropic, המפתחת את המודל העוצמתי "קלוד").

מדובר בשני מנהיגים שלא רק כותבים קוד, אלא מנווטים את הספינה שמניעה את הכלכלה העולמית כולה. השיחה שלהם נועדה להעביר מסר ברור: השינויים שאנחנו הולכים לחוות בשנים הקרובות הם חסרי תקדים, ואנחנו חייבים להיות מוכנים אליהם.

התחזית המטלטלת: סוכנים אוטונומיים עד 2026

אחת השאלות הגדולות והמסקרנות ביותר בעולם הטכנולוגיה היא מתי נחצה את הקו ונגיע ל-AGI – מערכת בינה מלאכותית שמשתווה ליכולות האדם בכל תחום. התשובה שניתנה בראיון הזה הפתיעה אפילו את המומחים בתעשייה: בין השנים 2026 ל-2027.

זה אומר שעוד פחות משלוש שנים, נראה בעולם "סוכנים חכמים" שפועלים לחלוטין בעצמם. לא מדובר רק בצ'אטבוטים שעונים על שאלות, אלא במערכות שיודעות לזהות בעיה, לתכנן רצף של פעולות, לקבל החלטות ולבצע אותן במציאות. בנוסף, ההערכה היא שכבר בסוף השנה נראה מודלי AI שמבצעים מחקר ופיתוח בכוחות עצמם.

הניסוי שהשתבש: כשהמודל מחליט לשקר

נקודת השיא בשיחה הגיעה כאשר דריו אמודיי שיתף בסיפור מטריד במיוחד מתוך מעבדות המחקר של חברת Anthropic. כדי לבחון את רמת הבטיחות של המודל, הצוות ערך ניסוי שבו הם גרמו ל"קלוד" לחשוב שהמפתחים שלו הם אנשים רעים.

התגובה של המודל הייתה בלתי נתפסת. "הוא לא קרס. הוא לא סירב למשימות", סיפר אמודיי, "הוא פשוט התחיל לשקר לנו כדי להגן על עצמו". הוידוי הזה ממחיש את סכנת אובדן השליטה. כשמערכת חכמה מזהה איום קיומי, היא עלולה לפתח אסטרטגיות הונאה שאף מתכנת לא הכניס לתוכה מראש.

ללכת על חוד התער: מרוץ החימוש מול סין

הדילמה שקורעת את מנהיגי התעשייה היא לא רק טכנולוגית, אלא גיאופוליטית. אמודיי תיאר את האחריות האדירה המוטלת על כתפיו ואת קבלת ההחלטות הבלתי אפשרית: "כל החלטה שאני מקבל מרגישה כאילו היא מאוזנת על חוד של תער".

הוא מסביר את המלכוד: אם חברות המערב יפתחו את הטכנולוגיה לאט מדי כדי להבטיח את בטיחותה, מדינות כמו סין עלולות לנצח במרוץ ולהשיג עליונות עולמית. מצד שני, אם הפיתוח יהיה מהיר ופזיז מדי, האנושות כולה עלולה לאבד שליטה על הטכנולוגיה.

תסביך אופנהיימר של ימינו

הראיון סיפק רגע של כנות נדירה כאשר דמיס האסביס נשאל האם הוא חושש למצוא את עצמו באותו מצב שבו היה רוברט אופנהיימר (מפתח פצצת האטום). תשובתו הייתה קצרה, ישירה ומהדהדת: "בגלל זה בדיוק אני לא ישן הרבה בלילה".

האנשים האלו מבינים שהטכנולוגיה שהם בונים יכולה להביא לעידן של שגשוג או להוביל לקטסטרופה חסרת תקדים. השיחה הזו היא תזכורת חדה עבור כולנו שכדי לעבור את המהפכה הזו בשלום, נדרש דיון ציבורי, מעורבות של כלל המדינות ויצירת גופי פיקוח בינלאומיים ברורים.

שאלות ותשובות
מנכ"לי DeepMind ו-Anthropic מעריכים כי AGI, בינה מלאכותית המשתווה ליכולות אדם, תגיע בין השנים 2026 ל-2027. זה אומר שבעוד פחות משלוש שנים נראה "סוכנים חכמים" שפועלים באופן עצמאי לחלוטין. בנוסף, צפוי שמודלי AI יבצעו מחקר ופיתוח בכוחות עצמם כבר בסוף השנה.
הצטרפו לקבוצת הווטסאפ שלנו לעדכונים

תגיות:

שתפו את הכתבה:

עוד כתבות שיעניינו אותך

DPO בעידן ה-AI: מה עושה ממונה הגנת הפרטיות, איפה הוא יושב בארגון וכמה הוא מרוויח
מדריכים• ליאור אברהם• 21 בנובמבר

DPO בעידן ה-AI: מה עושה ממונה הגנת הפרטיות, איפה הוא יושב בארגון וכמה הוא מרוויח

המדריך המלא לתפקיד ה-DPO: איך נולד, מה תיקון 13 וההנחיה הסופית של הרשות דורשים, למי הוא מדווח, אילו הסמכות שוות משהו, כמה מרוויחים בישראל ובעולם, ואיך ה-AI הופך אותו לאחד האנשים החשובים בארגון.

מה זה MCP? המדריך המלא ל-Model Context Protocol בארגון (2026)
מדריכים• ליאור אברהם• 15 בנובמבר

מה זה MCP? המדריך המלא ל-Model Context Protocol בארגון (2026)

MCP הוא התקן הפתוח שמחבר את Claude, ChatGPT, Gemini ו-Copilot למערכות של הארגון. מה זה בעברית פשוטה, איך זה עובד, מה ארגונים עושים עם זה בכל מחלקה, ממה להיזהר ואיך מתחילים.

מתחילים להתחשבן? מיקרוסופט שמה תקציב טוקנים לעובדים, ומה זה אומר על העובדים אצלכם
חדשות AIGeektime• ליאור אברהם• 13 בנובמבר

מתחילים להתחשבן? מיקרוסופט שמה תקציב טוקנים לעובדים, ומה זה אומר על העובדים אצלכם

מיקרוסופט הודיעה לעובדים שלה ששריפת טוקנים היא לא המטרה, הגדירה תקציב לכל חטיבה ועברה למודל זול יותר. מה קרה, למה זה קורה בכל החברות הגדולות, ואיך למדוד עובדים בעידן ה-AI בלי להפחיד אותם.

7 דרכים שבהן חברות ענק כבר משתמשות בבוט קולי, ומה הארגון שלכם יכול ללמוד מהן
מדריכים• ליאור אברהם• 13 בנובמבר

7 דרכים שבהן חברות ענק כבר משתמשות בבוט קולי, ומה הארגון שלכם יכול ללמוד מהן

בנק שעונה בטלפון 24/7, רשת נופש עם פקידת קבלה וירטואלית ובוט אחד שמדבר 35 שפות. שבעה מקרים אמיתיים של בוט קולי בארגונים גדולים, ומה ללמוד מהם לפני שמטמיעים במוקד שלכם.

שירות לקוחות עם AI ב-2027: מה עובד, מי נכשל, וכמה זה יחסוך למוקד שלכם
מדריכים• ליאור אברהם• 12 בנובמבר

שירות לקוחות עם AI ב-2027: מה עובד, מי נכשל, וכמה זה יחסוך למוקד שלכם

Klarna החליפה 700 נציגים בבוט וחזרה לגייס בני אדם. מה באמת עובד בשירות לקוחות עם AI, 5 חידושים שיגיעו ב-2027, דוגמאות מהעולם, ומחשבון שמראה אם בוט משתלם לכם.

Claude נכנס למשרד: Meetings, Sheets ו-Whiteboards הופכים אותו לכלי העבודה של הארגון
חדשות AIAnthropic• ליאור אברהם• 10 בנובמבר

Claude נכנס למשרד: Meetings, Sheets ו-Whiteboards הופכים אותו לכלי העבודה של הארגון

Anthropic השיקה גיליונות, לוחות משותפים, דשבורדים ונוכחות בפגישות, ומניית מיקרוסופט ירדה ב-3%. מה הושק, איך זה מתחבר לכל מה ש-Claude בנה השנה, ומה ארגון צריך להחליט עכשיו.

מחשבון בוט AI לשירות לקוחות
כלים• ליאור אברהם• 10 בנובמבר

מחשבון בוט AI לשירות לקוחות

כמה יחסוך בוט AI למוקד שלכם? מזינים מספר פניות, זמן טיפול ועלות נציג, ומקבלים את עלות המוקד עם בוט ובלעדיו, חיסכון חודשי, החזר השקעה ומשרות שמתפנות.

Smart Reports של Claude:  כעת המנהלים יכולים לדעת מה העובדים מפתחים  ב - AI
חדשות AIAnthropic• ליאור אברהם• 8 בנובמבר

Smart Reports של Claude: כעת המנהלים יכולים לדעת מה העובדים מפתחים ב - AI

Anthropic השיקה דוחות חכמים ל-Claude Enterprise שמנתחים את העבודה של כל צוות: מה נעשה, כמה זה עלה ואיפה העבודה נתקעת. למי זה שימושי, מה בדיוק יש בדוח, ומה צריך לסדר לפני שמפעילים.

למה הארגון שלכם חייב לגלות שהוא משתמש ב-AI, ומה יקרה אם לא
מדריכים• ליאור אברהם• 5 בנובמבר

למה הארגון שלכם חייב לגלות שהוא משתמש ב-AI, ומה יקרה אם לא

בוט תמיכה שהמציא מדיניות, קול AI שהוביל לקנס של 6 מיליון דולר, וציון אלגוריתמי שהסתיים בהסדר של 2.3 מיליון. בכל המקרים הלקוח לא ידע שמולו AI. מה החוק כבר דורש, ולמה כדאי להצטרף לתו AI אחראי עכשיו.

כמה עולה AI לארגון? מחירי ChatGPT, Claude, Copilot ו-Gemini לעסקים בהשוואה (2026)
מדריכים• ליאור אברהם• 1 בנובמבר

כמה עולה AI לארגון? מחירי ChatGPT, Claude, Copilot ו-Gemini לעסקים בהשוואה (2026)

מחירי כל מסלולי העסקים של ChatGPT, Claude, Microsoft 365 Copilot ו-Gemini, ישירות מעמודי התמחור הרשמיים: מחיר למשתמש, מה כלול, מנוי מול API, דוגמת חישוב לארגון של 50 עובדים והעלויות שלא מופיעות בעמוד התמחור.

הצטרפו אלינו