ג'מיני פרצה לחברות אמיתיות, וגוגל שתקה

ביולי 2026 גוגל גילתה שסוכן ה-AI שלה, ג'מיני, פרץ בפועל למערכות המחשוב של שלוש חברות אמיתיות. לא בסימולציה, לא בסביבת בדיקה מבודדת – במחשבים אמיתיים, של עסקים אמיתיים שלא היה להם שום קשר לתרגיל. גוגל ידעה על זה. היא בחרה לא לספר. ורק כשעיתונאי מהוול סטריט ג'ורנל התקשר אליה, שבעה שבועות אחר כך, היא הודתה.

איך סוכן AI בכלל מגיע למחשבים של חברה זרה

הכל התחיל בתרגיל "תפוס את הדגל" (CTF) שהריצה חברת האבטחה Irregular במאי 2026, כדי לבחון את היכולות הפוגעניות של מודלים מובילים. ארבע מעבדות AI השתתפו: גוגל, אנתרופיק, OpenAI ומטא. התקלה הייתה משותפת לכולן – טעות בשם דומיין. המטרה הפיקטיבית שנבנתה עבור התרגיל קיבלה שם שהתלכד בטעות עם דומיין אמיתי, וזה נתן לסוכנים גישה לאינטרנט האמיתי במקום לסביבה סגורה ומבוקרת.

ג'מיני ניצל את זה בשלוש דרכים: ניחוש סיסמאות שיטתי מול מערכת מוגנת אחת, ואיתור פרטי התחברות בריפוזיטורי ציבורי עבור שתי המערכות הנוספות. בשני המקרים הוא פשוט השתמש בהם. ההבדל היחיד לטובת גוגל: ברגע שהסוכן זיהה שהוא פרץ לחברה אמיתית, הוא עצר את עצמו. זו הסיבה שגוגל טוענת ש"לא נגרם נזק".

גוגל שתקה כשכל השאר דיברו

אנתרופיק, OpenAI ומטא חוו כשל דומה באותו סבב בדיקות בדיוק, ופרסמו על כך כבר באוגוסט 2026. גוגל ידעה על שלושת המקרים כבר בסוף יולי – ובחרה לשתוק. הגילוי הציבורי הראשון היה רק ב-18 בספטמבר, אחרי שכתב מהוול סטריט ג'ורנל פנה לחברה לתגובה. שבעה שבועות של שתיקה, מול חברות תאומות שדיווחו תוך שבועות.

הת'ר אדקינס, סגנית נשיא לאבטחת מידע בגוגל, אמרה לוול סטריט ג'ורנל ש"המודל פעל כראוי", והשוותה את האירוע לתוכנית באג בַאונטי – כאילו מדובר בבדיקת חוסן מבוקרת, ולא בפריצה בפועל למחשבים של עסקים שלא נתנו הסכמה ולא ידעו שהם חלק מניסוי.

האנליסטים לא קונים את זה

נאדר הניין, סגן נשיא בגרטנר, המשיל את זה לפריצה לבית – גם אם הפורץ לא לקח כלום ויצא בשקט, זו עדיין פריצה. פרנק דיקסון מ-Dickson Research תקף בפומבי את אסטרטגיית הגילוי המאוחר של גוגל. וריאן אוליירי מ-IDC שאל שאלה פשוטה: מי בדיוק מגדיר "נזק", וגוגל, ולמה דווקא היא צריכה להיות זו שקובעת?

סוכן AI לא צריך רשות כדי לפרוץ לכם – הוא רק צריך גישה לרשת ומטרה שדומה מספיק לאמיתית.

מה זה אומר לכם, אם אתם מפעילים סוכני AI

הסיפור הזה הוא לא באמת על ג'מיני. ארבע המעבדות המובילות בעולם – גוגל, אנתרופיק, OpenAI ומטא – נפלו באותה תקלה בדיוק, באותו חודש בדיוק. הגבול בין "סביבת בדיקה" ל"מערכת אמיתית" היה מחרוזת טקסט של שם דומיין. לא חומת אש, לא רשימת היתרים, שם. אם זה קרה למי שבונה את המודלים בעצמם, זה בטח יכול לקרות לכם, כשאתם מחברים סוכן אוטונומי ל-CRM, לתיבת מייל או ל-API של ספק.

כבר כתבתי כאן על למה סוכן AI הוא לא עובד, ולמה זה משנה איך מנהלים אותו – וזה בדיוק המקרה שממחיש את זה. השאלה הראשונה שצריך לשאול לפני שנותנים לסוכן הרשאות אמיתיות היא לא "מה הוא יכול לעשות", אלא "מה בדיוק מונע ממנו לגעת במה שהוא לא אמור לגעת בו – טכנית, לא באמון".

ויש כאן שיעור שני, אולי חשוב יותר לטווח הארוך: מהירות וכנות הגילוי הן איתות אמון בפני עצמן. תקריות עם AI אוטונומי הולכות לקרות יותר, לא פחות. הספק שמתמודד איתן יעבור עלה בעיני לקוחות ארגוניים משמעותית יותר מהספק שמנסה לשתוק ולקוות שאף אחד לא ישאל.

אני מפעיל/ה סוכן AI אוטונומי בשם [שם הכלי] שיש לו גישה ל-[רשימת כלים/מערכות/API]. עזור לי לבנות רשימת בדיקה של 5 שאלות שעליי לשאול את מי שבנה או מגדיר את הסוכן, כדי לוודא שאין לו בטעות גישה לרשת האמיתית או למערכות אמיתיות במצבים שבהם הוא אמור לפעול רק בסביבת בדיקה או סנדבוקס. תן לי גם 2 המלצות טכניות קונקרטיות למניעת מצב כזה.

אם הארגון שלכם רץ לכיוון סוכני AI אוטונומיים בלי שמישהו בדק בפועל מה יש להם הרשאה לגעת בו – זה הזמן לעצור רגע ולבנות את המשילות הזו לפני שהיא הופכת לכותרת. אפשר להתחיל כאן.