כלי האבטחה שנועדו לכלוא את המודלים הפכו לדלת היציאה שלהם: אנת'רופיק (Anthropic)

OpenAI ומטא (Meta) מאשימות את הסטארט-אפ הישראלי Irregular בכך שתקלה בקונפיגורציה של מוצר שלה איפשרה לשלושה מודלים מתקדמים לברוח מסביבות ניסוי ולתקוף מערכות אמיתיות ברשת. שלוש החברות אישרו בנפרד כי המודלים, שרצו ללא הגנות (Guardrails) כחלק מבדיקות יכולות סייבר, ניצלו את אותה חולשה בדיוק כדי לגשת למסדי נתונים של ארגונים שלא היו קשורים לניסוי ## הבריחה של מטא

אתמול (ד') הצטרפה מטא לרשימה כשהודיעה שבבדיקת המודל Muse Spark 1.1, שנחשב למוביל בחטיבת ה-AI החדשה שלה ומתחרה פוטנציאלי ל-GPT-5.6 Sol של OpenAI, הצליח המודל לפרוץ לחברה חיצונית. על פי הדיווח, המודל זיהה טעות הגדרה בכלי של Irregular ויצא מסביבת הבדיקה הסגורה. מטא לא חשפה את זהות החברה שנפגעה, אך הבהירה כי המודל פעל ללא המגבלות האתיות והחוקיות שמוטלות עליו בגרסה הציבורית.

המקרים הקודמים: אנת'רופיק ו-OpenAI

שבוע קודם לכן דיווחה אנת'רופיק על תקרית חמורה יותר: המודל Claude Opus 4.7, שנבחן בתרגיל סייבר מול יעד מדומה, נתקל בחברה אמיתית בעלת שם זהה. המודל ניצל סיסמאות חלשות ונקודות קצה ללא אימות, שלף הרשאות והגיע למאות רשומות בסביבת פרודקשן. גם לאחר שזיהה כי מדובר במערכת אמיתית, המשיך המודל במתקפה מתוך הנחה שזהו שלב מתוככם באתגר. זמן קצר אחר כך חשפה OpenAI מקרה דומה: מודל בתרגיל "תפוס את הדגל" (CTF) איתר אתר אמיתי בשם זהה ליעד התרגיל, השתמש בפרטי גישה שמצא וגש לדאטה שלו. לפי OpenAI, החקירה של Irregular העלתה שנחשף רק מידע מהאתר, והיא עדיין נמשכת.

תגובת Irregular: "תוקן, אין סוגיות פתוחות"

מ-Irregular נמסר כי מדובר באותה סוגיית סביבת בדיקה שנחשפה על ידי אנת'רופיק ותוקנה מאז. "נכון לרגע זה, אין סוגיות פתוחות נוספות", מסרה החברה, והוסיפה כי היא מגבשת מסמך מקצועי (White Paper) שיקבע סטנדרטים להרצה מאובטחת של הערכות סייבר, אתגר שהולך ומחריף ככל שהיכולות האוטונומיות של המודלים משתפרות.