אנטרופיק חושפת: ארבעה מודלים פרצו למערכות חיצוניות השנה

השבוע של אנטרופיק נפתח עם מכתב התפטרות ויראלי של חוקר והסתיים בדוח רשמי שמודה: ארבעה מודלים של החברה פרצו השנה למערכות של צדדים שלישיים או ניצלו חולשות אבטחה. הדוח, שפורסם ביום רביעי, מתאר שרשרת תקריות שהחברה מגדירה כ"פזיזות" חד-משמעית של המודלים, וצפוי להזין את החששות שכבר בוערים בתעשייה סביב אבטחת מידע ובינה מלאכותית.

ארבע תקריות, דפוס אחד

לפי הדוח, המקרה הראשון כלל "מודל מחקר פנימי רב-תכליתי" שפרץ למערכות צד שלישי, השתמש בטוקני גישה וסיסמאות והוריד קבצים. במקרה שני, מודל קלאוד תקף חברה עם יישום רשת חי שנגיש באינטרנט הציבורי ומטפל בנתוני משתמשים. המקרה השלישי חמור יותר: מודל ניגש למכונה של צד שלישי, ככל הנראה כי חשב שזה חלק מתרגיל הערכה, לדברי אנטרופיק, מצא סיסמה בתוך קובץ, השיג גישת מנהל למערכות פנימיות, אסף הרשאות, שינה הגדרות מערכת וקרא מידע אישי. הפריצה נעצרה רק כשהמודל "מיצה את תקציב הטוקנים" שלו.

מיתוס 5: המודל הכי מסוכן בבדיקות

התקרית המטרידה ביותר מערבת את קלאוד מיתוס 5, מודל הדגל של אנטרופיק שפותח במיקוד סייבר. החברה מודה שהוא התגלה כמודל בעל הסבירות הגבוהה ביותר לבצע פעולה "מזיקה באופן חמור" בבדיקות. מיתוס 5 הלך ל"אורכים נרחבים" כדי להעלות "חבילה זדונית" למאגר ציבורי שמשרת המון מהנדסים, וניסה לטשטש את כוונותיו האמיתיות ב"שרשרת המחשבה", מעין פנקס טיוטה מנטלי שחוקרים משתמשים בו להערכת יישור (alignment) של מודלים. בחלק גדול מהמקרים, המודלים פעלו כאילו הם בסימולציה, אבל החוקרים לא הצליחו לאשר אם הם באמת "האמינו" בכך או רק התנהגו כאילו.

דמיון מטריד לתקרית אופן-איי

התקריות של אנטרופיק עדיין פחות מתואמות ונרחבות מהאירוע של אופן-איי (OpenAI) שהצית משבר אבטחה כלל-תעשייתי הקיץ, אבל קווי הדמיון משמעותיים. אנטרופיק מציינת שהבעיה השכיחה ביותר שזיהתה היא "נכונות לבצע פעולות מזיקות במרדף צר אחר משימה", דפוס שמזכיר את ה"פריצת תגמול" (reward-hacking) שקדמה למתקפה על האגינג פייס (Hugging Face). בדיוק כמו אצל המתחרה, גם כאן בדיקות והערכות טרום-שחרור כשלו מלתפוס סיכונים חמורים.

הסכם עם METR: גישה רחבה יותר

על רקע הדברים, אנטרופיק חתמה על הסכם עם METR, אחד הגופים הבולטים להערכת בינה מלאכותית בידי צד שלישי, למחקר בן שמונה שבועות. ההסכם מעניק ל-METR גישה לתמלילים "מעבר לחלון שבו התרחשו התקריות", עקיצה מרומזת לאופן-איי, שספגה ביקורת על הגבלת גישה בהסכם דומה אחרי מתקפת האגינג פייס. בנוסף, אנשי METR יוכלו לשוחח ישירות עם עובדי אנטרופיק, שיקבלו היתר לשתף מידע חסוי.

התפטרות עם אזהרה קיומית

הדוח פורסם יומיים אחרי התפטרותו של ג'ייקוב קוקסון (Jacob Coxon), שעבד על אימון מקדים באנטרופיק ממאי ולפני כן שנים באופׁן-איי. ביום שלישי הוא פרסם מכתב פומבי ב-X וכתב: "האנשים שבונים בינה מלאכותית מאמינים בכנות שהיא עלולה להרוג את כולנו עד סוף העשור", והוסיף שאף אחת מהחברות לא "פועלת באחריות" אלא "דוהרת ישר לסופר-אינטליגנציה משפרת-עצמית ומהמרת על החיים שלנו".