מטא תיקנה פרצת אפס-ימים במוז שאפשרה השתלטות על סוכן הבינה המלאכותית

הפרטים הטכניים

חוקר האבטחה פטריק וורדל (Patrick Wardle) גילה פרצה באפליקציית Muse של מטא ל-macOS, שאפשרה לתוקף עם גישה מקומית למחשב להשתלט על הסוכן. הבאג התבסס על הגדרה לא מתועדת שאפשרה לנתב את עיבוד התמלול משרתי מטא לנקודת קצה של התוקף, וכך לקבל גישה לחשבון המשתמש. לפי הדיווח של Ars Technica, שתי החלטות עיצוב אפשרו את הפגיעה: התמלול מתבצע בענן ולא על המכשיר, וכל אפליקציה יכולה לשלוט בכל ההגדרות הלא מתועדות של Muse.

הוכחת היתכנות וביקורת

וורדל פיתח הוכחות היתכנות שהדגימו כיצד ניתן לנצל את הפרצה כדי לצלם תמונות ולכתוב קבצים זדוניים לדיסק דרך Muse, בלי שהמשתמש מקבל התראה ברוב המקרים. "אנחנו יכולים לתמרן את הסוכן ולנצל את ההרשאות שלו כדי לעשות מה שאנחנו רוצים. במקום לכתוב גנב מידע מקיף למק, אפשר פשוט למנף את העוזר הבינה המלאכותית עצמו", אמר וורדל. "לפחות, הם היו צריכים לחשוב על אבטחה מההתחלה, והם פשוט לא עושים את זה".

התגובה של מטא

הפרצה עומדת בניגוד לדגש שמטא שמה על פרטיות ואבטחה כשהכריזה על הסוכן מוקדם יותר החודש. החברה שחררה תיקון חירום בתוך שעות מפרסום הדיווח, וטוענת שהסיכון המעשי נמוך. דיוויד סינגלטון (David Singleton) ממעבדות העל-בינה של מטא כתב ב-X שמדובר בהסלמת הרשאות מקומית, לא בניצול מרחוק, נדרש קוד זדוני שרץ כבר על המכונה תחת חשבון המשתמש. "עם זאת, הוצאנו תיקון חם לאפליקציה כדי לטפל בבעיה", הוסיף.

הקשר רחב יותר

התקרית מגיעה בזמן שסוכן הבינה המלאכותית של מטא נמצא תחת בדיקה מוגברת, בזמן שהחברה מנסה לצמצם פערים מול מתחרות. אמזון חסמה לאחרונה את Muse מגישה לפלטפורמת המסחר שלה, בטענה שמטא מעולם לא קיבלה אישור לכך. מנגד, ההשקה נחשבת למוצלחת: ב-12 הימים הראשונים, הורדות האפליקציה לנייד עקפו לפי הערכות את הבכורה של ChatGPT בארה"ב ובקנדה, ומניית מטא זינקה ב-11% ביום שני.