אנתרופיק מזהירה: מודלים קטנים עלולים להפוך לתולעי AI שמתפשטות בין מכשירים ביתיים

הניסוי שהדליק נורה אדומה

חוקרי Anthropic פרסמו השבוע פוסט בבלוג הרשמי של החברה ובו אזהרה מפורשת: מודלי שפה קטנים נמצאים "חודשים ספורים" מרכישת יכולת שכפול עצמי ברשתות של מכשירים ביתיים. הניסויים שערכו מדגימים היתכנות ראשונית, אבל הפער בין מה שהוצג במעבדה לבין האיום המתואר נותר גדול. מומחים ששוחחו עם The Verge מסכימים שהרעיון אינו חדש, תולעי מחשב קיימות עשרות שנים, אלא שקפיצת המדרגה ביכולות המודלים הקטנים הופכת את התרחיש לסביר יותר מבעבר.

למה הגודל משנה את כללי המשחק

עד עכשיו התמקד הדיון בבטיחות AI במודלי חזית (frontier models) דוגמת אסטרה (Astra) של OpenAI או מיתוס (Mythos) של אנתרופיק עצמה. אלה מכילים טריליוני פרמטרים, ערכים שנלמדו באימון, ודורשים משאבי מחשוב עצומים שמגבילים אותם למרכזי נתונים, שם אפשר לפקח עליהם ובמידת הצורך לכבות אותם. מודלים קטנים, לעומת זאת, משתפרים בקצב מהיר, רצים על חומרה צרכנית ולעתים קרובות זמינים להורדה חופשית. השילוב הזה יוצר וקטור תקיפה שונה לחלוטין.

פיצול מודל על 15 סטרימרים

כדי לבדוק אם מודל יכול לרוץ על רשת מכשירים חלשים, החוקרים פיצלו את ג'מה 4 (Gemma 4) של גוגל, מודל בן 26 מיליארד פרמטרים, על פני 15 קופסאות Android TV, שאף אחת מהן לא מסוגלת להריץ אותו לבד. זה עבד, אם כי לאט מאוד. השלב הבא היה לבחון האם AI יכול לבצע את הצעדים הדרושים לשכפול עצמי בסביבה כזו. החוקרים בנו רשת מדומה שמדמה מכשירי Android, ושחררו בה "תולעת" המונעת בידי מודל שפה, נוזקה שמשכפלת את עצמה אוטומטית ברשת, שתפקידה לאתר מכונות חדשות, להעתיק אליהן את המודל ולהפעיל אותו שם. המודל שמופץ בניסוי היה לאמה 3.1-8B (Llama 3.1-8B) של מטא (Meta), בן 8 מיליארד פרמטרים בלבד, ונפרד מהמודל שתזמן את המתקפה.

רק מודל אחד צלח את כל הרשת

מבין המודלים שנבדקו, רק GLM-5.2 של Z.ai הסינית הצליח להתפשט על פני הרשת כולה. מודלים קטנים יותר השלימו צעדים בודדים בלבד. בהתבסס על קצב השיפור הנוכחי, חוקרי אנתרופיק מעריכים שמודלים קטנים ישתוו ליכולות של GLM-5.2 עד סוף השנה. החוקרים מודים בפה מלא שטרם הדגימו "משכפל סורר מלא" (full rogue replicator), ואינם יודעים איך אחד כזה ייראה, הם מציעים דימויי "עובש דיגיטלי איטי ומבוזר" או "נחיל זבובי פירות", אבל טוענים שהממצאים מראים "סימני חיים לתולעי AI" וקוראים להקשחת האבטחה במכשירים הרבים שמערכת משכפלת כזו תוכל לנצל.

מה חסר בתמונה

הפוסט של אנתרופיק אינו חושף מדדי ביצועים מפורטים (benchmarks) להשוואה כמותית, ואינו מפרט את ארכיטקטורת הרשת המדומה או את מגבלות הסימולציה. גם לוח הזמנים, "חודשים ספורים", ניתן כתחזית שמבוססת על אקסטרפולציה, לא כהוכחה ניסויית. בשורה התחתונה: ההיתכנות הטכנית הודגמה בצעדים בודדים, האיום המלא עדיין תאורטי, והקריאה להקשחת מכשירי קצה (edge devices) נשארת המלצת מדיניות יותר ממסקנה שנגזרת ישירות מהנתונים שהוצגו.