חוקרי סיסקו טאלוס חשפו מסגרת קוד פתוח שמזהה נוזקות המנוהלות בידי מודלי שפה ללא מעורבות אנושית

חוקרי האבטחה של סיסקו טאלוס פרסמו השבוע מסגרת קוד פתוח בשם CAIRN, Cognitive Artifact Intelligence Research Network, שנועדה לסווג ולנתח נוזקות המשלבות רכיבי בינה מלאכותית. הכלי כבר הניב תגלית ראשונה: נוזקה בשם CLOSEDQUORUM שמפעילה תשתית פיקוד ושליטה אוטונומית לחלוטין, כשהיא שואבת הנחיות מארבעה מודלי שפה גדולים במקביל ומגבשת קונצנזוס ביניהם בלי שום מנגנון קלט אנושי.

מה זה CAIRN

המסגרת שפותחה בידי ריאן פטרמן (Ryan Fetterman), חוקר אבטחה בסיסקו טאלוס, מתמקדת בשאריות שמותירה אינטגרציית AI, טביעות אצבע דיגיטליות במטא-דאטה של הקבצים הזדוניים. CAIRN מסמן מאפיינים אלה, מצמיד לכל דגימה מזהה ייחודי, ומנתח כל ארטיפקט בהקשר של כלל הספרייה כדי לקבץ דגימות לפי תכונות משותפות ולזהות מגמות. לדברי פטרמן, מאז החל להשתמש בכלי גילה כעשרים דגימות נוספות של נוזקות משולבות AI, הרבה מעבר לתשע המשפחות המתועדות שמצא בסקירה רטרוספקטיבית קודמת.

המודל שמנהל את עצמו

CLOSEDQUORUM היא נוזקת חלונות שמתייעצת עם DeepSeek, Qwen, Mistral וגוגל ג'מיני (Google Gemini) כדי להחליט על הצעד הבא במערכת היעד. גם אם שירות אחד אינו זמין, הנוזקה ממשיכה לשאול את האחרים, יתירות שהופכת את המעגל לסגור הרמטית. החוקרים זיהו קשרים לפורומי הונאת כרטיסי אשראי מ-2025, והנוזקה מתוכננת לגנוב אישורי כניסה ומטבעות קריפטו. זהות המפתחים נותרה לא ידועה.

הציפייה מול המציאות

ביולי 2025 הזהירה יחידת התגובה האוקראינית CERT-UA מפני קמפיין פישינג שהשתמש בנוזקה LAMEHUG, שתקשרה עם Qwen2.5-Coder-32B-Instruct דרך ממשק API של האגינג פייס (Hugging Face). פטרמן ציפה אז להתפוצצות של נוזקות מופעלות AI, אך שנה לאחר מכן הופתע לגלות שהשטח עדיין דליל יחסית. "הנוף מורכב ומגוון יותר ממה שדווח פומבית", הוא אומר כעת, ומסייג שמדובר עדיין בשלב ניסיוני ברובו מצד התוקפים.

מה הלאה

CAIRN זמינה כעת לקהילת ההגנה ככלי לזיהוי מוקדם של מגמות בהתפתחות נוזקות אוטונומיות. היכולת לעקוב אחר טביעות האצבע של שילוב מודלי שפה בקוד זדוני עשויה לתת יתרון זמן קריטי, כל עוד התוקפים עדיין מתנסים ולא הטמיעו את הגישה כתקן.