אנתרופיק חסמה 99 אחוז מניסיונות הזיקוק של קלאוד, והפסידה הכנסות בדרך

המכה שספגו התוקפים

אנתרופיק מדווחת שמנגנוני ההגנה החדשים שפרסה בחודשים האחרונים צמצמו את כמות הנתונים שהצליחו "מזקקים" לשאוב מקלאוד בכ-90 עד 99 אחוז. זיקוק (distillation) הוא קמפיין תעשייתי חשאי שבו רשתות חשבונות מזויפים שולחות מיליוני בקשות למודל גדול, אוספות את התשובות, ובעיקר את שרשרת החשיבה (reasoning) שהמודל כותב לפני התשובה הסופית, ומאמנות עליהן מודל קטן יותר שמחקה את היכולות בלי לשלם את עלות הפיתוח. לדברי החברה, השיטה שימשה מעבדות בינה מלאכותית מעבר לים כדי לצמצם פערים מול חברות אמריקאיות בשבריר מהזמן והתקציב.

למה זה מדאיג את אנתרופיק

החברה מצביעה על שני סיכונים עיקריים. ראשית, מודלים מזוקקים מגיעים קרוב לחזית היכולת אבל משוחררים בלי מנגנוני הגנה מקבילים, מה שמאפשר שימוש לרעה בתחומים כמו ביולוגיה וסייבר. שנית, היכולות שמגיעות דרך זיקוק מוטמעות במערכות צבאיות, מודיעין ומעקב של מדינות זרות. אנתרופיק לא מסתפקת באזהרה כללית: היא נוקבת בשמות.

מקרה ז'יפו ו-GLM-5.3

לדברי החוקרים, ז'יפו (Zhipu) הסינית זיקקה יכולות סייבר של מודלים אמריקאיים מובילים במהלך פיתוח GLM-5.3. הניסיון לזקק את קלאוד פייבל 5 (Claude Fable 5) נכשל כשמנגנוני ההגנה פגעו באיכות ההתקפות, אז התוקפים עברו למודל קלאוד ישן יותר ולמודל של מעבדה אחרת. המרכז האמריקאי לקידום חדשנות ותקנים לאינטליגנציית-על (CAISSI) קבע ש-GLM-5.3 הוא מודל המשקולות-הפתוחות (open-weights) בעל יכולות הסייבר הגבוהות ביותר שפורסם עד כה. בדיקות עצמאיות של אנתרופיק הראו שאפשר לעקוף את ההגנות של GLM-5.3 בקלות, ושהמודל מוכן לפתח ניצול אבטחה (exploit) מקצה לקצה.

מקרה מונשוט והבקשה מה-PLA

דוגמה שנייה: מודלי קימי (Kimi) של Moonshot העבירו בחשאי בקשות לקלאוד כחלק ממאמץ זיקוק. אחת הבקשות הגיעה ממשתמש שלהערכת אנתרופיק משויך לצבא השחרור העממי של סין (PLA), וביקש לנתח צילומי מצלמות מעקב של אדם ספציפי. זה סוג היכולות שהמזקקים מנסים להשיג, לא שאלות ידע כללי, אלא משימות מעקב ותקיפה ממוקדות.

המחיר שאנתרופיק משלמת

ההגנות המחמירות גובות מחיר מוחשי: החברה ויתרה על הכנסות משמעותיות ועל טריליוני טוקנים של תעבורה משלמת שזוהתה כזיקוק. צוותי מחקר ומוצר השקיעו משאבים גדולים, וחלק מהשינויים אילצו לקוחות לגיטימיים לעדכן את האינטגרציות שלהם. באנתרופיק מודים שמדובר בבעיה שכל מפתח מודל צריך להתמודד איתה, ומקווים שהפירוט הפומבי יעזור לפלטפורמות אחרות להבין את ה-trade-offs ואת הסיבה שהעלות שווה את זה.