אנתרופיק חוסמת זיקוק, GLM 5.3 מעלה שאלות

אנתרופיק פרסמה הלילה מחקר המפרט איך צמצמה דרמטית את יעילות התקפות זיקוק (distillation) נגד קלאוד, ובאותה נשימה צץ ברשת דיון סביב GLM 5.3, מודל שמתואר כבעל יכולות סייבר מתקדמות אך נטול הגנות. השאלה המרכזית שעולה: אם קלאוד מוגן, איך הגיעו היכולות האלה למודל שפותח בנפרד?

מה עשתה אנתרופיק נגד זיקוק

לפי הפרסום של אנתרופיק, בחודשים האחרונים הוטמעו הגנות שמקשות על העברת ידע ממודל סגור למודל פתוח באמצעות שאילתות המוניות. החברה לא חשפה את המנגנון המדויק, אך טוענת שמדד ההצלחה של התקפות כאלה ירד משמעותית. המחקר מלווה במאמר טכני שזמין באתר החברה, בלי נתוני בנצ'מרק השוואתיים מול גרסאות קודמות של קלאוד.

הפרדוקס של GLM 5.3

הדיון על GLM 5.3 התחיל מציוץ של חוקר המכונה Teortaxes, שהצביע על המתח הלוגי: מודל שפותח בסין (על ידי Zhipu AI) מציג יכולות סייבר גבוהות, בעוד מקור הידע המשוער, קלאוד, מוגן בזיקוק. שתי אפשרויות עיקריות: או שההגנות של אנתרופיק לא הרמטיות, או ש-GLM 5.3 רכש את היכולות בדרך אחרת, אימון ישיר על קוד, למידת חיזוק עצמאית, או זיקוק ממודל אחר שאינו מוגן.

למידה תת-ספית פורסמה ב-Nature

במקביל, מאמר על "למידה תת-ספית" (Subliminal Learning) התקבל לפרסום ב-Nature לאחר פרה-פרינט מיולי. הניסוי הראה שמודלי שפה יכולים להעביר תכונות, למשל העדפה לינשופים, דרך נתונים שנראים חסרי משמעות, כמו רצפי מספרים. השיטה מדגימה שזליגת מידע אינה דורשת טקסט גלוי; גם ייצוגים מספריים לכאורה נייטרליים יכולים לשאת מטען סמנטי.

מה זה משנה לערימת RL ריבונית

המונח "ערימת RL ריבונית" (sovereign RL stack) שהופיע בדיון מתייחס לפיתוח עצמאי של למידת חיזוק בלי תלות במודלים סגורים. אם אנתרופיק אכן חסמה זיקוק ביעילות, והמאמר ב-Nature מראה שאפשר להעביר תכונות בערוצים עקיפים, המרוץ עובר משאיבת ידע לבניית יכולות מאפס, קוד, מתמטיקה, סייבר, בתשתית מקומית מלאה.