בסיס מעבדות משיק שותפות בטיחות למודלים פתוחי משקולות עם האגינג פייס וגודפייר

בסיס מעבדות (Base Labs), זרוע המחקר שהקימה בסטן (Baseten) מוקדם יותר השנה, הכריזה ביום רביעי על שותפות עם האגינג פייס (Hugging Face) וגודפייר (Goodfire AI) לבניית תשתית הערכה וניטור בטיחות למודלים פתוחי משקולות. המהלך מגיע על רקע ויכוח מתמשך סביב רמת הסיכון של מודלים כאלה, שיכולים להפוך למסוכנים כשמסירים את ההגנות שלהם באמצעות טכניקה המכונה אבליטרציה (abliteration), שצוברת תאוצה בחודשים האחרונים.

היקף הבעיה

לפי נתוני האגינג פייס, הפלטפורמה שמארחת מודלי קוד פתוח מציגה כרגע יותר מ-6,000 מודלים שעברו אבליטרציה. המספר הזה ממחיש את קלות הביצוע של ההליך ואת היקף החשיפה הפוטנציאלית: כל מפתח עם גישה למשקולות יכול, תיאורטית, להסיר את מנגנוני היישור (alignment) ולהפיץ גרסה נטולת מגבלות. בסטן ממסגרת את היוזמה החדשה כ"סטנדרט" למודלים פתוחים, כזה שמוטמע בתהליך האימון והפריסה עצמם, ולא מודבק כשכבה חיצונית לאחר מעשה.

גישה שונה לבטיחות

לדברי החברה, פתיחות מהווה יתרון לבטיחות בינה מלאכותית: היא מספקת נראות רבה יותר להתנהגות המודל, ומאפשרת להפוך מחקר בטיחות לבקרות שקופות וישימות, בניגוד למודלים סגורים שבהם המנגנונים נסתרים. בסיס מעבדות תפתח ותפרסם שיטות לאימון וניטור מודלים פתוחים, תוך התמקדות בשקיפות ובאינטגרציה מוקדמת. פרטי המימוש הטכני של השותפות טרם פורסמו, אך גודפייר, שמתמחה בפתיחת ה"קופסה השחורה" של מודלים והסבר תהליכי קבלת ההחלטות שלהם, מסתמנת כשותפה הטבעית לחלק ה"מוטמע פנימה".

גב פיננסי משמעותי

בסטן, ספקית אינפרנס (inference) למודלי AI, גייסה ביוני 1.5 מיליארד דולר (כ-5.5 מיליארד שקל) בסבב Series F, שהקפיץ את שוויה ל-13 מיליארד דולר (כ-47.5 מיליארד שקל). גודפייר מצידה גייסה מוקדם יותר השנה 150 מיליון דולר (כ-550 מיליון שקל) בסבב Series B בהובלת בי קפיטל (B Capital), לטובת קידום פלטפורמת הפרשנות (interpretability) שלה. שני הגופים מגיעים לשותפות עם משאבים ניכרים, מה שמגדיל את הסיכוי שהמסגרת המוצעת תגיע לכדי מימוש מעשי ולא תישאר בגדר הצהרה.

קריאה פתוחה למפתחים

בסטן פרסמה קול קורא לקהילת המפתחים הרחבה לתרום למסגרת המתגבשת. "יחד, אנחנו בונים מערכת אקולוגית של מודלים פתוחים שהם בטוחים ונגישים לכולם", נמסר מהחברה. השאלה המרכזית שנותרה פתוחה היא האם סטנדרט וולונטרי כזה יצליח לבלום את זרם המודלים נטולי ההגנות שכבר מציפים את המאגרים הציבוריים, או שמדובר בניסיון להסדיר בדיעבד מציאות שהפכה לבלתי ניתנת לשליטה.