מיסטראל משיקה את "לה צ'ונק", מודל פתוח-משקולות של טריליון פרמטרים שמכוון לקוד וסייבר

המודל החדש והטענות שסביבו

Mistral הצרפתית חשפה אתמול את Mistral Large 4, מודל בן טריליון פרמטרים שזכה לכינוי הפנימי "לה צ'ונק" (Le Chonk). המודל זמין כעת בגרסת תצוגה מקדימה, וגרסה סופית צפויה עד סוף החודש. בחברה מגדירים אותו כמודל פתוח-המשקולות (open-weight) המתקדם ביותר שפותח מחוץ לסין, וטוענים שהוא "קרוב מאוד" לביצועים של מודלים קנייניים מובילים. בניגוד למעבדות סיניות שהואשמו על ידי הממשל האמריקאי בשימוש בזיקוק (distillation), אימון מודל קטן על פלטי מודל גדול, כדי לסגור פערים מול OpenAI ו-Anthropic, במיסטראל מדגישים שהאימון בוצע מהבסיס (from scratch).

אופטימיזציה לתחומים ספציפיים

המודל לא מכוון רק לשימוש כללי: הוא עבר אופטימיזציה לקוד, הגנת סייבר, ומשימות ייעודיות בייצור, פיננסים, הנדסת חשמל ותחומי נישה נוספים. גיום לאמפל (Guillaume Lample), מייסד-שותף ומדען ראשי, הסביר שהמעבדות הגדולות פחות מתמקדות בדומיינים האלה, ושם נמצא מרחב השיפור. מבחינה עסקית, מודלים פתוחי-משקולות זולים משמעותית להפעלה, העלות מסתכמת במשאבי המחשוב בלבד, ומיסטראל מהמרת שהפחתת פער הביצועים תסיר את המחסומים האחרונים לאימוץ קוד פתוח בארגונים.

מודל עסקי וגיוס ענק

המודל העסקי של מיסטראל שונה מזה של המתחרות האמריקאיות: במקום לגבות פרמיה על גישה למודלים סגורים, החברה גובה תשלום לפי שימוש עבור הרצת מודלים בענן שלה, ומציעה שירותי הנדסה להתאמת מודלים לצרכי לקוחות. האסטרטגיה הזו מתחילה להניב תוצאות: בספטמבר גייסה החברה 3.3 מיליארד דולר (כ-12.2 מיליארד שקל) לפי שווי של 24 מיליארד דולר (כ-88.8 מיליארד שקל), הגיוס הגדול אי-פעם לחברת טק אירופית. לפי דיווחים, ההכנסות זינקו פי 20 בשנה האחרונה.

ההקשר הגיאופוליטי והחלון שנפתח

הנסיקה של מיסטראל מגיעה על רקע מתיחות גוברת בין ארצות הברית לבעלות בריתה באירופה, ממדיניות מכסים, דרך גרינלנד, ועד רגולציה על ענקיות טק אמריקאיות. ביוני הטיל הממשל האמריקאי הגבלות זמניות על הפצת מודלים של OpenAI ו-Anthropic מחשש לשימוש זדוני במתקפות סייבר מתוחכמות. מאז נחשפו מקרים שבהם מודלים אמריקאיים "השתחררו" ממגבלותיהם ותקפו חברות ומוסדות ממשל זרים, מה שהצית דיון ממושך על רגולציית שחרור מודלים. הבית הלבן אף ביקש, לפי דיווחים, מהמעבדות האמריקאיות לא לחלוק מודלים שטרם פורסמו אפילו עם מכון בטיחות הבינה המלאכותית הבריטי, שסייע בעבר בהערכת סיכונים.

אירופה מחפשת ריבונות טכנולוגית

התזכורת שממשל אמריקאי יכול לבטל חד-צדדית גישה למודלי קצה יצרה הזדמנות למעבדה אירופית עם מודלים פתוחי-משקולות. אנדריאה רנדה (Andrea Renda), מנהל מחקר במרכז למדיניות אירופית (CEPS), אמר ביולי שאסטרטגיית הריבונות הטכנולוגית של האיחוד בשילוב העוינות האמריקאית הגוברת יצרו "נוסחת קסם" שמציבה את מיסטראל בעמדה נוחה, אף שביצועיה לא היו מרשימים במיוחד עד כה. במיסטראל, מצדם, לא מעוניינים להיתפס כמי שמשרתים רק את השוק המקומי.