מיקרוסופט מכריזה על מאיה כמערכת ההסקה הראשית שלה, בדרך לפריסה של גיגה-ואט מרובים

סאטיה נאדלה (Satya Nadella) הצהיר רשמית שמשפחת שבבי מאיה (Maia) תהפוך לתשתית ההסקה (inference) המרכזית של כל מוצרי החברה, עם יעד פריסה של כמה גיגה-ואט. המהלך נועד לצמצם את התלות בחומרה של NVIDIA, ולדברי מיקרוסופט מאיה 300 (Maia 300) מיועדת להחליף גם שבבי AMD, לא רק את אלה של NVIDIA. הטענה המרכזית: 40% יותר טוקנים למגה-ואט בהשוואה למערכות מבוססות GPU מובילות.

ארכיטקטורת צ'יפלטים ורוחב פס HBM4

מאיה 300, הדור השלישי שצפוי להיכנס לשימוש ב-2027, בנויה בתצורת multi-chiplet: במקום דיא (die) יחיד וגדול שמכיל מחשוב, בקר זיכרון ו-I/O, הפונקציות פוצלו לכמה צ'יפלטים נפרדים שארוזים יחד. הפיצול מפנה שטח על צ'יפלטי המחשוב ליחידות המתמטיקה, ומאפשר לכל צ'יפלט ייצור בתהליך שמתאים לו. כל מאיץ משלב 8 ערימות HBM4 עם רוחב פס שיא של 18.0 TB/s ו-TDP של 950W, לצד SRAM על הדיא שמשמש כ-scratchpad להקלת העומס על הזיכרון.

דחיסת KV cache בפורמט MXFP4 משופר

צוואר הבקבוק בהסקה בקנה מידה גדול, לפי מיקרוסופט, הוא עלות תנועת הנתונים, לא כוח החישוב הגולמי. כדי לטפל בזה, מאיה 300 תומכת בפורמטים בדיוק נמוך כגון MXFP4 משופר, שמכווץ את ה-KV cache (מצב הקשב שנשמר וגדל עם כל טוקר) ומאפשר קונטקסט ארוך יותר במסגרת אותו תקציב הספק. ארון מלא מכיל 96 מאיצים ב-167kW עם 27.6TB של HBM, והחברה טוענת שהוא מספק עד פי 7 תפוקת טוקנים בהשוואה לארון מאיה 200.

מאיה 200 כבר רצה בייצור עם קופיילוט

הקודמת, מאיה 200 (Maia 200), כבר משרתת תעבורת ייצור כולל Microsoft Copilot. לפי נתוני החברה, היא מניבה עד פי 1.7 יותר טוקנים לוואט בהשוואה לתשתית GPU מובילה. המעבר למאיה 300 מכוון למשימות חשיבה ארוכות-קונטקסט, צ'אט בהשהיה נמוכה ועומסי סוכנים (agents) מרובי-שלבים, תרחישים שבהם יעילות הזיכרון ורוחב הפס קריטיים יותר מ-FLOPS גולמיים.

שרשרת אספקה: מו"מ עם TSMC על 300 אלף יחידות

המגבלה הקשה יותר היא אספקה. מיקרוסופט מנהלת משא ומתן עם TSMC על יותר מ-300,000 יחידות מאיה 300 לאספקה ב-2027, אך המספר עדיין בשלבי מו"מ ולא חתום כהזמנת רכש (purchase order). ההכרזה של נאדלה, "ההימור הגדול ביותר שלנו על סיליקון משלנו", מסמנת שינוי אסטרטגי: החל מהשנה הקלנדרית הבאה החברה תרחיב את פריסת מאיה לגיגה-ואט מרובים, ותהפוך אותה לברירת המחדל להסקה בכל השירותים שלה.