CoreWeave משיקה את Vera Rubin NVL72 של NVIDIA, קוגניצ'ן כבר מריצה פרודקשן

בכנס CoreWeave Fully Connected בסן פרנסיסקו הודיעה CoreWeave על זמינות מערכות NVIDIA Vera Rubin NVL72 עם רשת Spectrum-X בקצב 102.4 טרה-ביט לשנייה. קוגניצ'ן (Cognition), המעבדה שמאחורי מהנדס התוכנה האוטונומי Devin, היא הלקוח הראשון שמריץ עומסי ייצור על הפלטפורמה החדשה. לפי בנצ'מרק פנימי שערכה קוגניצ'ן מול בסיס GB200 NVL72, המערכת החדשה סיפקה עד פי 4.8 תפוקת טוקנים כוללת בעומסי SWE-2, מה שמתורגם אצלם לייצור קוד בזמן אמת מהיר יותר ולהרחבת יכולת חשיבה מרובת-צעדים.

שותפות של עשור שממשיכה להחזיר השקעה

איאן באק (Ian Buck), סגן נשיא למחשוב היפרסקייל וביצועים גבוהים ב-NVIDIA, ציין שהפלטפורמה של החברה ממשיכה להניב ערך לאורך דורות: מעבדי V100 של CoreWeave עדיין מריצים עומסי לקוחות כמעט עשור אחרי השקת ארכיטקטורת וולטה (Volta), בזמן שהדור החדש כבר נכנס לפרודקשן. הגמישות הזו, להתאים את ה-GPU הנכון לעומס הנכון, היא מה שמאפשר ל-CoreWeave להמשיך למכור קיבולת גם על חומרה ותיקה.

בנצ'מרק אמיתי מול קוד אמיתי

קוגניצ'ן הגיעה לאלפי GPU על CoreWeave בתוך תשעה חודשים, ומריצה שם אימון, חיזוק למידה (reinforcement learning) ואינפרנס ייצור של Devin. כשהגיעו המדפים הראשונים של Vera Rubin NVL72 החודש, החברה דגמה משימות מ-FrontierCode והפעילה סוכנים לפתרון שלהן, עומס שמדמה הנדסת תוכנה בפועל: קונטקסט ארוך, מקביליות גבוהה ונפחי טוקנים שבהם עלות לטוקן קובעת מה אפשר לשחרר. סילאס אלברטי (Silas Alberti), מצוות המייסדים של קוגניצ'ן, הדגיש שהערך מבחינתם אינו במפרט בודד אלא בפלטפורמה אחת עם מהנדסי NVIDIA ו-CoreWeave שפועלים לצדם על הבעיות הקשות.

Forge, Vera CPU וסנדבוקסים מהירים פי שלושה

מעבר ל-GPU, CoreWeave השיקה את CoreWeave Forge, סביבה מחוברת לאימון, הערכה ושיפור מודלים וסוכנים על מחשוב מואץ של NVIDIA. במקביל יגיע לענן גם מעבד NVIDIA Vera, ה-CPU הראשון שתוכנן לעומסי סוכנים (agentic). בבדיקות מוקדמות הראה Vera שיפור של יותר מפי שלושה בזמן אתחול סנדבוקסים של סוכנים. עומסי סוכנים לוחצים על התשתית משני כיוונים: הגשת סוכנים דורשת מחשוב השהיה-נמוכה בקנה מידה, ושיפור שלהם דרך פוסט-טריינינג דורש אלפי סביבות מבודדות שרצות במקביל.

פריסה בימים דרך קוברנטיס וסנדבוקסים

הקיבולת זמינה דרך CoreWeave Kubernetes Service, SUNK, Mission Control, Sandboxes ו-Inference. הודות לתכנון משותף (codesign) לאורך כל המחסנית, מהתשתית עד לטוקנים המוגשים, CoreWeave העמידה אשכול Vera Rubin ייצור לקוגניצ'ן בתוך ימים. כל מדף מכיל 128 מעבדי Vera ו-11,264 ליבות, מספיק כדי להריץ מספר גדול של סביבות סוכנים מבודדות בו-זמנית תוך שמירה על עקביות ביצועים.