NVIDIA משיקה את Nemotron 3.5 Super VL: מודל פתוח עם 120 מיליארד פרמטרים לסוכנים ארוכי-טווח

NVIDIA שחררה אתמול את Nemotron 3.5 Super VL, מודל רב-מצבי (multimodal) במשקל פתוח שמיועד להריץ סוכני AI (agents) המסוגלים לפעול לאורך זמן. המודל מאחד הבנת טקסט, תמונות, מסמכים ווידאו במודל יחיד, מהלך שנועד לייתר את הצורך להעביר הקשר בין מודל שפה נפרד למודל ראייה נפרד, ובכך לקצר זמני השהייה ולפשט ארכיטקטורה של מערכות סוכנים.

ארכיטקטורת MoE: 120 מיליארד סך הכול, 12 מיליארד פעילים

מתחת למכסה המנוע פועלת ארכיטקטורת Mixture of Experts: 120 מיליארד פרמטרים בסך הכול, אך רק 12 מיליארד פעילים בכל העברה קדימה (forward pass). המשמעות המעשית היא עלות הסקה (inference) נמוכה משמעותית ממודל צפוף (dense) באותו גודל, תוך שמירה על קיבולת ייצוג גבוהה. NVIDIA לא פרסמה מדדי ביצועים (benchmarks) מול מתחרים דוגמת Llama 3.1 405B או Nemotron 3 Ultra הקודם, כך שהטרייד-אוף בין יעילות לאיכות נותר פתוח לבדיקה עצמאית.

יכולות מולטימודליות מובנות: מסמכים, תרשימים, וידאו

המודל תוכנן מראש לקלוט מסמכים שלמים, לפרש תרשימים וטבלאות, ולעבד רצפי וידאו, יכולות שבדרך כלל דורשות צנרת (pipeline) של כמה מודלים ייעודיים. לפי NVIDIA, האיחוד הזה מאפשר לסוכנים לקרוא דוחות פיננסיים, לנתח צילומי מסך של ממשקי משתמש, ולחפש ברשת ברצף אחד בלי לאבד הקשר בין מודאליות. החברה הציגה תרשים המראה שיפור דיוק לאחר אימון-המשך (post-training) למשימות ספציפיות, אך לא חשפה את גודל המדגם, את מבחני ההשוואה (eval sets) או את פרוטוקול המדידה.

אימון-המשך לוורטיקלים: סייבר, פיננסים, מדע, נסיעות

צוותים חיצוניים כבר מבצעים אימון-המשך על גבי Nemotron 3.5 Super VL עבור חמישה תחומים: מודיעין מסמכים (document intelligence), אבטחת סייבר, פיננסים, ניסויים מדעיים ותכנון נסיעות. הגישה הזו, בסיס כללי חזק ואז התמחות צרה, היא הסטנדרט המקובל בתעשייה, אלא ש-NVIDIA לא פירטה האם המתכונים (recipes) והנתונים המשמשים לאימון-המשך יופצו גם הם תחת אותו רישיון פתוח, או שיישארו קנייניים בידי הלקוחות.

"פתוח" במשמעות NVIDIA: משקולות, נתונים, מתכונים

בדומה לגרסאות קודמות של משפחת Nemotron, המודל מופץ עם משקולות (weights), נתוני אימון ומתכוני אימון, הגדרה ש-NVIDIA מכנה "פתוח וניתן להתאמה". בפועל, רישיון השימוש עשוי להגביל שימוש מסחרי או הפצה נגזרת; החברה לא צירפה את נוסח הרישיון המלא להודעה. ההבחנה בין "משקולות פתוחות" (open weights) ל"קוד פתוח" (open source) במובן המלא של OSI נותרת רלוונטית, וכדאי למפתחים לבדוק את התנאים לפני הטמעה במוצר.

זמינות ופרטים טכניים

המודל זמין החל מהיום להורדה ולהרצה מקומית או בענן; הפרטים הטכניים המלאים, כולל גישת האימון-המשך, חיזוי רב-אסימונים (multi-token prediction) ואופטימיזציות הסקה, מתועדים בפוסט הטכני של NVIDIA בכתובת nvda.ws/3Wqw7i6. בהיעדר בנצ'מרקים בלתי-תלויים ומבחני עומס אמיתיים, הקהילה תצטרך להריץ הערכות משלה לפני שתחליט אם Nemotron 3.5 Super VL מחליף את שרשרת המודלים הקיימת בסביבת הייצור.