גוגל משיקה את ג'מיני 4 ארגון עם יכולת פלט של מיליון טוקן דרך בקשות המשך

גוגל השיקה את ג'מיני 4 ארגון (Gemini 4 Argon), המודל הראשון בסדרה החדשה, שמסוגל לייצר עד מיליון טוקן בתשובה בודדת באמצעות מנגנון "פענוח ארוך" (long decode) שמפצל את הפלט לבקשות המשך. המגבלה לבקשה בודדת עומדת על 65,536 טוקן, אבל המערכת מחזירה אסימון המשך (continuation token) כשהתשובה נעצרת, ומאפשרת למודל להמשיך בדיוק מאותה נקודה בבקשה הבאה.

איך עובד המנגנון

באופן מעשי, הפרמטר max_tokens מגדיר תקציב כולל לכל התשובה, לא לכל קפיצה (hop) בנפרד. גוגל עוקבת אחרי הסכום המצטבר ועוצרת כשהוא נגמר. אם בקשה נעצרה בגלל מגבלת אורך, הלקוח מקבל את התור שנעצר עם פריט ההמשך המוצפן, מצרף אותו להיסטוריית השיחה ושולח שוב עם אותו max_tokens או גבוה יותר. ב-OpenRouter אסימון ההמשך הוא פריט חשיבה (reasoning) מוצפן, כך שלקוחות שכבר מעבירים חשיבה בין תורות מקבלים את היכולת בלי שדות חדשים.

תקציב טוקנים מצטבר וחיוב לכל קפיצה

כל קפיצה היא בקשת ייצור נפרדת עם שימוש (usage) וחיוב משלה. טוקני הקלט של קפיצת המשך כוללים את כל החשיבה מהקפיצות הקודמות, כך שעלות הקלט גדלה עם כל צעד. מטמון מרומז (implicit caching) יכול לכסות חלק מזה, וטוקנים במטמון מחויבים בתעריף מוזל; מטמון מפורש עם cache_control מדולג בקפיצות המשך. לצורך חישוב עלות מסכמים את השימוש של כל הקפיצות, אבל לבדיקת חלון הקשר או דחיסה (compaction) משתמשים רק ב-prompt_tokens של הקפיצה הראשונה, כי הסכום המצטבר סופר פלט קודם בכל קפיצה ומנפח את המספר הרבה מעבר להקשר האמיתי.

מאמץ חשיבה ותמיכה בממשקי API

המודל תומך בשלוש רמות מאמץ חשיבה, low, medium, high. ברמה גבוהה המודל יכול לנצל את מלוא מגבלת הבקשה לחשיבה פנימית ולהחזיר מעט או אף לא טקסט גלוי באותה קפיצה; קפיצה עם תוכן ריק וסיבת סיום CONTINUATION היא מצב תקין שפשוט דורש המשך. התיעוד מכסה שלוש צורות בקשה: Chat Completions, Responses API של OpenAI, ו-Anthropic Messages, בכולן הלוגיקה זהה: מזהים עצירה לפי finish_reason או stop_reason המתאימים, מצרפים את התור שנעצר עם פריטי ההמשך, ומריצים שוב עד לקבלת תשובה מלאה בלי עצירת אורך.