נולדג'טור משחררת את GLiFormer: אנקודר 575 מיליון פרמטרים שחולץ JSON מקונן בלי לייצר טוקנים

איך זה עובד

נולדג'טור (Knowledgator) הניחה על האב פייס (Hugging Face) שני צ'קפוינטים של GLiFormer, מודל אנקודר יחיד שמטפל בזיהוי ישויות (NER), סיווג טקסט, חילוץ יחסים, בניית JSON מקונן והטמעות (embeddings) בפריים אחד. במקום לשרשר כמה מודלים בפייפליין, הארכיטקטורה מקודדת את הטקסט פעם אחת ואז מריצה סכמות שונות כקבוצות משימה מקומיות מעל אותו ייצוג משותף. המנגנון מתבסס על "עוגן" (anchor) שמייצג כל תווית בזמן ריצה, וקטור קבוצה לסיווג, זוג ישויות ליחסים, או חריץ רשומה למבנה, ומאפשר העברת סכמות באינפרנס בלי אימון מחדש.

מבנה הפלט ואילוצים

הבנייה של ה-JSON מתרחשת בארבעה שלבים: עיגון ערכי שדות כטווחים (spans) שנלקחים ישירות מהטקסט, שיוך טווחים לחריצי רשומה בעזרת התאמה הונגרית, חיזוי קשרי אב-בן מותרים לפי הסכמה, ופענוח דטרמיניסטי למבנה הסופי. מכיוון שהערכים הם תמיד טווחים מהמקור, המודל לא יכול להמציא טקסט שלא קיים בקלט, אבל בחירת הטווחים, השיוך לרשומות וההיררכיה עדיין עלולים להיות שגויים. שני הצ'קפוינטים, Base v1 עם 264.2 מיליון פרמטרים ו-Large v1 עם 575.6 מיליון, משתמשים בשלד DeBERTa שעבר פרה-אימון נוסף על 100 מיליארד טוקנים, עם חמישה ראשי משימה, רוחב טווח מקסימלי של 12 מילים ו-100 עוגני רשומה.

המספרים מאחורי הבנצ'מרק

על 500 דוגמאות JSON מקונן מדווחת נולדג'טור על 91.10 F1 לגדול ו-87.20 לבסיס, מול 91.96 של GPT-5.6-luna ו-82.56 של GPT-5-mini, במדד סובלני לסדר וגבולות, לא התאמה מדויקת. בסיווג על 13 דאטהסטים הגדול מגיע ל-75.03 מאקרו-F1 ממוצע, עדיין מתחת ל-79.79 של GPT-5-mini. ב-CrossNER חמשת הדומיינים מניבים 65.10 לבסיס ו-64.35 לגדול, לעומת 70.74 של Gemma-4-31B-IT. בחילוץ יחסים הפער גדול יותר: 21.33 ו-18.94 מיקרו-F1 בהתאמה, מול 25.6 של GLiNER-Relex ו-25.08 של Gemma. בדוח מצוין שהגדול מנצח את Gemma-4-E4B בצירוף NER וסיווג עם פי 14 פחות פרמטרים, אבל כל המספרים מגיעים מהיצרן בלי אימות חיצוני.

מהירות בלי דור טוקנים

הטיעון המרכזי למהירות נשען על הערכה אנליטית, לא על ריצה מול LLM בפועל. נולדג'טור מדדה את הבסיס על 40 מסמכי מבנה בגודל אצווה 1: זמן חציון של 69 מילישניות על GPU מסוג RTX PRO 6000 Blackwell ב-FP16, ו-547 מילישניות על מעבד EPYC 9B45 בן 8 תהליכונים ב-FP32. הנתון "עד פי 95.8 מהיר יותר" מניח פרה-פיל (prefill) של 2,000 טוקנים לשנייה ודור (generation) של 60 טוקנים לשנייה, לא כולל תורים, השהיית רשת או חשיבה נסתרת, ובלי להניח שוויון דיוק. במילים אחרות, זה חישוב תיאורטי בתנאים אידיאליים, לא בנצ'מרק השוואתי אמיתי.

זמין כבר עכשיו

שני המודלים משוחררים ברישיון Apache 2.0, התקנה ב-pip install gliformer, ורצים על CPU או GPU בלי תלות בשרתי ענן. האימון כלל 1,357,671 דוגמאות מולטי-טאסק רחבות ו-372,090 דוגמאות פוסט-אימון ממוקד. הקוד והכרטיסים באב פייס כוללים דוגמאות שימוש, אבל בהיעדר הערכה עצמאית, כדאי לבדוק את ההתאמה למשימה שלכם לפני שמכניסים לפרודקשן.