מפתח אנונימי טוען שפירק את הפטנטים של Taalas ובנה קומפיילר שלדבריו עוקף את גישת ה-bitROM שלהם

הפוסט, שפורסם ב-X בסוף השבוע, מתאר פרויקט של חצי שנה שבו הכותב, שמזדהה כמובטל וללא מימון, ניסה להנדס לאחור את הקניין הרוחני של Taalas. לטענתו, הארכיטקטורה שפיתח מצריכה פי מאה פחות גישות זיכרון (memfetches) בהשוואה ל-bitROM של Taalas, ומשיגה תוצאות טובות יותר בזכות קוונטיזציה (quantization) תוכנתית עדיפה על מה שצוות החומרה של Taalas הצליח לממש. את הדברים יש לקחת כטענות לא מאומתות של גורם יחיד, בלי בנצ'מרקים שפורסמו או ביקורת עמיתים.

מהצ'קפוינט ל-GDS ב-7,000 שורות

לב הפרויקט הוא קומפיילר שלוקח צ'קפוינט (checkpoint) של Hugging Face, מבצע קוונטיזציה למודל, ואז מוריד את המשקולות דרך שכבות המתכת עד לרמת RTL ו-GDS, כולל הרצת DRC, סינתזה ב-Yosys ו-PEX, כך שהצורה החשמלית המתקבלת מבצעת כפל מטריצה-וקטור (mat-vec) ישירות מהצ'קפוינט המקורי. הכותב מציין שהמימוש נשען על מאמרים טכניים של Cambricon, ושכל הזרימה כתובה בכ-7,000 שורות קוד קריאות אדם. לא פורסמו קוד מקור, תיעוד או הוכחות ריצה על סיליקון אמיתי.

חיפוש גישה ל-PDK ב-7 ננומטר או שאטל EuroPTW

בסוף הפוסט מבקש הכותב קשרים לפאונדרי (foundry) עם גישה ל-PDK של 7 ננומטר, או מקום בשאטל (shuttle) זול של EuroPTW, תוכנית שמאפשרת לחוקרים וסטארטאפים לייצר ריצות קטנות בעלות מופחתת. הוא מדגיש שהוא "בלי כסף ומובטל", מה שממסגר את הבקשה כניסיון לקדם את הפרויקט משלב סימולציה לייצור פיזי. בלי גישה ל-PDK או לשאטל, הזרימה נשארת ברמת תכנון לוגי וסימולציה בלבד.

טענות ביצועים: 40 אלף טוקן לשנייה ופרפלקסיטי לפיקוג'אול

הכותב מצטט יעד של 40,000 טוקנים לשנייה, ומכנה את הכיוון "העתיד של פרפלקסיטי (perplexity) לפיקוג'אול (picojoule)", מדד יעילות אנרגטית שמשלב איכות מודל עם צריכת הספק. המספרים לא מלווים בתנאי מדידה, גודל מודל, טמפרטורה או השוואה לבסיס (baseline) מוגדר. בפוסט מתויגים שלושה חשבונות, @itsclivetime, @zerohedge ו-@zephyr_z9, אך לא ברור אם הם קשורים טכנית לפרויקט או רק מוזמנים לצפות.

תמונת מצב: טענות גדולות, אימות אפסי

כרגע מדובר בתיאור עצמי של אדם יחיד, בלי קוד פתוח, בלי דוח סינתזה, בלי תוצאות פוסט-סיליקון ובלי גיבוי מוסדי. הזרימה המתוארת, מ-Hugging Face דרך קוונטיזציה ל-RTL/GDS/PEX, אפשרית תיאורטית וכבר נחקרת באקדמיה ובתעשייה, אבל הקפיצה ל"פי מאה פחות memfetches" ול-40 אלף טוקן לשנייה דורשת הוכחה. עד שיהיו משקלים פתוחים, ריצה על חומרה אמיתית או לפחות סימולציית PEX חתומה, הסיפור נשאר ברמת כיוון מחקר מעניין, לא מוצר ולא תוצאה מאומתת.