DeepSeek V4 Flash 0731 נפתח לכוונון עדין ב-Together AI

המודל DeepSeek V4 Flash 0731 זמין כעת לכוונון עדין (fine-tuning) בפלטפורמת Together AI, ומאפשר למפתחים להתאים אותו לקוד, להפעלת כלים (tool use) ולדומיינים ייעודיים באמצעות SFT או DPO, ולאחר מכן להריץ את הגרסה המכווננת על תשתית ההסקה (inference) של Together בסביבת ייצור.

שתי שיטות אימון עם פשרות ברורות

Together מציעה שני מסלולים: LoRA, ברירת המחדל, מאמן קבוצת משקולות מתאם (adapter weights) קטנה מעל מודל בסיס קפוא; זה מהיר יותר, זול יותר, ומתאים לרוב מקרי השימוש. האפשרות השנייה היא כוונון מלא (full fine-tuning), שמעדכן כל משקל במודל הבסיס, צורך יותר משאבי מחשוב, אך עשוי לעקוף את LoRA כשנדרש שינוי מהותי בהתנהגות הבסיסית.

מתודות נתונים והכנה

הנתונים צריכים להגיע כקובץ JSONL או Parquet שתואם את סכימת המשימה, המדריך של Together מפרט את כללי הוולידציה ודוגמאות. שיטת ברירת המחדל היא SFT (כיוון מפוקח), שמלמדת מהדגמות עם השלמה יעד יחידה לכל דוגמה. לצידה זמין כיוון העדפות (preference fine-tuning) באמצעות DPO, שמיישר את המודל מול דירוגים של תשובות מועדפות ולא-מועדפות.

יכולות מתקדמות: ראייה, קריאות פונקציה, חשיבה

המדריכים המתקדמים מכסים שלושה כיוונים נפרדים: כוונון מודלי שפה-ראייה (vision-language) על דגימות עם תמונה וטקסט; אימון לקריאות פונקציה מובנות (function calling) אמינות; ואימון מודל חשיבה (reasoning) עם נתוני שרשרת מחשבה (chain-of-thought). בבחירת LoRA אפשר גם לכוון את הרמה (rank) ואת המודולים המטורגטים.

ניטור, פריסה והורדה מקומית

במהלך האימון אפשר לסקור סטטוס משימה, לאחזר מדדי הפסד (loss) ומדדי הערכה לכל צעד. בסיום, המודל המכוונן מוגש בנקודת קצה ייעודית (dedicated endpoint) ב-Together, או שניתן להוריד אותו להרצה מקומית. התמחור מבוסס על טוקנים אימון ואירוח ייעודי, הפירוט המלא בעמוד התמחור של הפלטפורמה.

מודלים חיצוניים מה-Hugging Face Hub

מעבר לקטלוג הפנימי, Together מאפשרת להביא מודל מה-Hugging Face Hub שאינו מופיע בקטלוג הרשמי ולכוונן אותו באותה תשתית. רשימת מודלי הבסיס הנתמכים כוללת אורכי הקשר (context lengths) וגדלי אצווה (batch sizes) לכל מודל.