Overmind הופך כל מפתח למעבדת AI בלי לבנות תשתית ML

הפלטפורמה החדשה Overmind משיקה גישה שונה לכוונון מודלים: במקום לאמן מודל גדול מאפס, היא לוקחת עקבות ייצור (production traces) של סוכני קוד קיימים, בין אם הם רצים ב-Cursor, ב-Claude Code, ב-OpenCode או ב-Codex, והופכת אותם למודל קטן וממוקד שמותאם בדיוק למשימה. ה-SDK וה-CLI מופצים ברישיון MIT (`pip install overmind`), ואילו הפלטפורמה שמאחוריהם משוחררת ב-AGPL-3.0 עם אפשרות לאירוח עצמי מלא. התוצאה מוגשת דרך API מאוחד אחד, והמשקולות נשארות בידי המפתח להורדה, אימון חוזר או גלגול לאחור.

איך זה עובד בפועל

התהליך מתחיל בבניית גרף הקשר (context graph) מהקוד ומהעקבות, ממשיך באצירת דאטה-סטים לאימון ולהערכה, ומסתיים באימון מודל קטן יותר (fine-tuned) שנמדד מול מטריקות ההערכה שהמפתח הגדיר. כל זה קורה ברצף: Overmind "ממשיך לאמן ולשפר את הסוכנים שלך ברציפות, עם נתונים מהעקבות שלך בייצור", כפי שמתארים זאת המפתחים. המפתח בוחר את סוכן הקוד במסך הכניסה, מדביק את פרומפט ההטמעה (onboarding prompt) לצ'אט עם הריפו פתוח, והכלי מריץ `overmind init` ו-`overmind sync` שבונים את הגרף. מכאן ואילך כל פעולה היא פקודת `/overmind` באותו צ'אט.

רישוי, אירוח עצמי ומה נדרש להרצה

הגרסה המתארחת רצה ב-console.overmindlab.ai, אבל מי שרוצה לשמור עקבות ודאטת אימון בתוך הרשת הארגונית יכול להרים את אותו סטאק לבד: `git clone`, העתקת `.env.example` ל-`.env` עם המפתחות הנדרשים, ו-`docker compose up -d` שמקים Postgres, Redis, API בפורט 8000, קונסול בפורט 5173, עובדי Celery ו-Grafana בפורט 3001. באתחול ראשון ה-API מריץ מיגרציות וזורע מעריכים (evaluators) מובנים; תיעוד Swagger זמין ב-/api/docs/. פקודת `docker compose exec api python manage.py seed_demo --owner <email>` טוענת סביבת הדגמה מלאה.

תשתית כוונון והגשה: Modal ועובדי GPU

הפלטפורמה עצמה רצה בקונטיינרים, אבל כוונון (fine-tuning) והגשת המודל (serving) דורשים עובדי Modal נפרדים: `modal deploy` על שלושה קבצים, `modal_vllm_worker.py`, `register_model.py` ו-`modal_sft_worker.py`, וסוד Modal בשם `overmind-inference` שמכיל מפתחות AWS, `INFERENCE_API_KEY` ו-`HF_TOKEN`. בלעדיהם ה-API מסרב לעלות ומדווח בדיוק איזה מפתח חסר. זו בחירה ארכיטקטונית שמפרידה בין מישור הבקרה למישור החישוב הכבד, ומאפשרת להריץ את ה-API על מכונה צנועה בזמן שה-GPU עובדים בענן.

מעקב (Tracing) פתוח ואינטגרציות קיימות

הספרייה `overmind[tracing]` מוסיפה מכשור (instrumentation) אוטומטי ל-SDK-ים של LLM דרך OpenTelemetry כשמגדירים `providers="auto"`. בלי מפתח API המעקב כבוי והקוד לא נשבר. כל ייצואן OTel יכול לשלוח POST ל-/api/v1/traces, ויש מחברים (connectors) שמסנכרנים עקבות קיימים מ-Langfuse, LangSmith, Braintrust או Galileo. בממשק אפשר לפתוח Observability Task executions ולראות את העקיבה ואת הציון שלה.

MCP, הרשאות וכישורי עבודה (workflow skills)

הפלטפורמה חושפת שרת MCP ב-/api/mcp/ עם כלים (tools), משאבים (resources) ופרומפטים לתזרימי העבודה של הסוכנים. מפתחות API של חשבון וחיבורי OAuth מקבלים גישה לכל פרויקט פעיל שהחשבון מורשה לו, קוראים `list_projects` ומעבירים `project_id` בכלים ובמשאבים; חברות נבדקת בכל פעולה. מפתחות API ברמת פרויקט נשארים מוגבלים לפרויקט שלהם. כל כלי מצהיר מה עלות ההרצה שלו (חינם, מחשוב, LLM, GPU) ואף כלי לא יכול למחוק דבר. חבילת תוסף אופציונלית אורזת את חיבור ה-MCP, את המיתוג של Overmind ותשעה כישורי זרימת עבודה; טוקני גישה פגים אחרי שעה ומתרעננים אוטומטית.