סוכן מקומי בקוד פתוח מבטיח להריץ משימות מורכבות על החומרה שלך בלי לשלוח דבר לענן

Atomic Agent, ריצה מקומית שפותחה על ידי AtomicBot ושוחררה ברישיון MIT בגיטהאב, מציעה לולאת סוכן (agent loop) שלמה שפועלת אוף-ליין: מודל שפה שמוגש דרך llama.cpp, קריאות כלים שנאכפות בדקדוק GBNF, חיבור לכלים חיצוניים דרך Model Context Protocol (MCP) וזיכרון ארוך-טווח מבוסס SQLite. הכול רץ על המק, ווינדוס או לינוקס של המשתמש, בלי חשבון ענן, בלי חיוב לפי טוקנים, ובלי תלות בשרת מרוחק, מאפיין שהופך את הכלי רלוונטי לסביבות מבודדות רשת (air-gapped) ולדרישות ציות מחמירות.

ארכיטקטורה: דקדוק במקום תפילה

הטריק המרכזי הוא פענוח מוגבל-דקדוק (grammar-constrained decoding): במקום לקוות שהמודל יפלוט JSON תקין, המנוע כופה מבנה GBNF על כל קריאת כלי, כך שהפלט תמיד תקין תחבירית. במקביל, קידומת פרומפט יציבה ברמת בתים (byte-stable prompt prefix) מאפשרת שימוש חוזר ב-KV-cache בין צעדים, רק ה"זנב" מחושב מחדש, מה שחוסך קידוד חוזר של הקשר ארוך. התוצאה: כל איטרציה בלולאה זולה משמעותית, והסוכן מסוגל להריץ דפדפן, מערכת קבצים ו-shell במקביל, לעצור לאישור בצעדים מסוכנים, ולהמשיך עד להשלמה או התערבות משתמש.

בנצ'מרק GAIA: פער של 11 נקודות אחוז

במבחן GAIA Level 1, 53 משימות שנמדדו על אותו מודל ואותה חומרה, Atomic Agent פתר 37 משימות (69.8%) לעומת 58.5% של הרפרנס Hermes, פער של 11.3 נקודות אחוז. זמן ממוצע למשימה עמד על כ-217 שניות מול 351 שניות, שיפור של פי 1.6 בקירוב. ההישג מיוחס לשילוב של פענוח נעול-דקדוק, בדיקות צעד-אחר-צעד שמונעות כניסה למבוי סתום, ושימוש חוזר ב-slot_id של המטמון לצד אצוות קריאה מקבילות שחופפות I/O אחרי הסקה בודדת.

כימוס מודל: נכנס ב-GPU ביתי

כדי לאפשר חלון הקשר ארוך על חומרה נגישה, הפרויקט מספק קוואנטים Q4 GGUF אצורים: מודל fp16 מלא דורש כ-24 ג'יגה-בייט VRAM, בעוד גרסת ה-Q4 יורדת לכ-6.7 ג'יגה-בייט. זיכרון ארוך-טווח מוזרק ל"זנב" הפרומפט בכמה מאות טוקנים בלבד (שליפת FTS מ-SQLite), תוך שמירה על המטמון הקיים, כך שהחלון האפקטיבי גדל בלי לפגוע במהירות האיטרציה.

פרטיות כברירת מחדל, ענן רק בבחירה

ברירת המחדל היא הרצה מלאה מקומית: לולאת הסוכן, המודל והנתונים נשארים על המכשיר. ספקי ענן נכנסים לתמונה רק אם המשתמש מגדיר אותם במפורש. הגישה הזו, לצד רישיון MIT והיעדר חיוב טוקנים, ממצבת את Atomic Agent ככלי שמתאים לארגונים עם מדיניות נתונים נוקשה, חוקרים שזקוקים לשחזוריות מלאה, ומפתחים שמעדיפים לשלם בחשמל ולא במטבעות API.

זמינות ומסלול כניסה

הקוד זמין במאגר github.com/AtomicBot-ai/atomic-agent, וההתקנה מתבצעת בפקודה אחת שמרימה llama-server מקומי. במקביל מופעלת רשימת המתנה לגרסת אפליקציה גרפית שמבטיחה "אותו מנוע, אפס הגדרה". לעת עתה אין מדדי ביצועים עצמאיים מחוץ ל-GAIA, והפרויקט לא פרסם השוואה מול סוכנים מבוססי ענן דוגמת Operator או Devin, נקודה שכדאי לזכור כשבוחנים את המספרים.