Atomic Chat מציע חלופה פתוחה שמריצה מודלים מקומית עם API תואם OpenAI

מנוע אחד, שלוש טכנולוגיות

אטומיק צ'אט (Atomic Chat) מגדיר את עצמו כחלופת קוד פתוח ל-ChatGPT שפועלת במאה אחוז אופליין על המחשב שלך. האפליקציה, זמינה לדסקטופ ולמובייל, מריצה מודלים במשקל פתוח (open-weight) מהַאגינג פייס (Hugging Face) דוגמת לאמה (Llama), ג'מה (Gemma), קוון (Qwen), Mistral ופי (Phi), וחושפת שרת מקומי תואם OpenAI API בכתובת 127.0.0.1:1234. כל לקוח שמדבר את ה-SDK של OpenAI, החל ב-curl פשוט וכלה בתוספי IDE, יכול להפנות את ה-base_url לשרת המקומי ולהתחיל לעבוד בלי מפתח API ובלי תעבורת רשת.

שלושה מנועים מתחת למכסה המנוע

שלושה מנועי הסקה (inference) פועלים מאחורי אותו ממשק יחיד. הראשון, atomic-llama-cpp-turboquant, הוא פורק (fork) של לאמה.סי.פי.פי (llama.cpp) עם אופטימיזציית TurboQuant למטמון KV, גרסאות turbo3 ו-turbo4, שמקטינה את טביעת הזיכרון עד פי 4.3 וזמינה כעת גם בחלונות ולינוקס (CPU ו-GPU דרך CUDA/Vulkan), לא רק במק. השני הוא לאמה.סי.פי.פי הרשמי של ggml-org, שמשמש ברירת מחדל בחלונות ולינוקס בזכות כיסוי חומרה רחב ותמיכה ב-MTP. השלישי, MLX-VLM, מנצל את ה-Neural Engine ואת הזיכרון המאוחד של שבבי M-סדרה של אפל למודלי ראייה-שפה, ועוקף את לאמה.סי.פי.פי בביצועים על דגמים נתמכים.

האצה ספקולטיבית בכל החזיתות

הפיצ'רים של פענוח ספקולטיבי (speculative decoding) זמינים בכל שלושת המנועים. Multi-Token Prediction (MTP), מודל טיוטה שחוזה כמה טוקנים בבת אחת, מספק דחיפה של 30-70% בתפוקה בדגמים נתמכים, ומגיע עד פי שלושה בג'מה 4. DFlash block-diffusion decoding דוחף את המהירות עד פי שישה בקוון 3.6, ג'מה 4 וקימי K2.5. על סיליקון של אפל, EAGLE-3 מוסיף האצה לג'מה 4 דרך MLX, ו-MTP על MLX פעיל לקוון 3.5/3.6 ול-DeepSeek V4. מתג Flash Attention (on/off/auto) מאפשר שליטה ידנית כשצריך.

ענן כשצריך, מקומי כברירת מחדל

מי שבכל זאת זקוק למודלים סגורים מקבל גישה מובנית לספקי ענן, OpenAI, Anthropic, Mistral, Groq, MiniMax, Qwen, Moonshot, עם מפתח אישי (BYOK) ואפשרות להחליף מודל בכל צ'אט או לערבב מקומי וענני באותו פרויקט. השרת המקומי מאזין רק ל-loopback כברירת מחדל; הגדרת host ל-0.0.0.0 חושפת אותו ברשת המקומית למי שרוצה להריץ סוכנים (agents) ממכונה אחרת ב-LAN.

סוכנים, ארטיפקטים ו-MCP בלחיצה

לשונית האינטגרציות מאפשרת השקה בלחיצה אחת של סוכנים פופולריים: Atomic Agent, Claude Code, Codex CLI, Cline, OpenCode, Droid, Goose, OpenHands, Copilot CLI, Kilo Code ו-Zed. פאנל ארטיפקטים (Artifacts) מציג תצוגה חיה של קוד HTML/CSS/JS עם העתקה, הורדה והדפסה. תמיכה ב-MCP (Model Context Protocol) מאפשרת לחבר שרתי כלים מרובים, גישה לקבצים, חיפוש רשת, מה שצריך. עוזרים מותאמים (custom assistants) עם system prompts פר-עוזר, ותצוגת עץ שיחות בסרגל הצד משלימים סביבת עבודה שלמה בלי לצאת מהאפליקציה.

פרטיות כתכונה, לא הבטחה

השיחות והמפתחות נשארים על המכונה. אין טלמטריה נסתרת, אין העלאה אוטומטית, כל עוד בוחרים במודל מקומי, הכל רץ בתוך הסנדבוקס של המשתמש. עבור מפתחים שבונים כלי AI פנימיים, חוקרים שבודקים מודלים בלי לשלוח נתונים החוצה, או סתם מי שרוצה צ'אטבוט שעובד בטיסה, אטומיק צ'אט מספק את התשתית בלי לדרוש חשבון ענן.