JetBrains פתחה את הקוד של KotlinLLM, קוד שכותב את עצמו בזמן ריצה

JetBrains שחררה את KotlinLLM, תוסף מחקרי ל-IntelliJ IDEA שהופך קריאה למודל שפה לחלק ממחזור החיים של האפליקציה. במקום לייצר קוד בזמן פיתוח, הפלאגין מיירט קריאות בזמן ריצה, מבקש מה-LLM להשלים את הלוגיקה החסרה, מקמפל את התוצאה, טוען את המחלקה מחדש (hot reload) ומפעיל את הקריאה המקורית שוב, הפעם עם קוד אמיתי.

איך זה עובד

המנגנון נשען על שתי פונקציות עיקריות. `asLlm<F, T>()` מקבלת ערך מסוג אחד ומחזירה ערך מסוג אחר, למשל, מחרוזת שמכילה תיאור טבעי של API והופכת ל-URL תקין. `mockLlm<T>()` מייצרת מימוש שלם לממשק ומרחיבה אותו בכל פעם שתרחיש חדש מגיע לקוד. בשני המקרים הפלאגין אוסף את הערכים והטיפוסים בזמן אמת, שולח אותם למודל יחד עם הקשר, ומקבל בחזרה קוד Kotlin שניתן לקמפל מיידית.

הרעיון המרכזי: שמירה כקוד רגיל

ההבדל המהותי מול עוזרי קוד כמו Copilot או Cursor הוא בנקודת היציאה. כאן המודל לא נקרא בלולאה. ברגע שהפתרון עובד, הפלאגין כותב אותו לקובץ `.kt` רגיל בתיקיית הפרויקט. משם אפשר לעשות לו code review, לשנות ידנית, לקמט (commit) ולהריץ בסביבת פרודקשן בלי תלות ב-LLM, בלי עלות טוקנים חוזרת ובלי לאטנסיה (latency) בריצה. הקוד שנשמר הוא Kotlin תקני לכל דבר, לא פרומפט, לא הגדרת תצורה, לא קובץ בינארי סגור.

מגבלות ושלב נוכחי

נכון לעכשיו זהו אב-טיפוס שרץ רק על Kotlin/JVM. הביצועים תלויים במודל שמאחורי הקלעים, בזמינות הרשת ובזמן הקומפילציה והטעינה מחדש, מה שהופך את הגישה לא מתאימה לנתיבים קריטיים של לאטנסיה נמוכה. הרישיון הוא Apache 2.0, והקוד זמין ב-GitHub תחת החשבון JetBrains-Research. אין עדיין תיעוד של מדדי איכות (benchmarks) מול כתיבה ידנית או מול כלי השלמה סטנדרטיים.

הקשר רחב יותר

הפרויקט מצטרף לניסיונות כמו Smol Developer או GPT-Engineer שמנסים להפוך LLM למנוע ריצה (runtime) ולא רק לכלי עריכה. JetBrains בוחנת כאן גבול מעניין: מתי הקוד שנוצר על ידי מודל הופך לחלק מהבסיס קוד (codebase) שאפשר לתחזק לאורך זמן, בלי להחזיק את המודל על הקו. התשובה המעשית תגיע כשמפתחים ינסו להריץ את זה על בסיסי קוד אמיתיים, עם טיפוסים מורכבים, תלויות חיצוניות ודרישות יציבות של פרודקשן.