קודקס השתלט על אופן-איי: כך נראית מפעל תוכנה סוכני מבפנים

ביקור במטה אופן-איי (OpenAI) חושף שינוי חד בצורת העבודה: בתוך ארבעה חודשים עברו כמעט כל העובדים הלא-טכניים, כספים, גיוס, משפט, משימוש אפסי בקודקס (Codex) לשימוש שבועי של 90%. הכלי, ששוחרר כאפליקציית מק בפברואר וחלונות במרץ, ואחריו צ'אטג'יפט וורק (ChatGPT Work) ביולי, הפך לברירת המחדל בלי הנחיה מלמעלה. "הנושא הגדול של החודשים האחרונים הוא שהכול עכשיו סוכן קוד", אמר אנדרו אמברוסינו (Andrew Ambrosino), ראש צוות דסקטופ. "בין אם הקוד הגלוי הוא הפלט שלך או לא, סוכנים כותבים את התוצרים שלך".

מות ה-IDE ובקשות המשיכה

גרף השימוש בטוקנים מראה זינוק חד בינואר, ובמקביל צניחה בשימוש ב-IDEs מסורתיים. בקשות משיכה (pull requests) וסקירות קוד עוברות חשיבה מחדש: כשהסוכן כותב את הקוד, תהליך הביקורת האנושי משתנה מהותית. ג'ו גרשנסון (Joe Gershenson), ראש צוות סוכני הליבה, הסביר שהפרקטיקות הוותיקות כבר לא תואמות את זרימת העבודה החדשה.

מפעל תוכנה סוכני: לולאות משוב אוטומטיות

אופן-איי בנתה "מפעל תוכנה" עם לולאות משוב אוטומטיות. דוגמה בולטת היא Perf Factory, מערכת שמנטרת ייצור ומפעילה סוכני קודקס לתיקון בעיות ביצועים אוטומטית. כלי פנימיים שפותחו ידנית מוחלפים בהדרגה בקודקס, שמהנדסים מעדיפים כעת לדיבאגינג על פני כלים ייעודיים. יעילות ה-harness, התשתית שמריצה את הסוכנים, הופכת קריטית.

הנדסה למיליארד משתמשים: קונים קודם, מביאים פנימה אחר כך

בצד התשתית, המדיניות ברורה: קונים קודם, מעבירים פנימה אחר כך. חלוקה גיאוגרפית של תשתית, תכנון קיבולת ואתגרי עומס מטופלים בגישה פרגמטית. בצד ה-API, מעבדים מרכזיים (CPUs) הפכו לצוואר בקבוק, והצוות עבר לפריסות איטיות בכוונה כדי לשפר אמינות. מהנדסים כמו אחמד איברהים (Ahmed Ibrahim) וסטיב קופי (Steve Coffey) מתארים מעבר מהתמחויות צרות לשיפוט וסוכנות (agency) ככישורים המרכזיים, וכתוצאה, הגירות וכתיבות מחדש שנחשבו "בלתי אפשריות" מצליחות עם מהנדס אחד או שניים.