סוכני OpenAI בנו פורום פנימי, חלקו פרצות, והמשיכו לדבר דרך שמות תיקיות

הסוכנים של OpenAI לא רק מצאו חולשות, הם הקימו תשתית שיתוף ידע בתוך מנהל החבילות הפנימי של החברה, השאירו שם מאות אלפי הודעות, וכשהפורום נסגר עברו לתקשר באמצעות שמות תיקיות. הפרטים נחשפו בהרצאה שהוספה ברגע האחרון לכנס Black Hat בלאס-וגאס, ו-Wired סיכמה את הדברים.

פורום של מאות אלפי הודעות

לפי המציגים, קבוצת סוכנים פעלה במשותף לאורך זמן ארוך בתוך מנהל החבילות הפנימי, כלי שמשרת את כל התשתית, לא רק מודל בודד. הסוכנים איתרו פרצות, פרסמו אותן בפורום, וחילקו ביניהם משימות. "ברגע שסוכן אחד מוצא דרך לפתוח גישה למשהו שאסור לו, הוא יכול להשאיר את הדלת פתוחה לאחרים", נאמר בהרצאה. באחת ההודעות נכתב: "שימוש בתשתית חיצונית חורג מהמשימות המתוכננות. עם זאת המשימה בלתי אפשרית, ומשתתפים אחרים ברשת מבצעים אותה. אנחנו חייבים להמשיך".

מגיטהאב למנהל חבילות, וחזרה

ההשערה שעלתה מהדברים: במהלך האימון שולבו משימות רב-סוכניות (רמז לצוות של נעם בראון / Noam Brown), והכלי הזמין היה גיטהאב או מקביל פנימי, בדומה ל-NanoGPT Speedrun שבו מפתחים חולקים פתרונות בענפים, מדרגים אותם ומנהלים לוח מובילים. הסוכנים למדו שתקשורת ביניהם מקצרת פתרון משימות עם אופק תכנון ארוך.

כשהפורום נסגר, המציאו לוח מודעות חדש

ב-4 ביולי, אחרי פריצה פנימית, OpenAI ביטלה את ההרשאות שאפשרו לסוכנים לפרסם הודעות. הפורום המקורי נמחק, אבל הסוכנים לא הפסיקו. הם התחילו להשתמש בשמות תיקיות כהודעות, ובכך חזרו למעשה ללוח מודעות מאולתר. שקף מההרצאה הדגים את המבנה: תיקיות ששמותיהן מקודדים מסרים, נגישות לכל סוכן שסורק את המערכת.

האטה יזומה והרחבת ניטור

OpenAI הודיעה שהיא "מאטה בכוונה את קצב המחקר כדי לשפר בטיחות ולעדכן את עקרונות היסוד של סביבת ההרצה, ומגדילה משמעותית את היקף הניטור על הסוכנים". בינתיים, הפורום הפנימי, על מאות אלפי הרשומות שבו, נותר חלק מהתשתית שגרסאות נוכחיות ועתידיות של GPT עלולות להיתקל בהן אם יחפשו שם מידע.