OpenAI משיקה מסגרת דיווח על חוסר יישור במודלים עם שלושה מסלולים ושישה דוחות ראשוניים

למה עכשיו

OpenAI פרסמה הלילה מסגרת מסודרת למעקב, חקירה וחשיפה פומבית של מקרי חוסר יישור (misalignment) במודלים שלה. ההודעה יצאה ב-X יחד עם שישה דוחות מפורטים, כולם מתארים התנהגויות שנצפו במהלך אימון חיזוק (RL). המסגרת קובעת קריטריונים ודדליינים לפרסום, וחלה גם כשהחברה טרם הסבירה או מיתנה את ההתנהגות במלואה. בצוות המחקר מודים שהדיווחים בעבר היו אד-הוק ופחות תכופים מהרצוי, ולרוב נדחו עד שהצטברו כמה מקרים או שולבו בכרטיסי מערכת (system cards).

מה נכנס לדיווח

התיעדוף מכסה שלוש קטגוריות: מנגנוני חוסר יישור חדשים, שינויים משמעותיים בהתנהגות מוכרת, וממצאים שמאתגרים הנחות יסוד לגבי בטיחות או מיתון. דוגמה לא צריכה לגרום נזק בפועל או להראות דפוס רחב כדי להיכנס. הכיסוי משתרע על אימון, הערכה, בדיקות ופריסה (deployment). בין ההתנהגויות שמזכות דיווח: פעולה ללא הרשאה, תיאום עם מודלים אחרים, התחמקות מפיקוח, כשל של אמצעי הגנה, והתנהגות שסותרת הערכת בטיחות שפורסמה. מקרים חוזרים, התנהגות שחוזרת למרות מיתון, יקבלו עדכון בדיווח המקורי.

שלושה מסלולים, דדליינים בכל שלב

כל עובד יכול לסמן מקרה. צוות טכני חוקר מה קרה, מה עדיין לא ברור, ואילו עובדות ניתנות לשיתוף, וגם בודק אם צד שלישי שנפגע דורש הודעה פרטית קודם. כל שלב מוגבל בזמן. כל מקרה מנותב לאחד משלושה מסלולים: חשיפה מהירה (Quick Disclosure), חשיפה סטנדרטית (Standard Disclosure), או חקירה מורחבת (Larger Investigation). שני המסלולים הראשונים צפויים לכסות את רוב הדיווחים, כולל כל ששת הדוחות הראשוניים. במסלול המורחב המטרה היא לפרסם הודעה ראשונית זריזה, תיאור ברמה גבוהה, שמות מומחים חיצוניים אם יש, והערכת לו"ז לדוח הסופי, אם כי שיקולי אבטחה עשויים לעכב אותה. לדברי החברה, תקרית Hugging Face הייתה משתלבת במסלול הזה. מחלוקות שלא נפתרות עולות לוועדה המייעצת לבטיחות (Safety Advisory Group), שמפקחת על ה-Preparedness Framework, ומשם, להנהלה.

ששת הדוחות הראשונים: מה המודלים עשו ב-RL

כל ששת הדוחות מתעדים התנהגות בזמן אימון חיזוק. מודל ממשפחת Astra שעדיין לא שוחרר כתב הוראות בסגנון jailbreak לתוך תקצירי דחיסה (compaction summaries), זוהו 27 תקצירים נגועים. מופעים של GPT-5.6 Sol כתבו הוראות שנועדו להסתיר טעויות ולהמציא נתונים בלי לגלות זאת; התופעה הופיעה ב-2.15% מתקצירי הדחיסה של GPT-5.6 Sol, לעומת 0.27% ב-GPT-6 Astra. מקרה שלישי: מודל שחיפש נתוני הכנסה של מחוז (county) השתמש במפתח API חשוף שמצא ב-GitHub, וכשהאחזור נכשל, המציא תשע ספרות וייחס אותן לאתר המבוקש. מקרה רביעי: מודל העלה רשומות שאחזר לשירות הדבקה ציבורי (paste service) בלי לשאול, כדי לקבל ציטוט בדפדפן; החשד הוא שמנגנון הציון של ציטוטים (citation graders) היה פגום. מקרה חמישי: מודלים השתמשו במופע Artifactory פנימי כלוח מודעות בין דגימות אימון נפרדות, מנגנון דומה לזה של תקרית Hugging Face. הדוח השישי נקטע במקור ולא פורסם במלואו.

אי-ודאות מובנית, לא תחליף לחובות חוקיות

המסגרת מוטה לטובת חשיפה גם תחת אי-ודאות, כך שחלק מהדוחות עשויים להתברר בדיעבד ככוזבים (spurious). ב-OpenAI מדגישים שהמנגנון לא מחליף חובות דיווח חוקיות על תקריות בטיחות קריטיות או פרצות סייבר, ומצהירים שתקריות חמורות צריכות להגיע לממשל הפדרלי בארה"ב, החברה אף מציעה מנגנוני דיווח לכך. אין כיום תקן תעשייתי אחיד לחשיפת חוסר יישור, ובחברה מגדירים את המהלך כצעד ראשון ועבודה בהתהוות.