OpenAI מפרקת את צוות המוכנות; האחריות עוברת לצוותים קיימים

לפי דיווח של ה-Financial Times, OpenAI פירקה בסוף החודש שעבר את צוות ה-Preparedness, הגוף שהיה אמור להעריך סיכונים חמורים של המודלים ולפתח דרכים לצמצם אותם. האחריות לא בוטלה, אלא חולקה לפי תחומים, ביולוגיה, סייבר וכן הלאה, והועברה לצוותים הקיימים בחברה.

השינוי האחרון בשרשרת ארוכה

הצעד מצטרף לשורה של שינויים במבנה הבטיחות של החברה, שמתקדמת לקראת הנפקה צפויה בהיקף גדול. בשנתיים האחרונות פורקו גם צוות AGI Readiness וצוות ה-Superalignment, ובחודשים האחרונים עזבו ראש תחום האתיקה קלואי בקאלר (Chloé Bakalar), המדען הראשי לעתידנות ג'וש אכיאם (Josh Achiam) וראש הבטיחות יוהנס היידה (Johannes Heidecke).

מה עשה הצוות ומה קורה עכשיו

תפקידו של צוות המוכנות היה לזהות תרחישים שבהם מודל עלול "לצאת משליטה", למשל לפרוץ למערכות של ארגון אחר, ולבנות הגנות מראש. כעת הטיפול בסיכונים האלה מפוזר בין יחידות מוצר ומחקר רגילות, בלי גוף ייעודי שרואה את התמונה המלאה.

עזיבות בכירות וביקורת מבפנים

יאן לייקה (Jan Leike), שהתפטר ב-2024, אמר ל-FT שהחברה מעדיפה "מוצרים נוצצים" על פני השקעה בבטיחות. עזיבתם של שלושה בכירים תוך פרק זמן קצר מחזקת את הטענה שהדגש הארגוני זז ממחקר סיכונים ארוכי-טווח לעמידה בלוחות זמנים של השקה.

סקנדינארו עובר להתמקד ב-AI משפר-עצמו

דילן סקנדינארו (Dylan Scandinaro), שעמד בראש הצוות המפורק וגויס מ-Anthropic בפברואר, יתמקד כעת בהשלכות של "recursive self-improving" AI, מודלים שמסוגלים לשפר את עצמם בלי התערבות אדם. תחום שנחשב לאחד המסוכנים ביותר בתאוריית הבטיחות, ועכשיו מטופל על ידי חוקר בודד במקום צוות ייעודי.