מאמר חדש מציע מפת דרכים לשיפור עצמי רקורסיבי של בינה מלאכותית

חוקרים פרסמו ב-arXiv מסמך שממפה את הדרך ממערכות נוכחיות לבינה מלאכותית שמשפרת את עצמה בלי התערבות אדם, ומציגים מדד חדש שחושף את הפערים במודלי שפה גדולים קיימים. המאמר, שעדיין לא עבר שיפוט עמיתים, מגדיר שיפור עצמי רקורסיבי (RSI) כיכולת של מערכת להפוך ניסיון ומשוב לשינויים קבועים שמשפרים הן את היכולות והן את תהליך השיפור העתידי.

המדד שחושף את התקרה

הכותבים מציגים את מדד Headroom-Closed Index (HCI) שנועד לכמת עד כמה מודלים סוגרים את הפער בין ביצוע נוכחי לפוטנציאל תיאורטי. לטענתם, מודלי שפה גדולים כיום נתקעים הרחק מהתקרה הזו כי הם חסרים מנגנון שמאפשר שינוי מתמשך של משקולות או ארכיטקטורה על סמך משוב מצטבר. ה-HCI אמור לשמש מצפן למעקב אחרי התקדמות אמיתית ולא רק שיפורי בנצ'מרק נקודתיים.

חמש רמות אוטונומיה

מפת הדרכים מחלקת את הדרך לחמש מדרגות: אוטונומיה בביצוע שיפורים, אוטונומיה בבחירת אסטרטגיית שיפור, אוטונומיה ברכישת ניסיון, אוטונומיה בהסתגלות לסביבה, ולבסוף שיפור-מטא רקורסיבי, מצב שבו המערכת משפרת את מנגנון השיפור עצמו. כל מדרגה דורשת יכולות שלא קיימות היום במודלים סגורים או פתוחי-משקולות, כולל זיכרון ארוך-טווח יציב, הערכה עצמית אמינה, ויכולת לכתוב ולתקף קוד שמשנה את הארכיטקטורה.

יישומים שונים, קצבים שונים

המאמר בוחן שלושה תרחישי יישום, גילוי מדעי, אינטליגנציה מגולמת (embodied intelligence), והנדסת תוכנה, ומראה שכל אחד תובע תמהיל שונה של אוטונומיות. בהנדסת תוכנה יש כבר לולאות משוב מהירות (הרצה, טסטים, תיקון), מה שמקרב את המדרגות הראשונות; בגילוי מדעי הלולאה ארוכה ויקרה יותר; באינטליגנציה מגולמת נוסף ממד פיזי שמאט איסוף ניסיון. הכותבים מציינים שראיות אמפיריות ראשוניות קיימות, אך הן חלקיות ומגיעות ממערכות סגורות בתעשייה.

האתגרים שבדרך

בין המכשולים המרכזיים שהמסמך מזהה: הערכה עצמית אמינה בלי מתייג אנושי, מניעת הידרדרות ביכולות קודמות (catastrophic forgetting) במהלך שינוי משקולות, אבטחה מול שינויים זדוניים או מקריים בתהליך השיפור, ועלות חישובית של אימון חוזר מתמשך. החוקרים מדגישים ש-RSI אמיתי דורש פתרון לכל אלה בו-זמנית, לא בנפרד, ושהמחקר הנוכחי רחוק משם.