דוח DeepMind על המסלול מ‑AGI ל‑ASI

הדוח החדש של Google DeepMind, שכותרתו “From AGI to ASI”, מציג ניתוח שמאתגר את ההנחה הרווחת שה‑AGI – אינטיליגנציה מלאכותית ברמת אדם – מהווה את הקו הסופי של ההתפתחות. במקום זאת, המחברים – Tim Genewein, Matija Franklin, Alexander Lerchner, Laurent Orseau, Samuel Albanie, Adam Bales, Cole Wyeth, Stephanie Chan, Iason Gabriel, Joel Z. Leibo, Allan Dafoe, Marcus Hutter, Thore Graepel ושון לג – שואלים האם ה‑AGI לאו דווקא יהיה תחנה סופית, אלא שלב שממנו המערכת תמשיך לעלות במהירות לעבר אינטיליגנציה על‑אנושית (ASI).

ההגדרה של AGI בדוח מתארת מערכת שיכולה לבצע רוב המשימות הקוגניטיביות הרלוונטיות לאדם – לא רק לנצח במשחקי שחמט, אלא לשמש כעוזר, חוקר, אנליסט, מתכנת ומתכנן. לעומתו, ASI מוגדרת כמערכת שמעלת את יכולותיה של קבוצה של מומחים, של ארגונים שלמים ואף של מוסדות מחקר שלמים, כך שהיא לא דומה ל‑AlphaGo שמצטיין במשחק יחיד, אלא משווה למעבדה מחקרית גדולה או לחברת ייעוץ מובילה.

הדוח מציג ארבעה מסלולים אפשריים שבהם AGI יכול להתקדם ל‑ASI. הראשון – סקלאביליות – מתבסס על הגדלת המשאבים: יותר חישובים, יותר נתונים, יותר מודלים והרצה של מספר עצום של יחידות אינטיליגנציה שמקבילות לאדם אך פועלות במהירות גבוהה ובמקביל. בעוד שמעתיק את הזיכרון והניסיון של אדם איננו אפשרי, אינטיליגנציה מלאכותית ניתנת לשכפול בקלות. המסלול השני – פרדיגמות חדשות – פותח את הדלת לארכיטקטורות שמעבר לתרנספורמרים, כולל למידה רציפה, זיכרון ארוך, תכנון מתוחכם, סוכנים עם מודלים של העולם וגישות שמתחברות יותר למציאות מאשר רק לטקסט. המסלול השלישי – שיפור רקורסיבי – מתאר תהליך שבו אינטיליגנציה מלאכותית מסייעת בפיתוח אינטיליגנציות חדשות, כותבת קוד מחקרי, מזהה בעיות ומוצאת פתרונות בקצב שמאיץ את עצמו. הרעיון הרביעי, שמופיע בדוח אך לא מפורט במלואו בטיוטה, מתמקד בקבוצות של סוכנים שמתקשרים ומשתפים פעולה, מה שמעצים את היכולת הקולקטיבית של המערכת.

המחקר מדגיש שההתקדמות של AGI לא מובטחת לעצור ברמת האדם, וכי כל אחד מהמסלולים הללו עשוי להוביל למצב שבו אינטיליגנציה על‑אנושית תופסת את הבמה. זאת קריאה למתכננים, למדענים ולמדיניות לחשוב על מנגנוני בקרה ודרכי פיתוח אחראיות עוד לפני שהמעבר יתממש.