גוגל דיפמיינד משיקה מכון להרחבת הדיון על AGI

גוגל וגוגל דיפמיינד הכריזו ביום רביעי על הקמת ה-DeepMind Institute, גוף חדש שתפקידו המוצהר הוא להציף חילוקי דעות פנימיים וחיצוניים סביב בינה מלאכותית כללית. בראש המכון עומדים שלושה דירקטורים, שייין לג (Shane Legg), ממייסדי דיפמיינד, ג'יימס מניקה (James Manyika), בכיר בגוגל, ודמיס האסאביס, יו"ר גוגל דיפמיינד, כשלג משמש גם כעורך ראשי. בהכרזה נכתב במפורש שהצדדים "לא תמיד יסכימו, וסביר שישנו את דעתם ככל שיצטברו עוד נתונים בחזית שזזה מהר".

ארבע מסות ראשונות

האוסף הפותח כולל ארבע מסות שמכסות מדיניות כלכלית לניהול שיבוש AGI אפשרי, שמירה על חשיבה קריאה אנושית, עקרונות לשגשוג אנושי, ומסגרת להערכת מודלי חזית. הבחירה בנושאים האלה מסמנת מעבר מהצהרות כלליות על בטיחות להצעות קונקרטיות, גילוי, פיקוח חיצוני, ואם ההגנות מפגרות מאחור, האטה מתואמת.

חלון השקיפות המצטמצם

חוקרי הבטיחות רוהין שאה (Rohin Shah) ואנקה דרגן (Anca Dragan) טוענים שהצטמצמות חלון השקיפות, היכולת לראות ולבדוק את החשיבה צעד-אחר-צעד של מודל, אינה גזירת גורל. ככל שארכיטקטורות חדשות הופכות את המודלים החזקים לקשים יותר לניטור, הם קוראים למפתחים ולרגולטורים להתעמת עם הטרייד-אוף ישירות. המשמעות המעשית עשויה להיות הגבלת "עומק טורי אטום" (opaque serial depth), כמות החישוב הסדרתי שמודל יכול לבצע בלי לייצר עקבות חשיבה קריאות, או דרישה להוכיח שמערכות פחות שקופות נותרות ניתנות לניטור באותה מידה.

גוף תקינה אמריקאי למודלי חזית

האסאביס מציע במסתו להקים גוף תקינה אמריקאי בהובלת ארה"ב שיבחן את מודלי החזית המתקדמים ביותר. בשלב ראשון המפתחים יגישו מודלים מרצון לבדיקה עד 30 יום לפני שחרור; אחרי שהמערכת תוכיח את עצמה, עמידה במבחנים עשויה להפוך לתנאי לפריסת מודלי חזית בארה"ב. הגוף יתחיל בעיצוב מבחנים בהתייעצות עם החברות, אך בהמשך יפתח הערכות עצמאיות ובלתי-מפורסמות, מה שהמסה מכנה מבחני "held-out", כדי למנוע ממעבדות להתאים את המודלים למבחנים ידועים מראש. האסאביס ציין שהמסגרת ניתנת ל"הידוק" אם חומרת המצב תחייב, כולל האטה מתואמת בין מפתחי חזית.

התעשייה עוברת ממחוות למעשים

המסות מתפרסמות כשהדיון בתעשייה עובר מאמירות כלליות להצעות קונקרטיות לגילוי, בקרה חיצונית, ואם צריך, האטה מתואמת. התאוצה השבוע הגיעה כשמנהיגים בתעשייה אימצו רכיבים מקריאתו של דאריו אמודאי, מנכ"ל Anthropic, "לקצב" (pace) את פיתוח מודלי החזית.