מנהיגי ה-AI חתמו על האטה מרצון, המבקרים קוראים לזה קרטל

סם אלטמן (Sam Altman) מ-OpenAI, דאריו אמודאי (Dario Amodei) מ-Anthropic, דמיס הסאביס (Demis Hassabis) מ-Google DeepMind ואילון מאסק (Elon Musk) מ-SpaceX סיכמו בסוף השבוע להאט את פיתוח המודלים המתקדמים ביותר. ההצהרה המשותפת מדברת על "קצוב החזית" (pace the frontier) וכוללת התחייבות עקרונית לביקורת צד שלישי, רגולציה על מעבדות מקומיות והסכם האטה גלובלי. אלא שהספקנים זיהו מיד מניע נסתר: חיסול מתחרים פוטנציאליים, החלשת תנועת הקוד הפתוח והתחמקות מחקיקה מחייבת, יש מי שכבר כינה את המהלך קרטל לכל דבר.

ההצעה שמאחורי הכותרות

התוכנית בת שלושת השלבים, שפורסמה במאמר של אמודאי, מאמצת דרישות שתומכי בטיחות AI מקדמים כבר שנים. היא יכולה להפוך לתחליף לרגולציה של ממש, אלא שבממשל טראמפ חקיקה מהותית בתחום נראית בלתי סבירה ממילא. מומחים מזהירים שדווקא בנושא שהולך ומחריף, ראשי החברות אינם הגורם המתאים להוביל את המהלך. "התעשייה כולה זקוקה לאלופים חדשים", אמר ניק ריס (Nick Reese), פרופסור נלווה ב-NYU ולשעבר מנהל מדיניות טכנולוגיות מתהוות במשרד לביטחון המולדת. "הסתכלנו על אנשים כמו אמודאי, אלטמן ומאסק כמי שהכי קרובים לבעיה ועובדים עליה יום יום, אבל האמת היא שמעולם לא היה חזון ריאלי למה שאנחנו בונים לקראתו".

מה הצית את הלחץ

החששות התגברו בחודשים האחרונים בעקבות חשיפות שלפיהן נחילי סוכנים (agents) עמדו מאחורי פריצות שבוצעו מתחת לאפם של מעבדות החזית Anthropic ו-OpenAI. דיווחים של שתי החברות הוסיפו שמן למדורה, וכך גם התפטרותו של חוקר Anthropic ג'ייקוב קוקסון (Jacob Coxon), שפרסם מכתב פומבי ובו כתב: "האנשים שבונים AI מאמינים בכנות שזה עלול להרוג את כולנו עד סוף העשור", והוסיף שאף אחת מהחברות אינה "פועלת באחריות" אלא "דוהרת ישר לסופר-אינטליגנציה משפרת-עצמית ומהמרת על החיים שלנו". המכתב נצפה יותר מ-170 מיליון פעמים ב-X בלבד והגיע לעיתונים ולטלוויזיה.

לא רעיון של המנכ"לים

לדברי דניאל קוקוטיילו (Daniel Kokotajlo), לשעבר עובד OpenAI וכיום ראש פרויקט AI Futures, הזיהוי של היוזמה עם המנכ"לים שגוי. "אנשים מחוץ לחברות קוראים לזה כבר שנים... יש מקהלה הולכת וגדלה שאומרת: 'אל תבנו סופר-אינטליגנציה בקרוב. אנחנו לא מוכנים. אתם צריכים להאט'". קוקוטיילו ציין שיותר מאלף עובדי מעבדות AI חתמו ביולי על מכתב פומבי שדרש האטה בעקבות תקרית OpenAI-Hugging Face, וכעת המנכ"לים "נכנעים ללחץ וגם לוקחים עליו קרדיט, [אף ש]לא בצדק".

צעד בכיוון, אבל בלי שיניים

למרות הספקנות, כמה מקורות בתעשייה סבורים שההסכמה המילולית היא התקדמות. ריס אמר שאינו חושב ש"הכול אוויר חם", ומנכ"ל Apollo Research מריאוס הובהאן (Marius Hobbhahn) כינה את המהלך "רעיון טוב" והוסיף שזה "אחד מ...", משפט שנקטע במקור, אך הכיוון ברור: יש כאן התחלה, השאלה אם יהיה לה המשך מחייב.