אמודיי קורא להאטת הפיתוח, טראמפ ואלטמן מגיבים בכיוונים מנוגדים

המאמר שהצית את הדיון

מאמר ארוך שפרסם דאריו אמודיי, מנכ"ל Anthropic, בשבת בבוקר הצית גל תגובות מצד מנכ"לי חברות AI מובילות ובכירים בממשל האמריקאי. תחת הכותרת "We Must Pace the Frontier" טוען אמודיי כי יש להאט את קצב הפיתוח של מודלי חזית (Frontier AI) באמצעות שלושה מנגנונים מתואמים, ולא, לעצור אותו לחלוטין.

שלושת הצעדים של אמודיי

אמודיי מפרט שלושה צעדים: הטמעת מעריכים חיצוניים בלתי תלויים שיוודאו עמידה בהתחייבויות בטיחות וידווחו על תקלות; תיאום בין חברות מודלי חזית במדינות דמוקרטיות על סטנדרטים ומגבלות; ותיאום גלובלי הכולל גם משטרים אוטוריטריים, "עד כמה שהדבר אפשרי". Anthropic, לדבריו, מתחייבת חד-צדדית לצעד הראשון. הוא מדגיש שהאטה אין פירושה עצירת אימון מודלים, אלא הקצאת זמן מספק ליישור (Alignment) ולהגנות, ולאישור של גורמים חיצוניים.

אלטמן: מסכים, אבל עם מסגרת פדרלית

סם אלטמן (Sam Altman), מנכ"ל OpenAI, הגיב במהירות והסכים עם העיקרון: "האטת החזית" הייתה נושא מרכזי בדיונים פנימיים בחברה בשבועות האחרונים. אלטמן התחייב אף הוא לשלב מעריכים בלתי תלויים, וקרא למסגרת פדרלית שתקבע דרישות בטיחות אחידות למודלי חזית. הוא הצביע על שני סיכוני קיצון, אובדן שליטה עתידית ל-AI וריכוז כוח מוגזם, וטען שהדרך להימנע מהם היא "נתיב אמצעי צר" שבו הקצב איטי יותר מהאפשרי טכנית, אך לא נעצר.

האסביס: כיוון נכון, פרטים חסרים

דמיס האסביס, מייסד-שותף ויו"ר Google DeepMind, אישר שהכיוון נכון לדעתו, אך העיר שהפרטים עדיין דורשים עיבוד. האסביס הפנה למסגרת לגוף תקינה ל-AI שפרסם ביולי, כבסיס אפשרי לתיאום הבין-חברתי שאמודיי מציע.

טראמפ, הואנג ואנס: התנגדות פוליטית ותעשייתית

מהצד הפוליטי והתעשייתי נשמעה התנגדות חריפה. הנשיא דונלד טראמפ (Donald Trump) פרסם הודעה באותיות גדולות שלפיה ה"גדרות" היחידות שנחוצות הן נשיא חזק וחכם, הוא עצמו, והאשים את אמודיי ואת Anthropic בהתחזות ל"מלאך קטן ומושלם" תוך הכרזה על קונספירציה נגד מרכזי נתונים שרק סין מרוויחה ממנה. ג'נסן הואנג (Jensen Huang), מנכ"ל Nvidia, ניהל שיחה פומבית עם טראמפ על הבמה והצהיר שכולם ינצחו במרוץ ה-AI באמריקה. סגן הנשיא ג'יי.די. ואנס (JD Vance) ציין שמוזר בעיניו שחברות מודלי חזית הן "kin...", הקטע במקור נקטע באמצע המשפט.