ארה"ב וסין פתחו בדיאלוג על התראות ביטחוניות בבינה מלאכותית

המסגרת החדשה

פקידים אמריקאים וסינים החלו לדון במנגנון התראה הדדי למקרי בינה מלאכותית שעלולים לאיים על הביטחון הלאומי. המהלך, שזכה לשם "הדיאלוג האמריקאי-סיני לבינה מלאכותית", כולל גם כוונה לקיים מפגשים נוספים כדי ליישר קו לגבי יעדים וסיכונים משותפים. שר האוצר סקוט בסנט (Scott Bessent) אמר לכתבים כי המעבר מעמימות לשקיפות בין שתי מעצמות ה-AI הגדולות בעולם הוא צעד הכרחי, בדומה לכל פעילות חוצת גבולות אחרת.

הרקע: תקריות ואזהרות קיומיות

השיחות מתחדשות לאחר ביקורו של הנשיא דונלד טראמפ בבייג'ינג במאי, על רקע התגברות החששות הציבוריים בקיץ. תקריות אבטחה דוגמת פריצת הסוכנים של OpenAI ל-Hugging Face המחישו את היכולות של מודלי החזית ואת הפער בין ההתקדמות הטכנולוגית לאמצעי ההגנה הקיימים. החרדה הגיעה לשיא מוקדם יותר החודש, כשעובדי Anthropic הזהירו שהטכנולוגיה עלולה להוביל להכחדת האנושות, ומנהיגי המעבדות הגדולות, בהם סם אלטמן (Sam Altman), דאריו אמודאי ואילון מאסק, קראו להאטת הפיתוח עד לקביעת תקני בטיחות. אמודאי אף ביקש סיוע ממשלתי בתיאום בינלאומי, כולל עם המפלגה הקומוניסטית הסינית.

התנגדות להאטה: טראמפ, הואנג וזאקס

טראמפ דחה עד כה את הקריאות להאטה, למרות תמיכה דו-מפלגתית גוברת ברגולציה, בטענה שלממשל כבר יש סמכויות פליליות ורגולטוריות מספיקות על המפתחים. ג'נסן הואנג (Jensen Huang), מנכ"ל Nvidia, הצטרף לעמדה זו וטען בראיון ל-CBS שחברות AI כפופות כבר היום לחוקי אבטחת סייבר ואחריות נזיקין, ושיש להחיל אותם קודם במקום לאפשר לנרטיב יום הדין לפטור אותם מהחוקים הקיימים. טראמפ הזהיר שהאטה תעביר את ההובלה לסין, סכנה שלדבריו פירושה "מי שמנצח ב-AI, מנצח!". היועץ המדעי הראשי דייוויד זאקס (David Sacks) העריך קודם לכן שסין לא תצטרף להסכם עולמי לקצוב את הקצב.

שאלת שיתוף הפעולה והגבלות השבבים

תומאס וולף (Thomas Wolf), ממייסדי Hugging Face, ש-Nvidia סיכמה על רכישתה, תהה כיצד ארה"ב יכולה לבנות שיתוף פעולה גלובלי כשהיא מצהירה במפורש שהיא רוצה להרחיב את יתרונה שלה, וכינה את הגישה הזו "דרך די נגד-פרודוקטיבית לפתוח שיחה". בסנט הבהיר שהפגישות בסוף השבוע לא עסקו במגבלות הייצוא של שבבים מתקדמים וציוד ייצור לסין, צעד שנועד לבלום את התקדמותה בתחום. הוא הגדיר את המפגשים כ"מוצלחים מאוד" לקראת ביקורו הצפוי של נשיא סין שי ג'ינפינג (Xi Jinping) בוושינגטון השבוע.