סין דוחה את קריאת אמודאי להאטת מרוץ הבינה המלאכותית

מנכ"ל Anthropic דאריו אמודאי פרסם בסוף השבוע פוסט שקורא ל"קצב גלובלי" בפיתוח מודלים מתקדמים, אבל התנאי שהוא מציב, שמירת פער גדול ככל האפשר לטובת דמוקרטיות מול אוטוקרטיות, הפך את ההצעה ללא רלוונטית מבחינת בייג'ינג. אמודאי דורש מארה"ב להדק את האכיפה על הברחת שבבים ולחסום זיקוק מודלים (distillation) בידי חברות סיניות, צעדים שנועדו להקפיא את היריבה במקום להאט את שני הצדדים יחד.

התנאי ששובר את העסקה

לדברי קווין שו (Kevin Xu), מייסד קרן הגידור Interconnected Capital ולשעבר איש צוות בבית הלבן של אובמה, קהילת בטיחות הבינה המלאכותית בסין חולקת רבות מהדאגות של המעבדות האמריקאיות. הפער אינו עקרוני אלא פרוצדורלי: החזון של אנתרופיק דורש הכנעה והגבלה של סין תחילה כדי לצבור מנוף, בעוד סין מוכנה לדבר רק מעמדה של שווים. אלווין וואנג גריילין (Alvin Wang Graylin), עמית בכיר במכון אסיה סוסייטי וחוקר בסטנפורד, מציין שהמאמר עצמו קושר את הקצב בהגדלת הפער, מה שהופך את הקריאה לשיתוף פעולה ללא אותנטית בעיני קוראים סינים.

הודאה בחוסר אסטרטגיה

אמודאי טען שהחלשת תעשיית הבינה המלאכותית הסינית דווקא תגדיל את המנוף האמריקאי ותהפוך הסכם עתידי לסביר יותר, אך לא הסביר איך בדיוק זה אמור לפתות את בייג'ינג לשולחן המשא ומתן. בראיון טלוויזיוני מאוחר יותר הודה המנכ"ל בפשטות שאין לו מושג איך מנהלים משא ומתן עם סין, אמירה שממסגרת את כל היוזמה כתרגיל מחשבתי ולא כמדיניות ישימה.

תגובה רשמית חריפה

דובר משרד החוץ הסיני גואו ג'יאקון (Guo Jiakun) לא המתין: במסיבת עיתונאים ביום שני כינה את ההצעה "הפחדה, עימות ותחרות מרושעת" שרק תפגע בשיתוף פעולה גלובלי. למחרת הדגיש המשרד שסין שמה דגש שווה על פיתוח ועל ביטחון. הניסוח הזה חושף את הפער הבסיסי: בעוד עמק הסיליקון מדבר על סיכונים קיומיים דוגמת סוכן סורר שמשמיד את האנושות, הדאגה המרכזית של ההנהגה הסינית היא יציבות חברתית פנימית ואחיזת המפלגה הקומוניסטית בשלטון.

ספקנות לגבי AGI עצמו

ברקע הדברים עומדת עמדה סינית רחבה יותר: קובעי המדיניות בבייג'ינג מתקשים לקבל ברצינות קריאות להאטה שמבוססות על הגעה קרובה ל-AGI, פשוט כי הם ספקנים לגבי ההיתכנות ולוחות הזמנים של בינה כללית מלאכותית. כשהנחת היסוד שונה, סיכון קיומי מול איום על יציבות משטרית, גם המסגרת לשיתוף פעולה קורסת לפני שנבנתה.