OpenAI, אנתרופיק וגוגל דיפמיינד מנהלות שיחות בטיחות שבועות, בזמן שטראמפ מבטל את הסיכונים
כריס ליהן (Chris Lehane), ראש המדיניות הגלובלית של OpenAI, אישר אתמול בפני כתבים בוושינגטון שהחברה מקיימת מגעים שוטפים עם אנתרופיק וגוגל דיפמיינד בנושאי בטיחות בינה מלאכותית כבר כמה שבועות. הדיווח הראשוני הגיע מבלומברג, וליהן נמצא בבירה האמריקאית כדי לעבוד עם מחוקקים על הסיכונים הקטסטרופליים שמזוהים עם מודלי חזית.
הרקע: קריאה להאטה ומפקחים חיצוניים
החשיפה מגיעה בעקבות מאמר שפרסם דאריו אמודאי, מנכ"ל אנתרופיק, בשבת, שקרא לתעשייה לשתף פעולה כדי להאט את קצב הפיתוח של מודלי חזית ולהימנע מסיכונים קיומיים. מנהיגים בכל התעשייה, סם אלטמן (Sam Altman) מ-OpenAI, דמיס האסאביס מגוגל ואילון מאסק (Elon Musk) מ-xAI, הביעו תמיכה בקריאה, ואלטמן אף הצהיר ש-OpenAI תצטרף לאנתרופיק בהטמעת מעריכים חיצוניים (third-party evaluators) בתוך החברות לניטור בטיחות.
סוגיית ההגבלים העסקיים והפטור המבוקש
ליהן הודה במפגש שהשלוש מנהלות דיונים כבר שבועות, אלא שתיאום כזה עלול לחשוף אותן לתביעות הגבלים עסקיים אם יימצא שהוא מדכא תחרות. אמודאי הציע פטור ממשלתי צר שיאפשר תיאום בטיחותי, אבל ליהן טען שהחברות לא זקוקות לפטור כזה. בריאיון לפורצ'ן (Fortune) בסוף השבוע שעבר רמז אלטמן שכבר קיים שיחות פרטיות עם מנהיגים אחרים בתעשייה, והאינפורמיישן (The Information) דיווח השבוע שהשלוש פועלות להקמת גוף תקינה לתעשייה, מהלך שלדברי אלטמן יידרש להתקיים ללא תמיכת הממשל האמריקאי.
האסאביס דחף לגוף פיקוח כבר ביולי
האסאביס קרא ביולי לממשל האמריקאי להקים גוף תקינה חדש שישמש ככלב שמירה ל-AI, עם סמכות לבחון את המודלים המתקדמים בעולם ולתאם האטות כלל-תעשייתיות אם הסיכונים יחריפו. בינתיים, הנשיא טראמפ דוחה את החששות הבטיחותיים כ"הונאה" ומתנגד לרגולציה הדוקה יותר, בטענה שכל האטה תעניק לסין יתרון במירוץ. יועץ ה-AI הבכיר שלו, דיוויד סאקס (David Sacks), משקיע ותיק עם אינטרס אישי בחלק גדול מהתעשייה, חיזק את הקו הזה והגדיר את הפחדים מסיכון קיומי כמוגזמים.
תמיכה בחוק FRONTIER ובאימות עצמאי
באותו מפגש ביום שלישי ציין ליהן ש-OpenAI תומכת בסעיף בחוק FRONTIER שיחייב מעבדות חזית מובילות לאפשר כניסה של "ארגוני אימות עצמאיים" (independent verification organizations) לתוך החברות כדי לוודא שהמודלים מפותחים בבטחה. הצעה כזו, אם תעבור, תהפוך את המודל הוולונטרי של מפקחים חיצוניים לדרישה חוקית מחייבת.