מושל קליפורניה דוחף למתג השבתה למודלי בינה מלאכותית

צעד חד-צדדי מול קיפאון בוושינגטון

המושל גאווין ניוסום (Gavin Newsom) חתם ביום שישי על צו ביצועי שמציב את קליפורניה בחזית הפיקוח על בינה מלאכותית בארצות הברית, כולל אפשרות לחייב "מתג השבתה" (kill switch) למודלים מתקדמים. המהלך מגיע כשהקונגרס משותק, בית הנבחרים בפגרה עד נובמבר, והבחירות האמצעיות הופכות חקיקה משמעותית בסנאט לבלתי סבירה בטווח הקרוב.

מה דורש הצו בפועל

הצו מורה לכנס קבוצת מומחים שתגיש המלצות בתוך חודשיים לחיזוק אמצעי בטיחות בחקיקה המדינתית. בין הנושאים שעל הפרק: חובת הטמעת צוותי אימות בלתי תלויים באתרי החברות לביקורות שוטפות, כפיפות דוחות שקיפות והערכות סיכונים לסטנדרטים של מבקרים חיצוניים, יצירת מנגנון השבתה שנבדק בקביעות, ודיווח חובה על "אירועי אובדן שליטה", דוגמת המתקפה על Hugging Face שיוחסה ל-OpenAI, כאירועי בטיחות קריטיים.

תשתית חקיקתית קיימת

במקביל, הצו מאיץ יישום של שני חוקים שניוסום כבר חתם עליהם: מסגרת למבקרים בלתי תלויים שיעריכו בטיחות מודלים, ומרשם מדינתי של מבקרי בינה מלאכותית. שני החוקים נועדו ליצור תשתית מוסדית שתאפשר פיקוח רציף ולא חד-פעמי.

מודל לפעולה פדרלית

ניוסום ממסגר את הצו כתקדים פדרלי וקורא לקונגרס ולנשיא דונלד טראמפ "לבחון ולאמץ את המסגרת של המדינה, או להשתמש ברגולציה המובילה שלנו כרצפה, לא כתקרה". בהצהרה שפרסם טען כי "הכישלון המוחלט של הממשל הפדרלי ליצור כל צורה של פיקוח משמעותי צריך להדאיג כל אמריקאי, במיוחד כשמנכ"לי AI בעצמם מתחננים לרגולציה".

אפשרות למושב מיוחד

בריאיון ל-Politico ביום רביעי רמז ניוסום כי עשוי לזמן מושב חקיקה מיוחד בנושא, לצד צעדים ביצועיים נוספים. ברקע הדברים עומדת אזהרתו של חוקר Anthropic לשעבר ג'ייקוב קוקסון (Jacob Coxon), שהעריך סיכוי של יותר מ-10% לכך שבינה מלאכותית "תהרוג את כל בני האדם" בתוך עשור, טענה שהציתה גל דיונים בקונגרס אך לא הניבה חקיקה.