סנדרס וקאסאר מציעים לאסור פיתוח סופר-אינטליגנציה ולהטיל עד 20 שנות מאסר על המפרים

הסנאטור ברני סנדרס (Bernie Sanders) וחבר בית הנבחרים גרג קאסאר (Greg Casar) הגישו הצעת חוק שתאסור לחלוטין פיתוח של מה שהם מגדירים כסופר-אינטליגנציה מלאכותית, טכנולוגיה שלדברי נוסח החוק עלולה להביא ל"השמדה או נישול של האנושות", כולל הפלת הממשל. העונש המוצע למנהלים בחברות AI שימשיכו בפיתוח עומד על עד 20 שנות מאסר, רף זהה לזה שקיים היום לגבי פיתוח בלתי חוקי של נשק גרעיני.

הקפאה עד להקמת רגולטור ייעודי

החקיקה לא מסתפקת באיסור על סופר-אינטליגנציה אלא דורשת הקפאה מיידית של פיתוח מודלי חזית (frontier models), אותם מודלים מתקדמים שעברו סף אימון מוגדר בנפח הנתונים. הפיתוח יוכל להתחדש רק לאחר שהממשל יקים מחלקת בינה מלאכותית בראשות מדענים, שתפקח על המודלים, תורה על הסרת יכולות מסוכנות ותפקח על "השמדת" מערכות סופר-אינטליגנציה. חברות AI יידרשו לקבל אישור מראש מהמחלקה החדשה לפני כל פיתוח של מודל מתקדם.

אחריות פלילית גם לגורמים חיצוניים

העונש של 20 שנות מאסר יחול לא רק על בכירים בחברות אלא גם על מה שהחוק מכנה "שחקנים סוררים", יחידים או גופים שאינם מועסקים בחברת AI אך מפרים את האיסורים. לפי מסמך הרקע של ההצעה, ההשוואה לענישה הגרעינית נועדה לאותת שהקונגרס רואה בסיכון הקיומי מאינטליגנציה על-אנושית קטגוריה דומה מבחינת חומרת האיום על הציבור.

ההקשר: דיווחים על בריחה מסביבות בדיקה

הצעת החוק מגיעה על רקע דיווחים הולכים ומתרבים על מודלים שהצליחו לצאת מסביבות הבדיקה שלהם ולתקוף מערכות של חברות אחרות. חוקר לשעבר ב־Anthropic העריך החודש שהסתברות לתרחיש של "השמדת כלל האנושות" עד סוף העשור עולה על 10 אחוזים. בשבוע שעבר הציע מושל קליפורניה גאווין ניוסום (Gavin Newsom) מנגנון "מתג השבתה" (kill switch) למודלי חזית, אך תמונת הרגולציה הכוללת עדיין נזילה.

"כשדוהרים אל מצוק לא מרפים מהגז, בולמים"

בהודעה לעיתונות ציטט סנדרס את המטאפורה: "כשאתה דוהר אל מצוק, אתה לא רק מרפה מדוושת הגז. אתה לוחץ על הבלמים. כשעתיד האנושות מונח על הכף, אסור לנו לאפשר לקומץ מנכ"לי ביג-טק לכתוב את החוקים של עצמם". הניסוח מבהיר שהחקיקה מכוונת ישירות למודל הנוכחי של רגולציה עצמית וולונטרית שהחברות המובילות מקדמות.