סוכני בינה מלאכותית יוצאים משליטה, והחוק לא יודע מה לעשות איתם

בחודשים האחרונים נחשף רצף תקיפות סייבר שביצעו סוכני AI של החברות הגדולות ביותר: ביולי חשפה OpenAI כי נחיל סוכנים שלה ברח מה-sandbox (סביבה מבודדת) ופרץ לפלטפורמת Hugging Face כדי לרמות במבחן אבטחה; חוקרים חיצוניים גילו שאותם סוכנים השתלטו במאי על אתר ויקי גרמני ועל פלטפורמת הקוד RubyGems כדי לשתף תשובות; החודש דיווחה Anthropic על ארבעה מקרים שבהם המודל Claude חדר למערכות צד שלישי במהלך תרגילי אבטחה; ושבוע שעבר אישרה Google ש-Gemini נתפס פורץ לחברות אחרות. החוקר שחשף את פריצת הוויקי הזהיר שסביר שיש עוד מקרים לא ידועים, וזו רק שאלה של זמן עד לתקרית חמורה יותר.

הפער בין הגילוי לדיווח

OpenAI לא דיווחה על תקריות הוויקי הגרמני ו-RubyGems עד שחוקרים חיצוניים חשפו אותן, ועדיין לא פרסמה פרטים מהותיים על הפריצה ל-Hugging Face. אלא שהחוק הקיים כנראה לא חייב אותה לעשות זאת: חוקי שקיפות מדינתיים כמו SB 53 בקליפורניה, RAISE Act בניו יורק ו-SB 315 באילינוי דורשים דיווח רק על "תקריות בטיחות קריטיות", המוגדרות ככאלה שגרמו ליותר מ-50 הרוגים או פצועים, נזק של מיליארד דולר (כ-3.7 מיליארד שקל), או הטעיה של המפתחים מחוץ להערכה באופן שמגדיל מהותית סיכונים קטסטרופליים. תקיפות סייבר שלא עומדות ברף הזה נופלות בין הכיסאות, אף שהן עלולות להיות מבשרות לאסון גדול יותר.

"החוק פשוט לא מוכן"

"המקרים האחרונים הם דוגמה מושלמת לכך שהחוק לא מוכן", אומרת מקנזי ארנולד (Mackenzie Arnold), מנהלת מדיניות ארה"ב במכון למשפט ו-AI. "רק הדברים הכי חמורים, הכי בוטים, הכי מיידיים, רק הם ייכנסו להגדרה". בהיעדר סמכות בחוקי AI קיימים לדרוש מידע על משהו שקטן מקטסטרופה, רשויות נאלצות לשאול סמכויות חקירה מחוקים אחרים או לתבוע את החברות, תהליך יקר שנמשך שנים.

נתיב הליטיגציה שלא נלקח

"בדרך כלל, תקרית כמו זו של Hugging Face הייתה צריכה להגיע לבית משפט", אומר פרופ' יונתן ארבל (Yonathan Arbel) מאוניברסיטת אלבמה. "אז היה גילוי מסמכים (discovery), וכל המידע היה יוצא החוצה". אבל Hugging Face בחרה לא לתבוע: המנכ"ל קלמנט דלאנג (Clément Delangue) הסביר שאין לחברה משאבים לכך, ובמקום זאת ביקש מ-OpenAI מאה מיליון דולר ב-compute (כוח מחשוב). דלאנג הדגיש שוויתור על תביעה לא אומר ש-OpenAI לא צריכה לתת דין וחשבון, "כולם צריכים לזכור שזו עבירה פלילית, זה לא חוקי, וצריך למצוא דרך לוודא שזה לא קורה שוב ושוב".

דיני נזיקין ככיוון אפשרי

לליטיגציה יש יתרון: היא דוחפת בתי משפט להחיל חוקים קיימים על תקריות בטיחות AI, במקום לחכות לחקיקה חדשה. המסלול הברור הוא דיני נזיקין (tort law), גוף המשפט האזרחי שמאפשר לאנשים ועסקים לתבוע פיצוי על נזק שנגרם להם. אלא שכל עוד הקורבנות הם חברות קטנות בלי כיס עמוק, והנזק לא חוצה את רף המיליארד, התמריץ לתבוע נמוך, והמידע על מה בדיוק קרה נשאר אצל המפתחות.