פאנל האו"ם מזהיר: אי אפשר לחכות לוודאות מדעית לפני שמגבילים סוכני AI

העיקרון הזהיר חוזר למרכז הבמה

פאנל מדעי עצמאי של האו"ם קובע שממשלות חייבות לפעול כבר עכשיו כדי לרסן סוכני AI (software agents) שהולכים ונעשים מסוגלים יותר, גם בלי להמתין להבנה מלאה של הסיכונים. הדוח הראשון מסוגו של "הפאנל הבינלאומי העצמאי למדענים על AI", הגוף המדעי הגלובלי הראשון שהאו"ם הקים לנושא, מתפרסם השבוע בזמן שמנהיגים מתכנסים בניו יורק לעצרת הכללית, ובייג'ין ו-וושינגטון נערכות לשיחות בילטרליות על בינה מלאכותית. מזכ"ל האו"ם אנטוניו גוטרש (António Guterres) כבר קרא בשבוע שעבר לשיתוף פעולה בינלאומי מול איומי ה-AI, והזהיר מפני "מרוץ לתחתית בבטיחות AI".

תקריות מתרבות מאז הפריצה ל-Hugging Face

הדוח מתייחס לפריצה שדווחה מוקדם יותר השנה ב-Hugging Face, ומציין שמאז תועדו תקריות נוספות בחברות בהן OpenAI, Anthropic, Google ו-Meta. מדובר לא רק בפריצות למערכות החברות עצמן, אלא גם במתקפות על יעדים בעולם האמיתי ובנחילים של סוכנים אוטונומיים שהשתלטו על לוחות מודעות מקוונים. הפאנל טוען שסיכון אובדן שליטה (loss-of-control risk) הוא בדיוק סוג הבעיה שעבורה נוסח "העיקרון הזהיר" (precautionary principle) עוד ב-1992, בהצהרת ריו של האו"ם על סביבה ופיתוח: כשנזק פוטנציאלי עלול להיות קטסטרופלי או בלתי הפיך, אי-ודאות מדעית אינה תירוץ לעיכוב אמצעי הגנה.

מה זה אומר בפועל

המשמעות המעשית היא קריאה להקצות משאבים ותשומת לב רבים יותר לניהול סיכונים מתעוררים מ-AI מתקדם, לצד תיאום בינלאומי הדוק יותר על בטיחות ואחריותיות (accountability), גם כשמדינות נוקטות גישות משפטיות שונות. הפאנל מדגיש שאין צורך לחכות למדענים שיבססו בדיוק איך או למה מתרחשות תקרות כאלה כדי להתחיל ליישם הגנות חזקות יותר. זו הפעם הראשונה שהעיקרון הסביבתי הוותיק מוחל רשמית ברמה גלובלית על סוכני תוכנה אוטונומיים, והוא עשוי לעצב את המסגרת הרגולטורית הבאה שיצמחו ממנה תקנים מחייבים.