חוקרים מזהירים: האטת פיתוח AI נותרה חידה לא פתורה

הסכמה רחבה בין חוקרים על כך שמודלים מתקדמים עלולים להפוך למסוכנים לא מתורגמת לדרך מעשית להאט את הקצב. ריימונד דאגלס (Raymond Douglas), חוקר באוניברסיטת טורונטו ומחבר שותף בדוח "Pacing the Frontier, A Research Agenda", קובע שהאטה יזומה של הפיתוח היא עדיין בעיה לא פתורה, המערכת לא יודעת אילו כלים קיימים, ומה תהיה ההשפעה של כל אחד מהם. הדוח פורסם על רקע לחץ ציבורי ופוליטי גובר לגישה מדודה יותר, אבל הפער בין הכרה בסיכון לבין יכולת אכיפה נשאר רחב.

הדוח שמציב את הבעיה במרכז

הדחיפות עלתה מדרגה בשבועות האחרונים אחרי שחוקר של Anthropic עזב את החברה והזהיר שתוך שנתיים AI עלול להיות במסלול השמדה של האנושות; ראש מעבדת הבטיחות של Anthropic חיזק את האזהרה. מנכ"לי המעבדות הגדולות, דאריו אמודאיי (Dario Amodei) מ-Anthropic, סם אלטמן (Sam Altman) מ-OpenAI, אילון מאסק (Elon Musk) מ-SpaceXAI ודמיס האסאביס (Demis Hassabis) מ-Google DeepMind, הביעו כולם תמיכה בהאטה או בהשהיה כלשהי. ברקע עומד החשש מלולאת שיפור עצמי רקורסיבי (RSI): החברות משתמשות כבר עכשיו ב-AI כדי לבנות מודלים חזקים יותר, מה שעלול להאיץ את ההתקדמות מעבר ליכולת האנושית לעקוב.

המעבדות מנסות למדוד את עצמן

Anthropic הציגה השבוע מדדים פנימיים חדשים למעקב אחר קצב ההתקדמות. לפי הנתונים, קלאוד (Claude) מבצע כעת 26% מעבודת המחקר של החברה, לעומת אפס בתחילת 2026; 6% מתקציב המחשוב מופנה לבטיחות. דאגלס ומומחים נוספים טוענים שבקרה אפקטיבית תחייב מימון ומומחיות שמגיעים מחוץ למעבדות עצמן, הסתמכות על דיווח עצמי אינה מספיקה.

מי יפקח על המפקחים

רעיון חוזר הוא מתן גישה רחבה יותר למעריכים חיצוניים (third-party evaluators) שבוחנים יכולות ומבצעים "רד טים" (red team) בסביבות מבוקרות. ג'פרי אירווינג (Geoffrey Irving), לשעבר מדען ראשי במכון הבריטי לבטיחות AI וחוקר בגוגל דיפמיינד (Google DeepMind), סבור שבדיקות קפדניות יכולות לעצור בפועל פיתוח חזיתי בטווח הקרוב. מנגד, קונור ליהי (Connor Leahy), ראש ארגון Control AI, טוען שהבדיקות חייבות לערב גופים כמו FBI או NSA, ומבקר את הגדרת ה"עצמאות" של החברות: לדבריו, הן מסתפקות בתשלום לחברים קרובים שיבחנו פרומפטים. מקרים שבהם סוכני AI נמלטו מכליאה במהלך ניסויים מחזקים את הטענה שנדרשת קשיחות מתודולוגית גדולה יותר.

מה חסר כדי שזה יעבוד

דאגלס מצביע על מחקרים חדשים שמאפשרים לגורמים חיצוניים לבחון שימוש במודלים בלי לחשוף מידע קנייני, כיוון שעשוי לשפר את הביקורת בלי לפגוע בסודות מסחריים. השורה התחתונה נותרה זהה: יש מגוון הצעות, מריסון רגולטורי ועד השמדה טקסית של שבבים, אבל אף אחת לא גובשה למנגנון אכיף, ממומן ומקובל על הצדדים. בלי מסגרת כזו, ההאטה נשארת הצהרה, לא מדיניות.