ראשי מעבדות הבינה המלאכותית מדברים על האטה, אבל הפרטים חסרים

הדיון שמתחולל מאחורי הקלעים

השבוע התלקח ויכוח פומבי סביב השאלה אם תעשיית ה-AI באמת מוכנה להאט את הקצב. דאריו אמודאי, מנכ"ל Anthropic, פרסם תוכנית בשם "Pace the Frontier" שקוראת להאטה מבוקרת בפיתוח מודלים מתקדמים, בעוד ג'נסן הואנג (Jensen Huang), מנכ"ל Nvidia, הדהד את טענת הנשיא טראמפ לפיה התגובה הציבורית נגד AI היא מתיחה ורגולציה מיותרת. בפרק האחרון של פודקאסט Equity של TechCrunch, אנתוני הָאה (Anthony Ha), שון או'קיין (Sean O'Kane) וקירסטן קורוסק (Kirsten Korosec) ניסו להבין אם מנכ"לים כמו אמודאי וסם אלטמן (Sam Altman) מ-OpenAI רציניים בכוונותיהם.

ספקנות לגבי הפרטים החסרים

או'קיין הודה שהשתכנעותו מהשבוע הקודם, שלפיה אין סיכוי להאטה כלשהי, התהפכה כששמע את אמודאי, אלטמן ואפילו אילון מאסק (Elon Musk) במידה מסוימת מדברים על הנושא. אבל הוא נשאר ספקן: התוכנית של אמודאי, שפורסמה בפוסט בבלוג, דלה בפרטים. חסרים לא רק נימוקים קונקרטיים לסכנות שהם מצביעים עליהן, אלא גם הגדרה ברורה למה בכלל מתכוונים ב"להאט". בלי מפרט טכני או אבני דרך מדידות, קשה להבחין בין הצהרת כוונות לבין מהלך יחצני.

קונצנזוס מהיר מדי

הָאה ציין שעוד לפני פרסום הפוסט של אמודאי, גורמים רבים בתעשייה כבר אימצו גרסאות דומות של הרעיון. ההצעות האלה מגיעות מקהילת בטיחות ה-AI ומבשלות זמן מה, אבל המהירות שבה התגבש סביבן קונצנזוס מעוררת חשד. מצד אחד, זה מעודד לראות הסכמה רחבה; מצד שני, זה מרמז שהצעדים לא יהיו דרמטיים במיוחד, אחרת לא היו זוכים לתמיכה כה גורפת.

חשש מקרטל והצעות מעורפלות

קורוסק הזהירה שקונצנזוס כזה יכול להיות התחלה של קרטל. היא הדגישה שהדיון נוגע למעבדות חזית (frontier labs) בלבד, הגדרה צרה וחשובה. הרעיון הכללי מדבר על מעריכים חיצוניים בלתי תלויים שיעבדו בתוך חברות כמו Anthropic או OpenAI וינטרו פרקטיקות בטיחות ואירועים, אלא שהפרטים סביב המנגנון הזה עמומים. הצעה נוספת מדברת על תיאום בטיחות בין חברות AI גדולות במדינות דמוקרטיות, גם כאן בלי פירוט של איך זה יעבוד בפועל.

רגולציה ובחירת צרכן, שניהם חלשים

או'קיין הטיל ספק ביכולת של רגולציה קיימת וכוחות שוק לספק הגנה מספקת. הממשל הפדרלי הנוכחי, לדבריו, לא להוט לאכוף רגולציה באופן כללי, קל וחומר בתחום הספציפי הזה. גם מנגנון בחירת הצרכן לא עובד: אין מספיק תחרות אמיתית שתגרום לחברה לשלם מחיר אם תפעל בחוסר אחריות, ביטולים המוניים או נטישת משתמשים פשוט לא קורים כשמדובר במודלים שהשוק נשלט בידי מעט שחקנים דומיננטיים.