שלושה חוקרי AI כבדים יוצאים נגד סגירת השוק, ולא מסכימים על כמעט כלום

האויב בשער

כנס Ai4 בלאס וגאס הפך לבמה לויכוח פנימי בין שלושה מהחוקרים המובילים בתחום, כשהנושא המרכזי היה עתיד הפתיחות במודלי בינה מלאכותית. ג'פרי הינטון (Geoffrey Hinton), זוכה פרס נובל, לי פיי-פיי (Fei-Fei Li), מנכ"לית ומייסדת שותפה של World Labs, ואנדרו נג (Andrew Ng), מייסד שותף של Coursera, הסכימו על עיקרון אחד: לא כדאי שמעט חברות ישלטו בקצב ההתקדמות הטכנולוגית. הטיעון שלהם נשען על הקבלה לשוק מערכות ההפעלה לניידים, שם Apple ו־Google יצרו מציאות שבה שחקנית שולטת יכולה להשפיע על מה שנבנה על הפלטפורמה ולעכב חדשנות. נג התבטא נגד יצירת שומרי סף כאלה בתחום הבינה המלאכותית, והזהיר שמודל של שליטה מרוכזת יגביל את היכולת של כולם לגשת לטכנולוגיה.

מי מרוויח מרגולציה

ההיגיון הכלכלי מאחורי החשש פשוט: לחברות יש אינצנטיב להגן על היתרון התחרותי שלהן, וחלק מהדרך לעשות את זה היא להשפיע על הכללים שמרסנים את התעשייה. התוצאה האפשרית היא שוק שבו רק החברות הגדולות ובעלות ההון העמוק ביותר, שיש להן את המשאבים לבנות את המערכות המתקדמות ביותר, שורדות. הפתרון של נג היה לשמור על מספר ספקים שמתחרים זה בזה, במקום לאפשר למעט שחקנים להשתלט על השטח, ולקדם פתיחות כדי להעביר את הטכנולוגיה לידיים של כמה שיותר אנשים.

קוד פתוח לעומת משקלים פתוחים

הינטון, לעומת זאת, סירב להשוות בין קוד פתוח (open-source) לבין משקלים פתוחים (open-weights), שני מושגים שנהוג לבלבל ביניהם בשיח התעשייתי. קוד פתוח מאפשר לבדוק את השורות ולאתר באגים, ואילו משקלים פתוחים משמעם שמאמנים מודל ענק ואז משחררים לציבור רק את הפרמטרים שלו. הוא התנגד למודל השני כי הוא מוריד את המחסום לכניסה: מי שמקבל מודל יסוד (foundation model) שעלה הון תופת לאימון, יכול להוציא הרבה פחות כסף כדי לכוון אותו למטרות פסולות כמו מתקפות סייבר. עם זאת, הינטון הודה שמבחינה מעשית המערכה הזו כבר הופסדה. המחסום של עלות אימון מודלי יסוד נעלם, ומודלים במשקלים פתוחים הם כבר עובדה קבועה בשטח.

כוח רך ומלחמת מודלים

ההכרה במציאות לא גרמה להינטון לזנוח את החששות. הוא הדגיש שהבינה המלאכותית תמשיך להתקדם, מה שלדבריו הוא ברובו חיובי ויכול לשפר את הפרודוקטיביות, החינוך והרפואה, אך הוסיף שאי אפשר להדוף בקלות את החשש ממעשים של מערכות חכמות מאיתנו, ושאי אפשר להצמיד תווית של מפיץ פחד לכל מי שמעלה אותם. נג, מצידו, הזיז את הדיון לזווית גיאופוליטית. לדבריו, השאלה המרכזית היא לא רק אם מודלים פתוחים מסוכנים, אלא מי שולט בגישה ובשוק. הוא הזהיר שמודלים במשקלים פתוחים מסין שיתפשטו באסיה, באפריקה ובעולם המתפתח יכולים להשפיע על האופן שבו מיליארדי בני אדם נחשפים לרעיונות על דמוקרטיה וזכויות אדם, וקרא לעודד תחרותיות אמריקאית ובינה מלאכותית בקוד פתוח, מתוך הבנה שהטכנולוגיה הזו היא מקור משמעותי לכוח רך.