גארי טאן: מעבדות אמריקאיות צריכות לזקק מודלים סגורים, לא לחכות לרגולטור

התגובה של טאן להאשמות של אנתרופיק

מנכ"ל Y Combinator גארי טאן (Garry Tan) לא מתרגש מהקריאות של Anthropic לפעול נגד זיקוק (distillation) סיני של מודלי חזית. בראיון ל-CNBC השבוע אמר טאן שהיה "לא עושה כלום", ובמקום זה מציע משטר זיקוק אמריקאי: מעבדות משקלים פתוחים קטנות יותר בארה"ב ישתמשו באותן טכניקות אימון על מודלי החזית האמריקאיים, כדי לייצר חלופות פתוחות שלא מגיעות מסין. זיקוק, למי שלא מכיר, הוא תהליך שבו מודל אחד מתשאל באופן אינטנסיבי מודל אחר כדי ללמוד את דפוסי החשיבה שלו; זו פרקטיקה מקובלת ולגיטימית בתעשייה. אנתרופיק, מצידה, פרסמה השבוע דוח שני המאשים מעבדות סיניות ב"מתקפות זיקוק בלתי חוקיות", הסתרת זהות, הונאה וגניבת הרשאות, והמנכ"ל דאריו אמדיי (Dario Amodei) כבר קרא פומבית לרגולטורים האמריקאיים להתערב.

הטיעון הכפול: שימוש הוגן והיסטוריה של איסוף נתונים

טאן מבהיר שהוא לא בעד גניבת הרשאות; הוא רוצה גישה "בדלת הקדמית". הטיעון שלו מורכב משני ראשים: ראשית, זו חריגה לאפשר למעבדות סגורות להכתיב מה לקוחות עושים עם המידע שהמודלים שלהן מחזירים. שנית, אותן מעבדות קנייניות לא ביקשו רשות כששאבו ידע אנושי בהיקף עצום, כולל חומר המוגן בזכויות יוצרים, כדי לאמן את המודלים שלהן. "שליטה במה שמשתמשים עושים עם קריאות API למודלים סגורים מרגישה מגבילה, ויש תפקיד לממשלה בנרמול העובדה שגישה לבינה שאומנה על נתוני גישה ציבורית רחבה צריכה להיות בעצמה יותר סוג של מוצר ציבורי מאשר משהו נעול מאחורי תנאי שירות מגבילים", אמר לטק-קראנץ' (TechCrunch).

איזון בין מעבדות חוד לחזית למשקלים פתוחים

טאן, שמגדיר את עצמו כמשתמש AI כבד עד כדי "פסיכוזת סייבר", רוצה לראות שיווי משקל. "הן בחזית ודוחפות אותה קדימה. אנחנו רוצים שזה יהיה בר-מימון, ומודל עסקי מעולה לאורך זמן", אמר ל-CNBC. "אתה רוצה מודלי משקלים פתוחים שייתנו לאנשים חופש וגישה". מבחינתו, האיזון הזה אפסי: מעבדות החזית מממנות את הפריצות המדעיות, המשקלים הפתוחים מפזרים את הכוח.

תרחיש הבלהות: מונופול בינה מלאכותית יחיד

תרחיש יום הדין האמיתי, לדבריו, אינו זיקוק סיני אלא ריכוז כל עוצמת החזית בידי ספק קנייני יחיד. "תרחיש הבלהות, תרחיש יום הדין של AI, הוא שיש רק חברה אחת. יש לה את הגישה הכי טובה להון. יש לה את חוקרי ה-AI הכי טובים. היא בורחת עם זה ופתאום יש חברה אחת שהיא מונוליטית. וזה יהיה רע". במילים אחרות: טאן מעדיף תחרות פרועה, כולל זיקוק הדדי, על פני מונופול שסוגר את השוק מאחורי חומות תשלום ותנאי שירות.