טים או'ריילי: מעבדות ה-AI הגדולות בונות ארכיטקטורת שליטה, וזה יעלה להן ביוקר

יותר ממשקלים פתוחים

טים או'ריילי (Tim O'Reilly), שמלווה את תעשיית הטכנולוגיה עשרות שנים כמו"ל, משקיע הון סיכון ומארגן כנסים, מציע לבחון את חברות ה-AI לפי אמת מידה פשוטה: האם הן יוצרות יותר ערך ממה שהן קולטות לעצמן. לדבריו, המעבדות הגדולות נכשלות במבחן הזה. הוא מזהיר מפני ניסיון לכלוא משתמשים בתוך המוצרים שלהן, בדיוק כפי ש-Microsoft עשתה בשנות התשעים, ותומך בפתיחה מלאה של טכנולוגיית ה-AI.

או'ריילי מדגיש שרוב מי שמדברים היום על קוד פתוח ב-AI מתכוונים בפועל רק למשקלים פתוחים (open weights), כלומר חשיפת הפרמטרים המספריים של רשת הנוירונים. לדבריו, זו טעות להסתפק בזה. בשנות התשעים, בזמן שכולם התמקדו ברישיונות תוכנה, הוא התעקש שהעניין הוא ארכיטקטורת המערכת והשאלה האם היא מאפשרת השתתפות אמיתית. היום הוא דורש הפרדה נקייה בין המודל, שכבת התפעול (harness) והאפליקציה, כדי שמשתמשים ומפתחים יוכלו להטמיע לוגיקה משלהם ולא יהיו תלויים ביצרן אחד.

המודלים הגדולים לא מבינים מה אנשים רוצים

הטענה המרכזית של או'ריילי היא שהמעבדות הגדולות קוראות את העתיד לא נכון. הן בנויות על נרטיב שלפיו המודל הכי גדול והכי טוב הוא המפתח להצלחה, וממטבות מודלים כמו Claude למקרי שימוש ספציפיים. אלא שלדבריו, מקרי השימוש האלה לא בהכרח מתאימים למה שאנשים באמת צריכים. הוא מצביע על דיונים בקהילה שבהם נטען שמודלים מתקדמים כמו Fable ו-Sol נופלים דווקא ממודלים קטנים יותר במשימות כתיבה (יש לציין ש-Anthropic ו-OpenAI חולקות על כך). הפריצות במודלים שנחשבים לחזית הטכנולוגית (frontier AI) דוחפות את התעשייה הרחק מהצרכים של האדם הפשוט, ולכן הוא סבור שארה"ב עלולה להפסיד לסין, שמפיצה מודלים קטנים וזולים לכל אורך החברה ומאפשרת חדשנות חופשית.

סיכוני הסייבר נובעים מהמודלים הסגורים

בתגובה לדאגה המקובלת שקוד פתוח מאפשר לעקוף מגבלות אבטחה, או'ריילי דווקא הופך את היוצרות. לדבריו, כל אירועי אבטחת המידע שראינו עד כה הגיעו מהמודלים הסגורים והמתקדמים ביותר. לכן, סיכונים כמו פיתוח פתוגנים או מתקפות סייבר הם דווקא טיעון להאטת המודלים הגדולים, ולא סיבה להגביל מודלים עם משקלים פתוחים.

זיכרון פתוח מול הכליאה של מטא

או'ריילי מסרב לחזות את העתיד, אבל מציין שהעולם מתקדם בכיוון שקיווה לו. הוא מעלה תרחיש שבו המודלים הגדולים יהפכו למחשוב-על (mainframes), כלומר כלים לבעיות קשות במיוחד, בלי לחלחל לשאר חלקי החברה. במקביל, הוא מזכיר פרויקטים כמו Pi, שכבת תפעול פתוחה לסוכנים אוטונומיים (agentic). בארגון הלא-ממשלתי שלו, AI Disclosures Project, עובדים על רעיון לקונסורציום של זיכרון פתוח (open-memory). המטרה היא להתנגד לגישה של מארק צוקרברג, שמנסה לכלוא משתמשים באקוסיסטם של Meta בטענה שה-AI של החברה מכיר אותם הכי טוב. או'ריילי רואה בזיכרון הפתוח את התשובה למודל העסקי הזה.