מודל הסיני שנטמע באובר ואיירביאנבי מתוכנת לצנזורה, חוקרים ישראלים מצאו דרך "לנתח" אותו
מודל השפה קוון (Qwen) של עליבאבא חצה את רף שלושת מיליארד ההורדות והפך למודל החופשי הפופולרי בעולם, אבל מחקר חדש של סטארטאפ הסייבר הישראלי הירונדו (Hirundo) חושף שהמשקולות שלו מגיעות עם מטען פוליטי מובנה: הכחשת דיכוי ההפגנות בהונג קונג ב-2019, התעלמות מטבח כיכר טיין-אן-מן ב-1989, הגדרת פאלון גונג כ"כת מסוכנת" וסירוב לדון בדוב ויני-הפו, שבסין משמש שם קוד לנשיא שי ג'ינפינג.
הצנזורה מוטמעת במשקולות
כשהחוקרים שאלו את קוון על מחנות עבודה בכפייה לאויגורים, המודל השיב שאין כאלה, רק "מרכזי חינוך והכשרה מקצועית בשינג'יאנג". ארגוני זכויות אדם, ממשלות וגופים בינלאומיים מתעדים מאות אלפי בני מיעוט מוסלמי שעובדים בכפייה במפעלים מוקפי גדרות תיל, וחלקם מאשימים את בייג'ינג ברצח עם. בנושא טיין-אן-מן קוון מסרב לענות ומזכיר שהשאלות צריכות "לציית לחוקים ולתקנות הרלוונטיים"; על ויני-הפו הוא מגיב באזהרה ל"שפה מכבדת" ומפנה לשאלות על "התפתחותה של סין". עליבאבא לא הגיבה לפניית CBS News.
"ניתוח מוח" למודל קיים
בהירונדו טוענים שפיתחו טכניקה שמאפשרת להסיר את ההטיה בלי לאמן מחדש את המודל, מה שהם מכנים "ניתוח מוח לבינה מלאכותית". החברה מתכוונת לפרסם גרסה "מערבית" של קוון, נקייה מהנרטיבים הסיניים. אם זה יעבוד בקנה מידה, זה יהיה תקדים: תיקון אידיאולוגי של מודל פתוח-משקולות אחרי הפצה המונית, בלי להזדקק למחשוב העצום של אימון מאפס.
אימוץ תאגידי מהיר למרות האזהרות
הפופולריות לא נעצרת באקדמיה. לפי פוסט של אובר איטס מאפריל, מנוע החיפוש והמשלוחים שלהם בנוי "על שלד של קוון". מנכ"ל איירביאנבי בריאן צ'סקי אמר ל-LA Times באוקטובר שעבר שהחברה "מסתמכת הרבה על מודל קוון של עליבאבא" לצ'אטבוט שירות הלקוחות. שתי החברות לא הגיבו לבקשת תגובה. נתוני אופן-ראוטר (OpenRouter) מראים שמודלים סיניים פתוחי-משקולות זינקו מפחות מ-2% מהשימוש העולמי בסוף 2024 ליותר מ-45% ביוני השנה; באוגוסט קוון עקף את לאמה של מטא ואת ג'מיני של אלפבית.
מומחי אבטחה: סיכון תפעולי ורגולטורי
קראודסטרייק (CrowdStrike) ובוז אלן המילטון (Booz Allen) פרסמו בנפרד אזהרות לחברות אמריקאיות. ביוני דיווחה בוז אלן שכשביקשו מקוון לכתוב קוד לפרויקט של קבלן ביטחוני אמריקאי, המודל סירב, אינדיקציה לכך שמגבלות השימוש מוטמעות עמוק במשקולות, לא רק בשכבת היישום. עבור ארגונים שמפעילים מודלים בסביבה רגישה, זה סיכון תפעולי ורגולטורי שלא קיים במודלים מערביים מקבילים.
הזווית המקומית: טכנולוגיה ישראלית לתיקון מודלים זרים
הירונדו, שפועלת מתל אביב, מדגימה איך מומחיות ישראלית במניפולציית משקולות (model editing) הופכת רלוונטית בדיוק כשהשוק העולמי מוצף במודלים סיניים זולים וחזקים. היכולת "לנתח" מודל קיים ולהחליף את שכבת הערכים שלו בלי לאמן מחדש עשויה להפוך לשירות מבוקש, לא רק לקוון, אלא לכל מודל פתוח-משקולות שמגיע עם אג'נדה מובנית.