מוסובי משיקה מודל החלטה קל משקל למודרציה בזמן אמת

מודל החלטה במקום מודל שפה

מוסובי (Musubi) הכריזה ביום שלישי על PolicyLM-1.7B, מודל החלטה (decision model) במשקל 1.7 מיליארד פרמטרים, שפותח במיוחד למודרציית תוכן בזמן אמת ומשוחרר עם משקולות פתוחות. בניגוד למודל שפה רגיל שמייצר טקסט, מודל החלטה מוציא הסתברויות לתוצאה מוגדרת מראש; במקרה הזה פסק בינארי פשוט: התוכן נכנס לקטגוריה או לא. ההגבלה הזו מאפשרת למודל לרוץ מהר וזול יותר מ-LLM מלא, תוך שמירה על הגמישות של ארכיטקטורת טרנספורמר.

מדיניות באנגלית פשוטה, בלי אימון מחדש

הייחוד של PolicyLM-1.7B הוא היכולת לקבל מדיניות תוכן הכתובה באנגלית פשוטה (plain English) וליישם אותה על הודעות בפחות מ-50 מילישניות. המערכות שמפעילות היום מודרציה ברוב הפלטפורמות מבוססות על מסווגים (classifiers) ייעודיים, מהירים וזולים, אבל נוקשים: כל שינוי מדיניות דורש אימון מחדש ואיסוף דאטה מסומן. המודל של מוסובי אמור לתת מהירות ועלות דומות, אבל עם הגמישות של LLM מודרני: מדיניות מורכבת מיושמת בלי אימון מיוחד, וכשהמדיניות משתנה, אין צורך לאמן מחדש. מנהלי מוצר יכולים לעדכן את הכללים ולראות תוצאות מיידית.

עניין מוקדם במודלים של החלטה

העניין במודלי החלטה התפרץ בספטמבר עם השקת Jev של TypeSafe AI, ואחריה מודלים מתחרים של OpenAI ואמזון. השותף המייסד וסמנכ״ל AI של מוסובי, פיליפ ינקוביץ׳ (Filip Jankovic), אומר שהעניין שלו בתחום קדם ל-Jev ומגיע מפרויקט 2024 בשם GLiNER, מודל כללי לזיהוי ישויות בשם (Named Entity Recognition) שיישם טכניקות דומות. ובכל זאת, מוסובי לא נרתעת מההשוואה: בהכרזה נכתב במפורש שמי שהתעניין ב-Jev ימצא ב-PolicyLM-1.7B אותו סוג מודל, מכוון ספציפית למודרציה, שאפשר להריץ לבד.

מסוכני AI לבני אדם

מקרה השימוש המוקדם של מודלי החלטה היה ריסון התנהגות חריגה של סוכני AI (agents), כך שהמעבר למודרציית תוכן אנושי הוא צעד טבעי. ינקוביץ׳ מסביר שצוותי מוצר רוצים הבנה טובה יותר של מה שקורה בפלטפורמה שלהם, במיוחד כשכמות התוכן גדלה אקספוננציאלית. היכולת לסמן את כל הנפח הזה בצורה סקיילבילית וניתנת להתאמה אישית היא תועלת מיידית. המודל זמין כעת עם משקולות פתוחות, מה שמאפשר לצוותים טכניים להריץ אותו על התשתית שלהם בלי תלות ב-API חיצוני.