מיקרוסופט משיקה את Decision-1, מודל לקבלת החלטות מהירה

מיקרוסופט חשפה את Microsoft-Decision-1, מודל חדש שמיועד למשימות החלטה מובנות ומצהיר על ביצועים עדיפים על פני מודלי שפה גדולים ומודלי החלטה קיימים גם בשהייה וגם באיכות. המודל, שמכונה גם System One, נכנס לקטגוריה שמנסה לחקות חשיבה מהירה ואינטואיטיבית, המקבילה החישובית למערכת 1 של כהנמן, בניגוד לעיבוד האיטי והמכוון שמאפיין שרשראות חשיבה ארוכות.

ביצועים מול המתחרים

לפי ההכרזה, Decision-1 מוביל בבנצ'מרקים של משימות החלטה מובנות כשהוא משאיר מאחור גם LLMs כלליים וגם מודלים ייעודיים להחלטות. היתרון הכפול, מהירות ואיכות, הוא מה שמבדל אותו לטענת החברה, מאחר שרוב המודלים הקיימים נאלצים לבחור בין השניים. מיקרוסופט כבר בודקת את המודל בפריסה פנימית רחבה, החל מטיפול באירועים תפעוליים ועד תרחישים נוספים שעדיין לא פורטו.

אתגרים בעקביות ובמורכבות

מי שבחן את המודל מקרוב מצביע על שני תחומים שבהם מודלי החלטה מהסוג הזה עדיין מתקשים: עקביות לאורך זמן וקבלת החלטות מורכבות מרובות שלבים. בבדיקות שוטפות שעורך חוקר בתחום, המודלים נוטים לסטות כשההקשר מתארך או כשנדרש תכנון עמוק יותר מאשר בחירה בודדת בין חלופות מוגדרות. הממצא תואם את המגבלה הידועה של ארכיטקטורות שממוטבות להחלטה בודדת ומהירה.

שופטי LLM וגילוי מדעי

יישום מעניין שעולה מההכרזה הוא שימוש במודלי החלטה כמנוע מאחורי שופטי LLM, אותם מודלים שמדרגים תפוקות של מודלים אחרים, וכן צינורות גילוי מדעי, למשל סינון השערות מועמדות בשלבים מוקדמים של מחקר. הרעיון הוא להחליף הערכה אנושית איטית או פרומפטים ארוכים במודל שהוכשר ספציפית לשקלל קריטריונים ולהכריע מהר. החוקר שמפעיל את ההערכות מציין שהוא בוחן יישומי מדע נוספים במסגרת dair.ai ומתכוון לפרסם תוצאות כשיהיו מוכנות.

אפקט ג'ב והקשר רחב יותר

ברקע הדברים מוזכר "אפקט ג'ב" שדוחף את התחום קדימה, ככל הנראה התייחסות לפרדוקס ג'בונס, שלפיו שיפור ביעילות מגדיל את הביקוש הכולל למשאב ולא מקטין אותו. כשהחלטות נעשות זולות ומהירות יותר, ארגונים מטמיעים אותן בעוד ועוד תהליכים, מה שיוצר לולאת ביקוש למודלים טובים עוד יותר. Decision-1 מצטרף לרשימת ההערכות המתארכת של אותו חוקר, שממשיך לעקוב אחרי התפתחות הקטגוריה הזו בזמן אמת.