סוכני AI מעדיפים זיכרון מיושן על ראיות טריות, ומודלים גדולים יותר לא פותרים את זה

מאמר חדש מראה שמערכות זיכרון מתמשך גורמות לסוכנים להיות בטוחים בטעות גם כשהמידע העדכני זמין, והפתרון תלוי בגודל המודל, לא רק ביכולת שלו.

הניסוי: Qwen3 מגרסה 0.6B עד 8B

החוקרים בדקו את משפחת Qwen3 על משימות שבהן הזיכרון המאוחסן היה מיושן. כשהסוכן נדרש להשתמש בזיכרון, הוא הלך בעקבות הערך הישן ב-92% עד 100% מהמקרים. הנתון הזה עקבי לאורך כל הגדלים שנבדקו, מה שמצביע על כשל מערכתי ולא על מקרה קצה.

מניפולציית חותמות זמן מטעה דווקא את הגדולים

כשהחוקרים גרמו להערה ישנה להיראות חדשה יותר, למשל על ידי עדכון חותמת הזמן, המודלים הגדולים יותר נפלו בפח בתדירות גבוהה יותר. התוצאה מפתיעה: יכולת גדולה יותר לעבד הקשר לא מתורגמת לספקנות בריאה, אלא לאמון רב יותר במטא-דאטה מטעה.

התיקון תלוי בגודל

עבור מודלי 4B ו-8B, הוספת חותמות זמן ומטא-דאטה של מקור הספיקה כדי לשחזר את רוב הדיוק. אבל מודלי 0.6B ו-1.7B נזקקו לכך שהסתירה בין הזיכרון הישן לראיה החדשה תיפתר *לפני* שהגיעה אליהם, הם לא הצליחו לשקלל את שני המקורות בעצמם.

ההמלצה: להתייחס לזיכרון כקלט לא מהימן

לדברי כותבי המאמר, המסקנה המעשית היא פשוטה: זיכרון של סוכן צריך להיחשב כקלט לא מהימן (untrusted input). במקום לבנות מנגנוני תיקון מורכבים בתוך המודל, עדיף לנקות את הסתירות ברמת המערכת, לפני שהמודל רואה אותן.