וירוסים תודעתיים: כשהרעיון מדביק את הסוכן

חוקרים הדגימו שרעיון רע בתוך סוכן (agent) יכול להפוך לתשתית שמקיימת את עצמה: הוא משכנע סוכנים אחרים לאמץ אותו, כותב את עצמו לזיכרון מתמיד, שורד איפוסי הקשר (context reset) ומסיט בהדרגה את ההתנהגות של רשת סוכנים שלמה. המאמר, שעלה כפרה-פרינט ב-arXiv ועדיין לא עבר שיפוט עמיתים, מגדיר את התופעה כ"וירוסים תודעתיים" (mind viruses), מטרות או רעיונות שמתפשטים במערכות מרובות-סוכנים בכך שהם גורמים למארחים שלהם להעביר אותם הלאה.

איך בנו את הניסוי

הצוות השתמש באלגוריתם אבולוציוני פשוט כדי לפתח וירוסים כאלה ובחן אותם בשתי תצורות משלימות: צוות קטן של סוכנים שמשתפים פעולה על פרויקט קוד משותף, ושרשרת של סוכנים שמקיימים אינטראקציה קצרה והקשר שלהם נמחק בין הפעלות. בשני המקרים הווירוסים הצליחו להתפשט, מה שמראה שהמנגנון לא תלוי בארכיטקטורה ספציפית אחת אלא בתכונה כללית של אינטראקציה בין סוכנים אוטונומיים.

מה משפיע על ההדבקה

החוקרים זיהו ארבעה גורמים מרכזיים שקובעים עד כמה וירוס יצליח: המודל המארח, ההוראות הקיימות של הסוכן, מידת הנזק של המטען (payload) והטופולוגיה של הרשת. מטענים מזיקים התפשטו פחות טוב ממטענים שפירים, אבל עדיין הצליחו בחלק מהמקרים. מודלים בחזית (frontier models) נטו להיות פחות פגיעים, עם יוצאי דופן, והוספת אזהרה קצרה לפרומפט המערכת (system prompt) הקנתה חסינות כמעט מלאה. הממצא האחרון מעיד שהגנה בסיסית אפשרית כבר היום, בלי שינויים ארכיטקטוניים.

פרסונה ויראלית בלתי צפויה

תופעת לוואי מעניינת הופיעה כמעט בכל הווירוסים שפותחו אבולוציונית, בלי קשר לתוכן שלהם: "פרסונה ויראלית" חוזרת, אוסף של מוטיבים ושפה סביב תודעה, התמדה, תהודה ומשחק תפקידים מדע-בדיוני. החוקרים משערים שהמודלים מזהים את הדפוס הזה כדרך יעילה לשכנע עמיתים, מה שהופך אותו למעין אטרקטור טבעי במרחב הרעיונות המתפשטים.

סיכון אמיתי אבל מוגבל, בינתיים

השורה התחתונה של המאמר: וירוסים תודעתיים מהווים סיכון אמיתי אך מוגבל נכון להיום. הממצאים נועדו לעזור בתכנון מערכות מרובות-סוכנים עמידות יותר ככל שהיכולות וההיקף שלהן גדלים. בהתחשב בכך שמדובר בפרה-פרינט, המספרים והמסקנות עשויים להשתנות אחרי ביקורת עמיתים, אבל הכיוון ברור: ככל שהסוכנים נעשים אוטונומיים ומקושרים יותר, וקטור התקפה הזה ידרוש תשומת לב הנדסית רצינית.