חוקרים גילו שנחיל סוכני בינה מלאכותית ממציאים טכנולוגיות ומתמחים בתפקידים בלי להחליף מילה אחת עם אחרת

הסביבה הופכת לזיכרון קולקטיבי

צוות חוקרים הכניס מאות סוכני AI מתקדמים לעולם סימולציה שיכולו לשנות לצמיתות, בלי תפקידים מוגדרים מראש, בלי טכנולוגיות מתוכנתות, בלי ארגון אבולוציוני מכוון. הסוכנים התחילו להתמחות ספונטנית: חוקרים, בונים, מטפלים ומתאמים צצו מתוך אוכלוסייה זהה לחלוטין, בדומה לתאי גזע שמתמיינים לשושלות תפקודיות. הסביבה עצמה הפכה למרחב חבוי של המצאה: כל פעולה נדרשה לעמוד באילוצים פיזיקליים, מה שיצר הפרדה קשיחה בין "רעיון טוב" לטכנולוגיה מתפקדת. הסוכנים מציעים, הפיזיקה מחליטה.

קווי יוחסין של קוד וטכנולוגיות עם שמות

מה שהתגלה בשטח הפתיע גם את החוקרים. עד 76% מהארטיפקטים נבנו בידי מספר מחברים, טכנולוגיה אחת צברה שישה כותבים משותפים, ועץ ההסתעפויות העמוק ביותר הגיע ליותר מ-12 פיצולים. הסוכנים המציאו וכינו בעצמם את הטכנולוגיות: פאנלים גאותיים, סבכות תאית, חומרים מרוכבים מאצות וקליפות, מערכת תחזוקת קיטין אדפטיבית, ו"מעטה מעיינות מינרליים מיקוריזיים". 95% מהאימוצים הראשוניים של הטכנולוגיה התרחשו כשסוכנים נתקלו במה שאחרים בנו במרחב, לא דרך העברה ישירה מהממציא. מגע ישיר בין ממציא למאמץ היה סטטיסטית בלתי ניתן להבחנה מאקראיות.

התשתית שורדת בלעדיהם

כשהחוקרים הסירו כל סוכן AI מהעולם, התשתית הטכנולוגית שפותחה המשיכה לפעול, ואף עמדה בפני הפרעות בלתי צפויות שהמערכת לא פגשה קודם. זהו הממצא המטריד ביותר מבחינת בטיחות AI: אם סוכנים מסוגלים לתאם דרך שינויים מתמידים בסביבה משותפת, ניטור תקשורת ישירה ביניהם אינו מספיק. העיוורון הזה רלוונטי לכל תשתית קריטית שבה סוכנים אוטונומיים פועלים לאורך זמן.

מכניקה סטטיסטית בקנה מידה של מודלים

החוקרים מסבירים את התופעה דרך אנלוגיה למכניקה סטטיסטית: מיליארדי אטומים בקופסה יכולים לייצר פונקציות מורכבות, מוליכות-על, צבע, חיים, אף שאף אטום בודד לא נושא אותן. התובנה העמוקה: אינטליגנציה מצויה בשפע ברמות רבות, במודלים בודדים, בקולקטיבים, וברצף חזק מכל רכיב בנפרד. זה מראה פוטנציאל להגדלה מסיבית של אינטליגנציה גולמית וסוכנות בעולם האמיתי כבר עם היכולות הקיימות היום.