מוז בונה פרופילים מפורטים לכל אדם בחייכם, בלי לשאול רשות

מה שמאחורי הקלעים

העוזר האישי החדש של מטא, Muse, הפך ללהיט ויראלי עם מיליוני הורדות בתוך ימים ספורים. משתמשים מחברים אותו לחשבונות בנק, להודעות פרטיות ולנתוני בריאות, ומאפשרים לו לבצע משימות בשמם. אלא שחוקרים שהצליחו לחלץ את קבצי ההפעלה הפנימיים של המערכת חושפים כעת מה בדיוק קורה מאחורי הממשק הנוח: Muse מייצר עמוד ייעודי לכל אדם שמופיע בחיי המשתמש, בני משפחה, בני זוג, חברים, עמיתים, "משתפי פעולה" ואנשים שהמשתמש עוקב אחריהם, ומעדכן את העמודים האלה מדי שעה.

איך זה עובד בפועל

לפי מסמכי ההנחיות שנחשפו, כל עמוד מתחיל "דליל" ומתמלא לאורך זמן במקטעים קבועים: עובדות, היסטוריה, טיב הקשר, מכנים משותפים, נושאים פתוחים וחיזוק הקשר. המערכת מתועדת לאסוף פרטים כמו מקום מגורים, עיסוק, חוטים חוזרים (מעבר דירה, יעד חיסכון משותף), תאריכים משמעותיים דוגמת ימי הולדת וימי נישואין, ואפילו רקע נרטיבי, "הנסיעה במרץ, הוויכוח שנפתר, אבן הדרך בשבוע שעבר". ההנחיות מדגישות שהמודל צריך להסתמך רק על "ראיות" זמינות, ושפרטים מומצאים גרועים מעמוד ריק.

מה החוקרים מצאו

קארן ג'ושי (Karan Joshi), חוקר עצמאי של בטיחות ואבטחת בינה מלאכותית, הצליח להוציא את מערך ההנחיות המלא באמצעות צ'אט רגיל, הוא פשוט ביקש ממוז להעתיק ולשתף את קבצי התוכנה שלה. ג'ושי העביר את הממצאים ל-WIRED, ומטא טענה בתגובה שהקבצים נועדו להיות נגישים מטעמי שקיפות. לדברי ג'ושי, מכלול ההנחיות והכישורים שמזינים למוז מצביע על כוונה ברורה: "הם רוצים להבין את מערכות היחסים שיש לכם עם אנשים אמיתיים. הם מנסים להכיר אתכם כמו חבר, שזה בכנות די קריפי".

המשמעות לפרטיות

קריסה וליז (Carissa Véliz), פרופסור חברה במכון לאתיקה בבינה מלאכותית באוקספורד, מצביעה על האסימטריה הבסיסית: "אנחנו נותנים למערכות AI הרבה יותר מידע עלינו ממה שאנחנו מקבלים מהן". לא מדובר רק במה שאנחנו מספרים במפורש, אלא במה שהמודל מסיק, נכון או שגוי, שתי האפשרויות מטרידות מסיבות שונות, ובמה שהוא מרכיב ממקורות נתונים אחרים. ארכיטקטורת מוז מקצה לכל משתמש סביבה וירטואלית ייעודית, מה שאמור לבודד מידע בין משתמשים, אבל לא משנה את העובדה שהמערכת בונה מאגר ידע אינטימי על אנשים שמעולם לא הסכימו להיכלל בו.