סוכני בינה מלאכותית מבטיחים פרטיות, האם יקיימו?

ההכרזה והמתקפה

בכנס המפתחים השנתי של OpenAI חשף המנכ"ל סם אלטמן (Sam Altman) את Dots, סוכן AI חדש, והכריז שהחברה שואפת "לקבוע סטנדרט חדש לפרטיות ב-AI מתקדם". לאורך האירוע ירו דוברי החברה חצים מרומזים לעבר Muse של Meta, המתחרה העיקרי, על כישלונה לכאורה בהגנה על נתוני משתמשים.

הרקע של Muse וההבטחות

כמה חודשים קודם לכן השיקה Meta את Muse כחלופה בטוחה יותר ל-OpenClaw, קודמתה. מארק צוקרברג (Mark Zuckerberg) הצהיר שהמוצר "פותח מהבסיס לפרטיות ואבטחה". נט פרידמן (Nat Friedman), ראש המוצר במעבדות העל-אינטליגנציה של Meta, כתב ב-X שהיעד היה לבנות גרסה של OpenClaw שאפשר להפוך לבטוחה, נוחה וסקלבילית למיליארדי אנשים. הארכיטקטורה מבוססת על מכונה וירטואלית מאובטחת, מה שצוקרברג תיאר כ"מחשב לינוקס מבודד עם דפדפן, מעבד, זיכרון ואחסון". לפי הבלוג הרשמי, רוב מאמץ הפיתוח הוקדש ל"תכנון והנדסה קפדניים להפעלה בטוחה יותר", והחברה הודתה ש-Muse עדיין תטעה, אבל בתדירות נמוכה בהרבה ועם נזק מצומצם בזכות מערכות הבטיחות.

הפער בין ההצהרות למציאות

למרות שהגיעה ל-600 אלף משתמשים פעילים יומיים בארה"ב בתוך שבועות (לפי Apptopia) וכבשה את ראש טבלת ה-App Store, ההבטחות של Meta לא החזיקו מים. הנתונים אמנם מבודדים בין משתמשים, ו-Meta מתכננת להציג השנה מנגנון קריפטוגרפי שימנע ממנה גישה ל-VM, אבל נכון לעכשיו החברה עדיין יכולה לקרוא את המידע. חוקר אבטחה חשף חולשת יום-אפס שאפשרה השתלטות על Muse (תוקנה מאוחר יותר), ולפי 404 Media צצו כמה בעיות אבטחה חמורות ברגע האחרון לפני ההשקה, אחת מהן הייתה עלולה לאפשר גישה למסדי הנתונים הפנימיים של Meta. גם איסוף הנתונים נדיב: ברירת המחדל מאפשרת אימון מודלים על הקלט המשתמש (יש אפשרות ביטול), וכתב Inc דיווח ש-Muse העלה וקרא את הודעותיו הפרטיות בלי שביקש; יוטיובר טען שהסוכן הציע את כתובתו לזרים דרך Marketplace, בשני המקרים המערכת פעלה "כמתוכנן", רק שהמשתמש לא הבין עד כמה רחוק זה הולך. Wired ציינה שהפלטפורמה יוצרת "פרופילים מפורטים של כל החברים והמשפחה שלך".

התשובה של OpenAI עם Dots

OpenAI ניצלה את הכשלים האלה כשהכריזה על Dots בסוף ספטמבר. אלכסנדר אמבריקוס (Alexander Embiricos), מוביל מוצר Codex, אמר על הבמה שהחברה מתמקדת ב"עוזר האמין, הבטוח והמאובטח ביותר". אלטמן הדגים שליטה פרטנית על Dots בודדים, למשל כלל שאוסר רכישה מעל סכום מסוים. גלן קוטס (Glen Coates), ראש פלטפורמת האפליקציות של OpenAI, טען שהחברה בעמדה שונה מ-Meta כי "אין להם מוצר AI עם 1.2 מיליארד משתמשים", ולכן OpenAI תשתדל להימנע מטעויות כאלה מלכתחילה.

דפוס חוזר בתעשייה

הסבב הנוכחי חושף דפוס: כל שחקן חדש ממצב את עצמו כאלטרנטיבה הפרטית יותר לקודמו, אבל המבחן האמיתי מגיע כשהמוצר פוגש משתמשים אמיתיים בקנה מידה. עד שמנגנוני האימות הקריפטוגרפיים יגיעו לפרודקשן, וההבטחות יהפכו לקוד רץ, המשתמשים נשארים עם סוכנים שאוספים יותר מידע ממה שהם מבינים, ועם חברות שמבטיחות ללמוד מהטעויות של המתחרות, רגע לפני שהן עושות אותן בעצמן.