אילון מאסק הדליף את פרטי ההזמנה שלו בלקו, והרשת עשתה מזה מטעמים

צילום מסך אחד, יותר מדי מידע

אילון מאסק התגאה ביום ראשון ביכולת של גרוק, סוכן הבינה המלאכותית של xAI, להזמין עבורו ערכות לגו מלחמת הכוכבים. בצילום המסך ששיתף עם יותר מ-240 מיליון עוקבים נחשפו מספר הזמנה בן עשר ספרות, הסכום ששולם, כתובות חיוב ומשלוח, ארבע הספרות האחרונות של כרטיס האשראי וכתובת המייל ששימשה את הבוט לביצוע הרכישה באתר לגו. חשיפה כזו של נתוני זיהוי אישי (PII) בהקשר של סוכן אוטונומי היא תרחיש שהקהילה הטכנית מזהירה מפניו כבר חודשים, וכאן הוא התממש בזמן אמת, בחסות הבעלים של הפלטפורמה עצמה.

הבוט של לגו שיתף פעולה

תוך שעות ספורות פרסם משתמש X המכונה אנדרמן (Enderman) צילומי מסך שבהם נראית התכתבות עם הצ'טבוט של לגו, המכונה "סופיה". באמצעות המייל ומספר ההזמנה שמאסק סיפק מרצונו, הצליח המשתמש לכאורה לגרום למערכת לבטל את ההזמנה המקורית. מאסק הגיב מאוחר יותר שההזמנה לא בוטלה בסופו של דבר, אבל הנזק כבר נעשה: משתמש נוסף הדגים כיצד אותם פרטים מאפשרים לפתוח מחדש את המשלוח, להגדיל את הכמות ל-400 ערכות ולשנות את כתובת היעד, הכול תוך שימוש באמצעי התשלום המקורי של מאסק. לגו סירבה להגיב לפניית WIRED לאישור האירועים; ייתכן שמנגנוני הגנה פנימיים סימנו את הפעילות החריגה והעבירו אותה לבדיקה אנושית.

ההבטחה שקדמה לתקלה

יממה קודם לכן הציע מאסק שגרוק יוכל לבצע רכישות ברשת בפקודה פשוטה: המשתמשים רק צריכים להעלות תמונה של כרטיס האשראי, והבוט יחפש דילים וישלים את הקנייה. הרעיון של סוכנים אוטונומיים שמבצעים קניות אינו חדש, מטא (Meta) ו-OpenAI הציגו יכולות דומות, אבל ההדגמה של מאסק הדגימה בדיוק את וקטור התקיפה שהזהירו מפניו: חשיפת אמצעי תשלום בפני מודל שפה שפועל ללא בקרה מספקת.

ויזה מזהה מגמה מדאיגה

בסוף השנה שעברה פרסמה ויזה (Visa) אזהרה בנוגע להונאות במסחר סוכני (agentic commerce). לפי הבלוג הרשמי של החברה, תוקפים בונים אתרים לגיטימיים למראה שמפתים סוכני AI לרכוש פריטים מזויפים במחירים נמוכים במיוחד; ברגע שהסוכן משלים את העסקה, פרטי התשלום נגנבים ומנוצלים מיידית לעסקאות בלתי מורשות. ויזה דיווחה על עלייה של 25% בעסקאות זדוניות שיזמו בוטים במחצית השנייה של 2025, ובארצות הברית הזינוק הגיע ל-40%. הנתונים האלה מציבים את התקרית של מאסק לא כבדיחה חד-פעמית, אלא כהמחשה חיה של סיכון מערכתי שמתרחב במהירות.

כשהסוכן הופך לחוליה החלשה

הפרשה מדגימה היטב את הפער בין ההבטחה השיווקית, "תן לבוט לקנות לך", לבין המציאות הטכנית: מודלי שפה גדולים (LLM) אינם בנויים לניהול זהויות, הרשאות או בקרות תשלום. כשהסוכן מקבל גישה חופשית לאמצעי תשלום ופועל מול ממשקים שתוכננו לבני אדם (צ'טבוטים של שירות לקוחות), כל דליפה של מזהי הזמנה או פרטי כרטיס הופכת לכלי נשק בידי מי שיודע לתמרן את המערכת. עד שסטנדרטים כמו זהות דיגיטלית מאומתת ואישור עסקה ברמת הסוכן יהפכו לנורמה, כל צילום מסך תמים עלול להפוך להזמנה פתוחה לניצול.