סוכני AI נתקלים בחומות אש: אמזון חוסמת, וולמארט מנסה לתקן

ההבטחה של סוכני AI אישיים, Muse של Meta, Dots של ChatGPT, Instinct ואחרים, הייתה להעביר אותנו מעידן הצ'אט לעידן הביצוע: הזמנת טיסות, קניות בסופר, הזמנת מקום במסעדה, הכול בלי שהמשתמש יצטרך להרים אצבע. בפועל, הגל החדש נתקל במחסום ראשון ולא צפוי: האתרים עצמם. אמזון חסמה לאחרונה את Muse מלהיכנס לקטלוג המוצרים שלה, ובכך מנעה מהסוכן לבצע רכישות בשם המשתמש. זו לא תקלה נקודתית; דיווחים ברשתות מצביעים על דפוס רחב יותר שבו סוכנים נחסמים שוב ושוב בניסיון להשלים משימות.

השותפה שנתקעה בקאפצ'ה

וולמארט מציגה את הצד המורכב יותר של הבעיה. החברה הכריזה בספטמבר בכנס Connect של Meta על שותפות עם Muse, והצהירה שהיא רוצה לפגוש לקוחות "היכן שהם נמצאים", כולל דרך חוויות סוכנים. אלא שלקוחות שניסו לממש את האינטגרציה נתקלו בלולאת אימות אנושי, כפתור שדורש לחיצה כדי להוכיח שאתה לא בוט. כשהסוכן מנסה לעבור את השלב הזה, הבדיקה נכשלת והוא נזרק החוצה. דובר וולמארט הבהיר שמדובר בתקלה לא מכוונת, אבל עבור המשתמש הקצה אין הבדל נראה לעין בין חסימה מכוונת לבאג בתשתית האנטי-בוט הקיימת.

תשתית ישנה, עידן חדש

התקרית בוולמארט מדגימה עד כמה מנגנוני ההגנה הנוכחיים, קאפצ'ות, אתגרי JavaScript, ניתוח התנהגות, לא בנויים לעידן שבו "בוטים טובים" פועלים בשם משתמשים לגיטימיים. הכלים האלה נועדו לחסום ספאם ותקיפות, לא להבחין בין סקריפט זדוני לסוכן שמזמין מצרכים בהרשאה מלאה. כשהחוויה נשברת, המשתמש נשאר מתוסכל בלי לדעת אם להאשים את הקמעונאי, את ספק הסוכן, או את הפרוטוקול שבאמצע.

תעשייה שלמה מנסה לכתוב פרוטוקול חדש

כדי לפתור את הפלונטר, קואליציה הכוללת את Meta, וולמארט, Stripe, Sierra, Genesys, Rocket, NiCE ו-Decagon החלה לעבוד על סטנדרט פתוח לתקשורת סוכן-אל-סוכן במסחר מקוון. לפי פוסט בבלוג של Meta, הפרוטוקול יגדיר כיצד סוכנים מזדהים מול בתי עסק ואיך מפרידים בין בוטים מורשים לכאלה שפועלים ללא הרשאה. היוזמה עדיין בשלבים מוקדמים, ובינתיים הבלבול בשטח רק גדל.

חברות תעופה מסרבות לפתוח את הדלת

תחום התעופה מדגים כמה רחוקה הדרך לאימוץ. דלתא הודיעה שהיא נוקטת צעדים להגנה מפני "פעילות אוטומטית לא מורשית", וכל פתיחה עתידית לסוכנים תיעשה עם "אבטחה וחוויית לקוח בראש סדר העדיפויות". היינה צ'אודה (Heena Chavda), מנהלת תקשורת גלובלית בדלתא, מסרה שהחברה ממשיכה להעריך את הטכנולוגיה אך אין כרגע שום אינטגרציה שמאפשרת לסוכן צד שלישי להזמין טיסות. יונייטד הייתה פחות ישירה, והפנתה לסעיפים בתנאי השימוש שאוסרים גישה אוטומטית. עבור המשתמשים, המשמעות פשוטה: הסוכן מבטיח להזמין כרטיס, ובפועל נתקל בדלת נעולה.