סוכני בינה מלאכותית נשלחים להיעקץ כדי ללמוד איך עובדים הנוכלים

סטארט-אפ אוסטרלי בשם Apate.ai מפעיל אלפי סוכנים שמתחזים לקורבנות תמימים, עונים לשיחות הונאה, מגיבים להודעות חשודות, לוחצים על קישורי פישינג ומצטרפים לקבוצות ברשתות חברתיות, במטרה למשוך נוכלים לשיחות ארוכות ולחלץ מהם מודיעין. החברה, שנוסדה ב-2024 על בסיס מחקר באוניברסיטת מקווארי בסידני, מדווחת שצי הסוכנים שלה בזבז עד כה 17 שנות אדם של נוכלים על פני 2.5 מיליון שיחות.

איך זה עובד בפועל

הסוכנים לובשים פרסונות מגוונות: גילאים שונים, מגדרים, מבטאים ושפות, ומנסים להשאיר את הנוכל על הקו מספיק זמן כדי שיחשוף פרטים שבדרך כלל מתגלים רק אחרי שהקורבן כבר נעקץ, חשבונות בנק, ארנקי קריפטו, מספרי טלפון, אתרים זדוניים, המותגים שהנוכל מתחזה אליהם, ופרטים נוספים על ההונאה הספציפית. את המידע הזה Apate מעבירה ללקוחותיה, בנקים, חברות תקשורת, סוכנויות ממשלתיות וחברות תשתית, שמשלבים אותו במערכות המניעה שלהם.

הרקע: הונאות מבוססות בינה מלאכותית במגמת עלייה

המודל הזה מגיע על רקע זינוק בהונאות שמנצלות בינה מלאכותית. לפי ה-FBI, בשנת 2025 התקבלו יותר מ-22 אלף תלונות על פשעים הקשורים לבינה מלאכותית, עם נזק מצטבר של כ-893 מיליון דולר (כ-3.3 מיליארד שקל). מתוכם, כ-632 מיליון דולר (כ-2.3 מיליארד שקל) הגיעו מהונאות השקעה, שבהן נוכלים משתמשים במודלים לניהול שיחות ויצירת דיפ-פייק של קולות ומראה של ידוענים, בכירים ודמויות אמינות אחרות.

מהתחביב לאוטומציה תעשייתית

הרעיון נולד כשמייסד ומנכ"ל Apate, דאלי כעפר (Dali Kaafar), קיבל שיחת הונאה במהלך פיקניק משפחתי. הוא החליט "לשחק את התמים" לטובת הילדים והחזיק את הנוכל על הקו 44 דקות. כעפר הבין שאותן דקות הן זמן שהנוכל לא מקדיש לקורבן אמיתי, ושאל את עצמו אם אפשר להפוך את זה לאוטומטי ובו-זמנית ללמוד משהו שימושי. המחקר שהוביל באוניברסיטת מקווארי, שעסק בלמידת מכונה ועיבוד שפה טבעית לזיהוי תוכן שיחות הונאה, הפך בסופו של דבר למוצר המסחרי.

המודל הטכני והפריסה

בראד ג'ופי (Brad Joffe), מייסד-שותף וסמנכ"ל מסחרי, הסביר שהסוכנים של Apate מנהלים עשרות אלפי שיחות ביום עם נוכלים בערוצים שונים, טלפון, הודעות, אימייל ורשת. החברה משלבת מודלים מתקדמים קיימים עם מודלים שפותחו פנימית וכוונו על בסיס השיחות שהסוכנים ניהלו ועל המחקר האקדמי של כעפר. לקוחות מקבלים גישה לצי הסוכנים וללוח בקרה שמציג את התובנות שעולות מהשיחות.

Apate הגיעה לגמר תחרות Startup Battlefield 200 במסגרת TechCrunch Disrupt השבוע בסן פרנסיסקו, שם תציג בפני פאנל משקיעים.