גוגל דיפמיינד וממשלת סינגפור חושפות כלי AI דו-שלבי לזיהוי הונאות שרץ על המכשיר

איך זה עובד בשתי שכבות

הפרויקט שהוצג בשבוע הסייבר הבינלאומי של סינגפור (SICW 2026) מבוסס על ארכיטקטורה בת שני שלבים: השלב הראשון הוא מסווג קל-משקל שסורק הודעות נכנסות בצריכת חשמל מינימלית ומסמן איומים פוטנציאליים; השלב השני מפעיל גרסה מכווננת של מודל Gemma כדי לבחון הקשר רחב יותר של השיחה ולאשר או לשלול את החשד. הרעיון הוא שרוב ההודעות נדחות כבר בשלב הראשון, ורק מקרים גבוליים מגיעים למודל הכבד יותר.

סביבת אימון סגורה בלי נתוני אזרחים

הפיתוח התנהל תחת מסגרת משילות קפדנית: הכוונון העדין (fine-tuning) בוצע בתוך "ארגז חול ריבוני", סביבת GCP מנוהלת של GovTech, זרוע הטכנולוגיה הממשלתית, ששומרת את נתוני האימון מבודדים. לדברי הצוותים, לא נעשה שום שימוש במידע אישי או מזהה של אזרחים; הדאטה הגיע מדיווחי הונאות אנונימיים ומפידים מודיעיניים. המודל נבדק מול דיאלוגים סינתטיים וקורפוסים מקומיים כדי לכסות מגוון רחב של תרחישי התחזות וטקטיקות מתפתחות.

הגנה בלי לוותר על הצפנה מקצה לקצה

המשמעות המעשית היא שפלטפורמות מסרים וספקיות מערכות הפעלה יכולות לשלב את המודלים הקלים האלה ישירות על המכשיר, בלי להעלות תוכן שיחות לענן ובלי לשבור הצפנה מקצה לקצה. זו הדגמה לכך שאפשר להריץ שכבת הגנה אקטיבית מקומית ולשמור על פרטיות המשתמשים בו-זמנית, מודל שיתוף פעולה בין ממשלה לספקית מודלים שמיועד לטובת הציבור.