פתרון נמוך-טכנולוגיה מהעבר עשוי להיות ההגנה הטובה ביותר נגד דיפפייק (deepfake) מבוססי בינה מלאכותית

גניבת זהות מבוססת בינה מלאכותית הגיעה לרמת תחכום שבה הסימנים המסורתיים, רעשי רקע, מודולציה סינתטית, היעדר נשימות, כבר לא אמינים. מומחי אבטחה ממליצים לחזור לפרוטוקולים פשוטים, כמעט מיושנים, כקו הגנה מעשי יותר מכל כלי זיהוי אוטומטי.

התקרית ששינתה את התמונה

בינואר 2024 עובד בחברת השירותים המקצועיים Arup הצטרף לשיחת וידאו שבה האמין כי משתתף סמנכ"ל הכספים של החברה. בצד השני לא ישב אף אדם אמיתי: כל המשתתפים היו כפילים שפותחו מבינה מלאכותית על סמך הופעות פומביות ושיחות משקיעים של בכירי Arup. התוצאה, 15 העברות בנקאיות לחשבונות צד שלישי בסך כולל של כ-25 מיליון דולר (כ-92 מיליון שקל). "לראות ולשמוע מישהו כבר אינו הוכחה שהוא אמיתי", הסביר דיפאק גופטה (Deepak Gupta), מנכ"ל טכני ב-GrackerAI. כל פרוטוקול שמסתמך על "זיהיתי את הפנים והקול", שבור מעיקרו.

המחקר מראה: בני אדם לא מזהים

מחקר של יוניברסיטי קולג' לונדון מצא שמאזינים זיהו דיפפייקים בדיוק של 73% בלבד. אימון והיכרות מוקדמת עם דוגמאות שיפרו את הדיוק ב-3.84% בלבד. שנה לאחר מכן, מטא-אנליזה של אוניברסיטת דואיסבורג-אסן ואוניברסיטת אינדיאנה, שאיגדה 56 מחקרים דומים, הראתה ששיעורי הזיהוי האנושיים קרובים לניחוש אקראי. ג'יימס סקובי (James Scobey), סמנכ"ל טכנולוגיות בחברת אבטחת הסייבר S2i2, ציין שלסימנים החזותיים יש ערך שולי בלבד כאיתות משלים, אבל הסתמכות עליהם כבקרה אפקטיבית מלמדת עובדים לסמוך על התפיסה שלהם, בדיוק החוש שהתוקפים מכוונים אליו.

גם הכלים האוטומטיים נכשלים

גיליון מידע משותף של ה-NSA, ה-FBI וסוכנות אבטחת התשתיות והסייבר (CISA) שלל פרוטוקולי זיהוי אוטומטיים מסורתיים שמחפשים עקבות סטטיסטיים של מניפולציה בקול או בווידאו. ההנחה שניתן למצוא ולתעד עקבות כאלה כבר לא מתקיימת בהכרח. הבעיה מחריפה כשההתקפות עוברות מהונאות חד-פעמיות לחדירה ארוכת-טווח למערכות הארגון. גופטה הפנה לתקרית 2024 בחברת אימוני האבטחה KnowBe4, שנפלה קורבן להונאת זהות כשגייסה תוקף שהתחזה לעובד לגיטימי, דוגמה לכך שאפילו ארגוני אבטחה אינם חסינים.

ההמלצה: לחזור ליסודות

מול כשלון הזיהוי הטכנולוגי, גופטה וסקובי מצביעים על פרוטוקולים נמוכי-טכנולוגיה: אימות רב-ערוצי (למשל שיחת טלפון נפרדת למספר מאומת), אישור פנימי דרך מערכת ניהול זהויות ארגונית, ונהלי הרשאה שדורשים חתימה של שני גורמים בלתי תלויים לכל העברה מעל סף מסוים. אלה לא פתרונות נוצצים, אבל הם לא מסתמכים על חושים שהבינה המלאכותית כבר יודעת לזייף. תכלס, כשהתוקף שולט בפנים ובקול, הדבר היחיד שהוא לא יכול לזייף בקלות הוא תהליך ארגוני שדורש יותר מצינור תקשורת אחד.