גוגל ארת' כמכונת פייק: למה גוגל עצרה את מחולל התמונות שלה תוך יום

גוגל שילבה מחולל תמונות בינה מלאכותית ישירות בגרסת הרשת של Google Earth, ואפשרה לכל גולש להקליד הנחיה טקסטואלית קצרה ולהשתיל מבנים, הרס או אירועים על גבי תצלום לווין אמיתי. פחות מ-24 שעות אחרי ההשקה היא קיפלה את הפיצ'ר. הסיבה לא היתה באג טכני אלא כשל בטיחות שעלול היה להפוך את המפה המוכרת בעולם לקרקע פורייה לדיסאינפורמציה.

ננו בננה 2 על תצלום לווין

התכונה התבססה על המודל Nano Banana 2. מהרגע שהכפתור הפך לזמין, צוות BBC Verify בבריטניה ואתר התחקירים 404 Media הדגימו כיצד ניתן להקים כור גרעיני בלב איראן, לייצר מכתש הפצצה בשכונת מגורים, להציב מחנה פליטים בגבול ארצות הברית ומקסיקו, או לשתול שרידי תאונה קטלנית ברחובות אמסטרדם. התוצאה היתה תמונה סינתטית מושתלת על נתונים גיאוגרפיים אמיתיים, שנוצרה בתוך שניות.

חותמת מים שלא פותרת כלום

תגובתה הראשונה של גוגל ניסתה להסביר שכל תמונה כוללת חותמת מים דיגיטלית סמויה בשם SynthID, ושמשתמשים יכולים לאמת אותה דרך אפליקציית Gemini או סריקה ב-Google Lens. הטיעון הזה נתקל בביקורת נוקבת. חוקרים ומומחי דיסאינפורמציה באירופה ובארה"ב הבהירו שבסיטואציות של לחימה או משבר פוליטי, גולשים ברשתות החברתיות לא מבצעים בדיקות עובדתיות עמוקות לפני שהם משתפים תוכן. יתרה מזאת, חותמות מים דיגיטליות ניתנות לעקיפה, לחיתוך או לשיבוש בקלות יחסית. כשהרשתות התמלאו בצילומי מסך מזויפים של אזורי אסון וקרב, גוגל הודיעה על הסרת הפיצ'ר לצורך בחינה מחודשת והידוק מנגנוני הבטיחות.

הפער בין יצירה למציאות בשטח

הניסוי של גוגל ממחיש את הפער בין כלים שנועדו לבידור ויצירה לבין פלטפורמות המבוססות על עובדות בשטח. בשוק מחוללי התמונות פועלות חברות כמו Midjourney ו-OpenAI עם מודל DALL-E, אבל הכלים האלה פועלים מחוץ להקשר גיאוגרפי מחייב, והמשתמשים מבינים מראש שמדובר ביצירה סינתטית. מנגד, חברות מסחריות כמו Maxar Technologies ו-Planet Labs מספקות צילומים ברזולוציה גבוהה לצורכי מדינות, מחקר, מודיעין ועיתונות, תוך שמירה קפדנית על מטא-דאטה, שרשרת אמינות וזמני צילום מדויקים.

מה זה אומר על מודיעין המקורות הגלויים

בעשור האחרון, ובמיוחד מאז פרוץ המלחמה באוקראינה והסלמת המצב במזרח התיכון, צילומי לווין פתוחים הפכו לעמוד השדרה של חקירות מודיעין המבוסס על מקורות גלויים (OSINT). עיתונאים וחוקרים עצמאיים עושים בהם שימוש יומיומי כדי לאמת אירועים, לחשוף פשעי מלחמה ולסתור תעמולה ממשלתית. השילוב שביצעה גוגל בין מחולל תמונות לבין פלטפורמה שנתפסת בעולם כמקור המרכזי למפות ולוויינים, יצר הכלאה ששברה את חומות האמון שהציבור רוחש למידע הזה. ההחלטה המהירה לקפל את הכלי מדגישה שבשפה הגיאוגרפית, האמינות של המפה יקרה מכל חידוש טכנולוגי.