גוגל ניתקה את החשמל למחולל הלוויין של Earth פחות מיממה אחרי ההשקה

גוגל השיקה ב-Google Earth יכולת שיודעת לייצר סצנות לוויין סינתטיות מתיאור טקסטואלי על גבי קואורדינטות אמיתיות, והספיקה לבטל אותה תוך פחות מ-24 שעות. המנוע מאחורי הפיצ'ר הוא Gemini Nano Banana 2, והרעיון המוצהר היה לאפשר יצירת חומרים חינוכיים; בפועל, הקהילה מיהרה להפוך את הכלי למפעל קטסטרופות, זיופי אסונות, שחזורים של אסונות אמיתיים ותרחישי אימה פוטוריאליסטיים שננעצים במיקומים גיאוגרפיים ספציפיים, נראים כמו תיעוד לווייני אותנטי ומוכנים לשיתוף מיידי בלי שום אינדיקציה שמדובר בפייק.

התפיסה האופטימית התפוצצה לנו בפנים

הבעיה לא הייתה ביכולת הטכנית של המודל לצייר טקסטורות, צללים וגיאומטריה ברמה שמקשה להבדיל בינה לבין צילום אמיתי. הבעיה הייתה בהנחה שמשתמשים יגיעו עם כוונות תמימות. ברגע שהכלי נפתח, הוא התחיל לפלוט דיסאינפורמציה גיאו-מרחבית בקנה מידה מיידי: הרס של אתרי מורשת, תרחישי קצה קיצוניים, כולם ממוקמים על נקודות ציון מדויקות. וואלה, ההבדל בין מחולל תמונות כללי לבין כלי שמצמיד פיקסלים לקואורדינטות אמיתיות הוא ההבדל בין פנטזיה לדיסאינפורמציה ממוקדת, וכשהמודל יודע איך נראה הבניין הספציפי בכתובת נתונה, הוא יכול לזייף את ההריסה שלו בדיוק של סנטימטרים.

מה עבר בראש של מי שאישר את זה

הפוסט של Futurism שאל את השאלות שכל מנהל מוצר צריך לשנן: מה עבר בראש של מי שאישר את זה, ובמיוחד בראש של המנהל, איזה פוני ורוד וחד-קרני קשת הוא ראה, ואיך אדם עם נתק כזה מהמציאות הגיע לעמדת ניהול בגוגל. שאלה שנייה: איך אף אחד בצוות לא טרח לשאול, אפילו את ה-AI הפנימי של גוגל, מי הולך להשתמש בזה ולמה, רצוי לפני שמתחילים לכתוב קוד. לא מדובר בכשל טכני אלא בכשל תפיסתי: הדחף לשחרר פיצ'ר מגניב הקדים את הערכת הסיכונים, והתוצאה היא כלי שיודע לייצר ראיות מצולמות לאירועים שמעולם לא קרו, בלי מנגנון אימות מובנה, וכאילו אין כלים מקצועיים שמדמים פוקוס-קבוצות בדיוק בשביל זה.

הנזק כבר ברשת, הקוד כבר לא רלוונטי, אבל הפייקים? הם כאן כדי להישאר

הפיצ'ר הוסר, אבל התמונות שנוצרו ביממה הזו כבר מסתובבות בפידים. מספיק צילום מסך אחד שמגיע לחשבון פופולרי כדי ליצור מציאות חלופית שמתפשטת מהר יותר מכל הכחשה גורפת. גוגל יכולה למחוק את הקוד מהשרתים, אבל לא את הספק שנזרע: בפעם הבאה שתופיע תמונת לוויין דרמטית של אירוע חדשותי, הצופה הסביר ישאל את עצמו אם זה אמיתי או עוד יצירה של Nano Banana.

גיאוגרפיה זה לא מגרש משחקים, זה כלי נשק

המחיר ישולם על ידי כל מי שמסתמך על דימויי לוויין כראיה. גוגל למדה את זה בדרך הקשה.