אינסטגרם שוב מסמן תמונות רגילות כבינה מלאכותית, ומפספס את הדבר האמיתי

תוויות שגויות על עריכות שגרתיות

התווית "AI Content" שמופיעה באינסטגרם אמורה לאותת במבט אחד שהתמונה נוצרה או נערכה בכלים גנרטיביים. בשבועות האחרונים משתמשים מדווחים שהמערכת יוצאת משליטה: תמונות שצולמו במצלמה ועברו רק הסרת רקע בקנבה (Canva) או תיקון פגמים זניח מקבלות את התווית, בעוד תמונות שנוצרו במודלים גנרטיביים עוברות בלי סימון. התוצאה, תחושה ששום דבר בפיד לא ניתן לאמון.

דז'ה וו מ-2024

התקלה הנוכחית מזכירה בעיה דומה מפברואר 2024, אז התווית "Made by AI" הוצמדה לתמונות שמטא-דאטה של אדובי (Adobe) הצביע על ריטוש גנרטיבי מזערי, למשל הסרת כתם בודד, אף שהתוצאה נותרה צילום לכל דבר. מטא (Meta) הבטיחה אז לכייל את הגישה כך שתשקף את "כמות ה-AI בתמונה", והסבירה שהיא מסתמכת על "אינדיקטורים סטנדרטיים בתעשייה" ששותפים מטמיעים בתוצרי הכלים שלהם. מאז לא פורסם פירוט עדכני של האינדיקטורים האלה, של תדירות הסריקה או של אופן הזיהוי. מטא לא הגיבה לפנייה להבהרה.

ההבדל בין AI מסייע לגנרטיבי

לב הבלבול טמון בהבחנה שמטא לא עושה בפועל. הסרת רקע ובחירת אובייקט מבוססות על למידת מכונה מסייעת (assistive ML), טכנולוגיה שפוטושופ (Photoshop) משתמשת בה כבר יותר מעשור, ולא על מודלי טקסט-לתמונה שיוצרים פיקסלים חדשים יש מאין. כשהמערכת מתייחסת לשתיהן כאל "תוכן AI", היא מייצרת רעש שמסתיר את הבעיה האמיתית: זיופים גנרטיביים שמחקים מציאות.

קנבה מודה בתקלה, אבל המשתמשים עדיין רואים תוויות

אסטרטגית התוכן ג'ס ברונו (Jess Bruno) דיווחה שקנבה אישרה בפניה שחלק מכלי ה-AI המסייעים שלה "תויגו כגנרטיביים" בטעות, והודיעה שהבעיה תוקנה. בעמוד העזרה של הסרת הרקע בקנבה נכתב כעת שהכלי "לא מוסיף מטא-דאטה של תוכן AI שפותח על ידי קנבה לעיצוב שלך", אם כי לא ברור אם ההערה חדשה. קנבה לא הגיבה לפנייה לתגובה. למרות ההצהרה, משתמשים ב-Threds מדווחים שהתווית עדיין מופיעה אחרי שימוש במסיר הרקע, ואחרים מציינים שתמונות שנערכו לפני התיקון לא תויגו כלל, וגם לא הכילו מטא-דאטה C2PA שמטא טוענת שהיא מסתמכת עליה.

בבדיקות עצמאיות: רק Meta AI הפעיל את התווית

הכותב הריץ סדרת בדיקות עצמאיות וגילה שהתווית הוצמדה רק לתמונות שנערכו או נוצרו במלואן באפליקציית Meta AI. יש גם דיווחים על תיוג שגוי במקרים שבהם מסיר הרקע של קנבה לא היה מעורב כלל, מה שמרמז על גורמים נוספים, לא מזוהים, שמפעילים את המנגנון.