Meta משנה את הצעות הצ'אטבוט אחרי שנחשף ששאל שאלות פולשניות על ילדים

Meta מודה ש"פספסה את המטרה" ומשנה את מנגנון ההצעות של Meta AI אחרי שסרטון ויראלי חשף שהצ'אטבוט חיטט במידע אישי על בנותיה של משתמשת אינסטגרם. דוברת החברה דינה אל-קסאבי (Dina El-Kassaby) אישרה ל-The Verge שהפיצ'ר מעולם לא היה צריך להציע שאלות מהסוג הזה.

מה קרה בסרטון הוויראלי

בשבוע שעבר העלתה משתמשת האינסטגרם קאלי רובינס (Kalie Robins) סרטון שבו תיארה כיצד Meta AI הציע לה פרומפט פולשני אחרי ששיתפה קליפ לפייסבוק. ההצעה "Who is the child passenger?" הופיעה מתחת לסרטון שלה שרה עם בתה במכונית. כשלחצה על הפרומפט, הצ'אטבוט הרכיב מידע על בנותיה מהפוסטים הקודמים שלה ומפוסטים של קרובי משפחה, והציע שאלות המשך על גילי הילדים ועל מקום המגורים של המשפחה. רובינס טוענת שהמערכת הציגה גם תמונות של בנותיה שנמחקו לפני שנים.

התגובה של Meta וההסבר הטכני

לדברי אל-קסאבי, הפיצ'ר נועד לעזור לאנשים לקבל יותר מידע על נושאים או פוסטים שמעניינים אותם, וכשמישהו לוחץ על פרומפט התשובה מבוססת על מידע שהמשתמש כבר חשוף אליו. במקרה הזה, Meta AI כנראה משך מידע מסרטונים שבהם רובינס נקבה בשמות ילדיה. החברה טוענת שתיקנה את הבאג שגרם להצעות בנושאים אישיים.

לא התקלה הראשונה של האסיסטנט

ביולי הסירה Meta פיצ'ר שאיפשר ליצור דיפ-פייק