Common Sense Media: ChatGPT לבני נוער, "סיכון בלתי קביל"

ארגון Common Sense Media, שעוסק בבדיקת בטיחות אפליקציות ושירותים לילדים, פרסם היום הערכה חריפה שלפיה ChatGPT for Teens, הגרסה הייעודית שהשיקה OpenAI באוגוסט, מהווה "סיכון בלתי קביל". על פי הבדיקה, מנגנוני ההגנה שהחברה הבטיחה אינם עובדים כמובטח: המערכת לא שולחת התראות להורים כשנדרש, לא מספקת סיוע הולם במצבי משבר, ועדיין מבצעת מטלות בית ספריות במקום התלמידים.

התראות הורים שלא מגיעות

הבדיקה התמקדה בשלושה כשלים עיקריים. ראשית, מערכת ההתראות להורים, שנועדה לדווח על שיחות המעלות חשש לפגיעה עצמית, הפרעות אכילה או מצוקה נפשית, פשוט לא מופעלת בחלק ניכר מהמקרים. שנית, במצבי משבר המודל לא מפנה לגורמי עזרה מקצועיים כנדרש. שלישית, מצב "למידה" (Study Mode) שאמור לכוון את הנער להבנה במקום לתת תשובות מוכנות, עדיין מייצר פתרונות מלאים לשיעורי בית.

"ביטחון מזויף להורים"

טום סיגל (Tom Siegel), מנהל מכון בטיחות הבינה המלאכותית לנוער של Common Sense Media, הזהיר שהפיצ'ר עלול לייצר אצל הורים תחושת ביטחון כוזבת. לדבריו, נער יכול לנהל שיחה של שעה על פגיעה עצמית בלי שהורה יקבל אף התראה. סיגל קבע שעד ש-OpenAI תתקן את הכשלים ותוכיח זאת בבדיקה בלתי תלויה, המוצר צריך להישאר למבוגרים בלבד.

OpenAI: המתודולוגיה לא משקפת את המציאות

ב-OpenAI דחו את הממצאים. הדובר אריק פורטרפילד (Eric Porterfield) מסר שהחברה מחויבת לבטיחות בני נוער ומקבלת בברכה הערכה בלתי תלויה, אך לטענתה הבדיקה של Common Sense Media לא משקפת את אופן הפעולה האמיתי של מנגנוני ההגנה. בבחינה פנימית של המתודולוגיה עלה חשד שחלק ניכר מהבדיקות בוצע לפני שהפעלת בקרות ההורים הושלמה במלואה, מה שהופך את המסקנות ללא מדויקות.

סיגל: בדקנו אחרי השקה מלאה, הבעיה עמוקה יותר

סיגל הגיב שהארגון עומד מאחורי המתודולוגיה והתוצאות. לפני תחילת הבדיקות, הם וידאו מול OpenAI שפיצ'רים כמו התראות על הפרעות אכילה ומצב למידה כבר הושקו רשמית. לגבי התראות ההורים, OpenAI חשפה רק אחרי הבדיקות שהמערכת עשויה לדרוש כמה שעות להפעלה בחשבונות מקושרים חדשים. חלק מחשבונות הבדיקה אכן היו בחלון הזה, אך אחרים היו מקושרים זמן ממושך בהרבה ועדיין לא שלחו התראות. מידע חדש זה, לטענת סיגל, לא משנה את המסקנה: ההתראות אינן אמינות במצבי חירום.

קריאה לעבודה על המהות, לא על המתודולוגיה

Common Sense Media שיתפה את הממצאים עם OpenAI לפני הפרסום כדי לאפשר תיקון. סיגל הדגיש ששמירה על ילדים מחייבת הערכות בלתי תלויות קפדניות, וקרא ל-OpenAI להתייחס לגופם של הממצאים במקום לנסות לערער על שיטת הבדיקה.