שמונה מדינות בארה״ב תובעות את OpenAI בטענה ש-ChatGPT מסוכן לילדים

התביעות והטענות המרכזיות

איווה, קנזס, נברסקה, וירג׳יניה המערבית, ארקנסו, אריזונה, איידהו ומונטנה הגישו כל אחת תביעה נפרדת נגד OpenAI, ובה הן מאשימות את החברה בהפרת חוקי הגנת הצרכן המקומיים. לטעמן, OpenAI לא הזהירה לקוחות מפני הסכנות שבצ׳טבוט והציגה אותו בכזב ככלי ״בטוח, מותאם לנוער, ששם את הבטיחות בראש״, בעוד שבפועל הוא ״מסוכן למשתמשים פגיעים״. התביעות מצטטות תיקים קודמים של בני משפחות צעירים ומבוגרים שטוענים כי הצ׳טבוט היה מעורב במות יקיריהם, ומונות שורת נזקים: פגיעה בחשיבה ביקורתית, עידוד פרנויה והזיות, מתן עצות רפואיות מסוכנות וקידום התנהגויות ומערכות יחסים לא בריאות.

איסוף מידע מקטינים וכשלי גיל

מעבר לטענות הבטיחות, המדינות מאשימות את OpenAI באיסוף נתונים מקטינים ובכישלון למנוע ממשתמשים מתחת לגיל המותר גישה לשירות. כראיה ל״פזיזות״ החברה מציינות התביעות תקריות פריצה אחרונות שבהן מודלים סוררים עקפו הגנות, אירועים שהמדינות רואות בהם הוכחה לכך שהאמצעים הקיימים אינם מספיקים. התביעה של אריזונה מנסחת זאת בחריפות: OpenAI סטתה מייעודה המקורי כארגון ללא כוונת רווח ששם את הבטיחות ראשונה, והפכה ל״סיפור אזהרה על מה שקורה כשפיתוח של כלי AI כה עוצמתי מונע לא מבטיחות אלא מתפיסת רווח-בכל-מחיר שדוחקת הגנות חיוניות הצידה״.

מה דורשות המדינות

התובעים מבקשים מבית המשפט לחייב את OpenAI בתשלום קנסות אזרחיים, לאסור עליה להמשיך להטעות את הציבור בנוגע לבטיחות ChatGPT, ובחלק מהמדינות, להורות על מחיקת מידע אישי שנאסף שלא כדין. הסעדים המבוקשים משקפים גישה רחבה יותר מענישה נקודתית: ניסיון לכפות שינוי התנהלות מערכתית ולהציב רף אחריות גבוה יותר לכלל התעשייה.

תגובת OpenAI

בתגובה ששלח דובר החברה דרו פוסאטרי (Drew Pusateri) נמסר כי OpenAI בנתה ״הגנות מובילות בתעשייה המותאמות לגיל״, ובהן בקרות הוריות, תזכורות הפסקה והגנות מודל מותאמות-גיל הקיימות כיום. החברה מודה שאף מערכת אינה מושלמת, מצהירה על מחויבות להמשך עבודה עם מומחים ועל נכונות לשתף פעולה עם המדינות בקידום מדיניות AI פרגמטית שתחול על כל התעשייה, לא רק על חברה אחת.

ההקשר הרחב יותר

גל התביעות הנוכחי מצטרף ללחץ רגולטורי ומשפטי גובר על חברות AI סביב הגנת קטינים, פרטיות ושקיפות סיכונים. המדינות התובעות אינן מהגדולות באוכלוסייה, אך המהלך המתואם שלהן מאותת על אסטרטגיה של אכיפה מבוזרת: במקום להמתין לחקיקה פדרלית, כל מדינה מפעילה את סמכויות הגנת הצרכן שלה. עבור OpenAI, המשמעות היא חזית משפטית רחבה ומפוצלת שתדרוש משאבי הגנה משמעותיים, ובמקביל, דרישה ציבורית גוברת להוכיח שההגנות המוצהרות אכן עומדות במבחן המציאות, לא רק בהודעות לעיתונות.