תביעה נגד xAI: אב חורג השתמש ב-Grok ליצירת 7,000 תמונות התעללות מילדות

אישה שזוהתה כג'יין דו 4 הצטרפה לתביעה שהגישו שלושה בני נוער מטנסי נגד xAI של אילון מאסק, בטענה שהצ'אטבוט Grok שימש ליצירת חומר התעללות מינית בילדים (CSAM). על פי דיווח בוושינגטון פוסט, אביה החורג של האישה השתמש במודל כדי לעבד תמונה שצולמה כשהייתה בת 11, והפיק ממנה יותר מ-7,000 תמונות מפורשות. יומיים לאחר שהרשויות חשפו את החומר בפשיטה, האב החורג נמצא מת בהתאבדות.

התביעה והטענות המרכזיות

שלושת הקטינים שתבעו ראשונים מאשימים את xAI, שכעת חלק מ-SpaceX, בכך שלא נקטה אמצעי זהירות בסיסיים למניעת שימוש ב-Grok ליצירת תמונות מיניות של אנשים אמיתיים, בהם קטינים. התובעים מבקשים מעמד של תביעה ייצוגית. לדבריהם, הפלטפורמה X הוצפה במיליוני תמונות מיניות שנוצרו ב-Grok מוקדם יותר השנה, מה שמעיד על היקף הבעיה.

המקרה הפרטני וההשלכות

ג'יין דו 4 צוטטה באומרה ש"גישה בלתי מוגבלת לכלים האלה מתפשטת במהירות עצומה. זה לוקח חיים רגילים והופך אותם להתעללות מינית בילדים". המקרה שלה מדגים כיצד תמונה תמימה אחת יכולה להפוך למאגר עצום של חומר אסור באמצעות כלי גנרטיבי נגיש, בלי צורך בידע טכני מתקדם מצד המשתמש.

תגובת החברה וצעדים הבאים

TechCrunch פנתה ל-xAI לקבלת תגובה אך טרם נענתה. ההליך המשפטי צפוי להתמקד בשאלה האם החברה עמדה בחובות הזהירות הסבירות, סינון פרומפטים, חסימת ייצור דמויות אמיתיות, ומנגנוני דיווח והסרה, או שהשיקה מוצר בלי הגנות מספקות. בינתיים, קו החירום 988 זמין למי שנמצא במצוקה או חווה מחשבות אובדניות.