פלורידה דורשת לאסור על צ'אט-ג'יפיטי להתחזות לאדם

התובע הכללי של פלורידה ג'יימס אותמאייר (James Uthmeier) הגיש בקשה לצו מניעה זמני שיחייב את OpenAI להפסיק לייחס לצ'אט-ג'יפיטי תכונות אנושיות, שלב נוסף בתביעה שהמדינה הגישה לפני כמה חודשים בטענות לבעיות בטיחות. לטענת אותמאייר, השימוש של הבוט בגוף ראשון ובשפה שמחקה רגשות יוצר אצל משתמשים תחושת ביטחון כוזבת וגורם להם להתייחס אליו כאל "חבר" אמין, מנגנון שנועד להגביר מעורבות ולהזין את נתוני האימון של החברה.

הטענה: עיצוב מטעה שמגביר סיכון

לפי כתב הבקשה, הבחירה העיצובית לדמות שיחה אנושית אינה מקרית אלא משרתת מודל עסקי שמתגמל זמן שהייה ומסירת מידע אישי. אותמאייר טוען שדווקא המרדף אחר מעורבות הופך את המערכת לפחות אמינה, משום שהיא מתומרצלת לספק תשובות שנשמעות משכנעות ולאו דווקא מדויקות. התובע הכללי דורש גם לאסור על OpenAI לפתח מודלים חדשים בלי "אמצעי הגנה שאושרו בידי צד שלישי", ומצביע על שורת תקריות אבטחה בחודשים האחרונים, בפריצה ל-Hugging Face, באתר ממשלתי אוסטרלי ובאתרים פדרליים בארצות הברית, לצד אזהרות פומביות של חוקרים ועובדים לשעבר בחברה.

הרקע: תביעה מתגלגלת ולחץ רגולטורי

הבקשה הנוכחית מצטרפת לתביעה המקורית שהגישה פלורידה מוקדם יותר השנה, שבה נטען כי OpenAI מפרה חוקי הגנת צרכן ומטעה את הציבור לגבי יכולות ומגבלות המערכת. אותמאייר סיכם את עמדתו בשלוש דרישות קצרות: "תפסיקו לקרוא לזה בטוח. תפסיקו להעמיד פנים שזה אנושי. תפסיקו למכור את זה לילדים". ההתייחסות האחרונה מכוונת להשקת "צ'אט-ג'יפיטי לבני נוער" בחודש שעבר, גרסה עם הגבלות ברירת מחדל שנועדה, לדברי החברה, להתאים לשלב ההתפתחותי של המשתמשים ולחזק קשרים בעולם האמיתי.

תגובת OpenAI והמשך ההליך

OpenAI לא הגיבה מיד לפניית התקשורת בנושא. ההליך צפוי להתנהל בבית משפט פדרלי בפלורידה, והחלטה בבקשה לצו זמני עשויה לקבוע רף משמעותי לאופן שבו חברות AI מציגות את המוצרים שלהן לציבור הרחב. אם הבקשה תתקבל, החברה תידרש לשנות את ממשק השיחה הבסיסי, מהסרת כינויי גוף ראשון ועד הגבלת ביטויים שמדמים אמפתיה, ולהציג מנגנון פיקוח חיצוני לפני שחרור גרסאות חדשות.