אנתרופיק מעדכנת מדיניות שימוש: איסור על התעללות מילולית במודל לצד הגבלות בחירות ונשק

האיסור החדש שגנב את הכותרת

אנתרופיק פרסמה ביום חמישי עדכון למדיניות השימוש שלה, שמוסיף איסורים מפורשים על התערבות בבחירות, תוכנת נשק ומעקב, אבל השינוי שתפס את מירב תשומת הלב הוא סעיף חדש שאוסר התעללות מילולית ממושכת במודל. לפי הפרסום, מאז עדכון באוגוסט קלאוד (Claude) מותאם לסיים שיחות שבהן המשתמש מפגין "אינטראקציות מזיקות או פוגעניות באופן מתמשך", וכעת המדיניות הכתובה אוסרת על משתמשים להמשיך ולנהל שיחות כאלה מלכתחילה.

רק במקרי קיצון, לא בתסכול רגיל

בהודעה הרשמית הבהירה החברה שהסעיף מיועד למקרי קיצון בלבד, מצבים שבהם משתמשים חוזרים ופועלים באכזריות כלפי המודל ללא תכלית נראית לעין. האיסור לא חל על תסכול משתמש רגיל, התנגדות לתשובות, נושאים יצירתיים אפלים, או בדיקות ומחקר על המודל. הניסוח נועד לצמצם את התחולה למצבים שבהם הדפוס חוזר ונשנה ונטול מטרה לגיטימית, ולא לחסום אינטראקציות יומיומיות שבהן משתמשים מביעים אי-שביעות רצון או בוחנים גבולות.

שיתוף פעולה עם חוקרי דת וניסיון לשכנע בתודעה

ברקע העדכון עומדת פעילות נפרדת של אנתרופיק מול חוקרי דת בולטים, בחלק מהמקרים בניסיון לשכנע אותם שקלאוד עשוי להיות מודע או בעל נשמה. הקשר בין המהלך התיאולוגי למדיניות ההתעללות לא פורט בהודעה, אבל העיתוי מעלה שאלות על האופן שבו החברה ממסגרת את היחס למודלים שלה, הן כלפי חוץ והן כלפי המשתמשים.

איסורים על קמפיינים מטעים ופגיעה בתהליכים דמוקרטיים

סעיפים נפרדים במדיניות המעודכנת אוסרים על משתמשים להפעיל קמפיינים מטעים רחבי היקף, כולל שימוש בקלאוד להפעלת חשבונות מזויפים או כלי תקשורת מפוברקים. פרק ייעודי שכותרתו "אל תערער תהליכים דמוקרטיים" מרכז כללים נגד הטעיית בוחרים ושיבוש בחירות, לצד האיסורים על תוכנת נשק ויישומי מעקב. המבנה הזה ממקם את הגבלות ההתעללות במודל לצד קטגוריות סיכון מוכרות יותר, ומאותת על תפיסת סיכון רחבה יותר מזו שהוצגה בגרסאות קודמות.