Anthropic מטמיעה סימני מים בלתי נראים ב-Claude כדי לעמוד בדרישות האיחוד האירופי

הרקע הרגולטורי

Anthropic השיקה השבוע מנגנון סימון מים אוטומטי על כל טקסט שיוצר על ידי Claude. הקוד הבלתי נראה מוטמע בתשובות הצ'אטבוט ומסמן אותן כתוכן שנוצר על ידי בינה מלאכותית, כך שמערכות זיהוי ממוחשבות יוכלו לאתר אותו. המהלך נועד לספק את דרישות "קוד השקיפות" של חוק ה-AI האירופי, שנכנס לתוקף ומחייב חברות טכנולוגיה לסמן תוכן שנוצר או נערך על ידי AI בצורה ניתנת לזיהוי מכני. רגולטורים באירופה עשויים להיות מרוצים, אבל חלק מהמשתמשים ממש לא.

הזעם ברדיט

ב-Reddit מתנהל דיון סוער סביב המהלך. המשתמש visionode, חשבון בן שלושה שבועות בלבד, פרסם פוסט זועם שמכנה את המערכת "קונספירציה דרקונית" שנועדה להפליל משתמשים תמימים. לטענתו, משתמשים מתוחכמים יוכלו להסוות את השימוש ב-Claude באמצעות פרפראזה או העברת הטקסט דרך שירותי AI אחרים, אבל המשתמש הממוצע ייתפס. הוא נתן דוגמאות: סטודנט שביקש לארגן מחדש פסקה, עיתונאי שביקש לסכם תמליל של 200 עמודים, כותב שנתקע בחסם יצירתי וביקש מילים נרדפות. "אלה ייצאו מהתהליך עם קעקוע דיגיטלי על המצח", כתב.

הטיעון הנגדי

הטענות האלה לא מחזיקות מים. עיתונאי שמשתמש ב-Claude לסיכום תמליל ארוך לא ייפגע מסימן המים, אלא אם הוא מעתיק את הסיכום מילה במילה לכתבה, שזה ממילא לא אתי ולא אמור לקרות. אותו הדין לגבי סטודנט שמדביק פלט של Claude למאמר אחרי שביקש "לארגן מחדש פסקה". שאר הגולשים ב-Reddit לא התרשמו מהזעקה: "תראו את הבחור הזה", הגיב אחד. אחר הציע ל-OP "לקחת נשימה עמוקה". מגיב שלישי ציין באירוניה שהמתלונן כנראה השתמש ב-Claude כדי לכתוב את התלונה עצמה.

צביעות או הגנה?

ביקורת מעט יותר מנומקת הגיעה מכיוון אחר: צביעות. משתמש אחד טען שסימון תוצר עריכה שפותח על ידי "שאיבת" עבודות של אחרים הוא כיוון "מאוד מרושע". "אני לא משתמש ב-Claude כדי לכתוב כלום, אבל AI שמסמן את העבודה שלך זה אירוני באופן מבהיל, בהתחשב בכמה נתוני אימון המודלים האלה שאבו", כתב. מנגד, הרוב תומכים במהלך: "אין שום טיעון טוב נגד זה", סיכם מגיב בשרשור אחר. "הסיבה היחידה להתנגד היא כדי לשקר לאנשים".