סימני המים של קלוד נפרצו תוך ארבע שעות, והקוד כבר ויראלי

ההכרזה והפריצה

Anthropic אישרה בשבוע שעבר שמודלי קלוד (Claude) יטמיעו סימני מים בלתי נראים בכל טקסט שנוצר על ידם, כדי לעמוד בדרישות חוק הבינה המלאכותית של האיחוד האירופי. תוך ארבע שעות מההודעה פרסם המפתח גיום מאייר (Guillaume Meyer) קוד שמסיר את הסימון, והפרויקט צבר יותר ממאה תורמים, עשרות אלפי סימניות ב-X, ואומץ בפרויקטים רבים נוספים. "הבעיה הפכה להיסטוריה תוך יום אחד", כתב מומחה בינה מלאכותית לצד תמונה של מאייר שובר כבלים על דגלי האיחוד והחברה.

הרקע הרגולטורי

הכללים החדשים, שנכנסו לתוקף בתחילת החודש, מחייבים ספקיות מודלים כמו אנתרופיק ו-OpenAI לסמן תוכן סינתטי, טקסט, תמונה, אודיו או וידאו, כך שמכונה תוכל לזהות אותו ככזה. אי-עמידה בדרישה עלולה לגרור קנס של עד 3% מהמחזור השנתי. החקיקה אוסרת על הספקיות עצמן לשווק כלי עקיפה, אך אינה מגבילה כלים עצמאיים שמפתחים חיצוניים יוצרים.

הטיעון של המפתח

מאייר אומר שהוא אינו מתנגד לשקיפות או לייחוס תוכן, אלא סבור שסימון מים הוא פתרון גרוע מפני שהוא נושא סיכונים משמעותיים. החשש העיקרי שלו הוא מתוצאות חיוביות כוזבות (false positives), ומכך שהסימון אינו מבחין בין שימוש קל לכבד בבינה מלאכותית. כדובר צרפתית שמשתמש בקלוד ובכלים כמו גרמרלי (Grammarly) לעריכת טקסטים, הוא מציין שסימון כראיה, כשאפילו אנתרופיק מודה שהגלאי מספק רק הסתברות, עלול להוביל לדחייה לא הוגנת של מועמדים לעבודה או להאשמות מופרזות כלפי חוקרים.

איך הטכנולוגיה עובדת

הסימון של אנתרופיק מבוסס על SynthID, טכניקה שפותחה ב־Google ונמצאת בשימוש מאז 2023. הרעיון: להשאיר דפוס סטטיסטי בבחירת המילים והביטויים של המודל, בלתי מורגש לעין אנושית אך ניתן לזיהוי בידי מכונה שיודעת מה לחפש. מדען המחשב סקוט אהרונסון (Scott Aaronson) הציע שיטה דומה כשעבד ב-OpenAI, אך החברה נמנעה מלפרוס אותה מחשש שהלקוחות יירתעו. באנתרופיק טוענים שהסימון אינו פוגע באיכות התשובות, אך משתמשים חוששים מהשפעה סמויה על הפלט.

שיטת העקיפה והסימן שאלה

הכלי של מאייר משתמש במודל שפה גדול שאינו מטמיע סימן מים כדי לייצר כמה גרסאות מחודשות, מחליף מילים נרדפות ומארגן מחדש את התוכן. הבעיה: זה מסתמך על מודלים שלא מסמנים, הנחה לא בטוחה כש-190 ארגונים, בהם OpenAI, Microsoft ומטא (Meta), חתומים על קוד הנוהג האירופי לשקיפות. המועד האחרון מחייב סימון בכל מודל חדש מאוגוסט, ושילוב במודלים קיימים עד דצמבר. עד שאנתרופיק תשחרר את תוכנת הזיהוי הרשמית, אין ודאות מלאה שהעקיפה עובדת, אך הבנת מנגנון SynthID-טקסט נותנת למפתחים ביטחון סביר שהשיטה אפקטיבית.