אופן-איי משיקה ניטור בטיחות שחוצה שיחות בלי לשמור דאטה
אופן-איי (OpenAI) מציגה את Private Safety Processing, מערכת אוטומטית שמנטרת שימוש לרעה על פני כמה שיחות נפרדות, ובה בעת לא שומרת אף פיסת מידע של הלקוח. המהלך מגיע כתשובה ישירה למדיניות השמירה של Anthropic, שמאז יולי מאפשרת למעבדה להחזיק סשנים שלמים למשך שלושים יום בדגמים מסווגים כ"מכוסים", בהם כל קו מיתוס (Mythos) ודגמים עתידיים בעלי יכולות דומות.
המדיניות שהרגיזה ארגונים
השינוי של אנתרופיק נועד לאפשר סריקה רטרואקטיבית של חשד להתנהגות פסולה, אבל בארגונים שמטפלים במידע רגיש התעורר חשש כבד: הדאטה נשאר אצל הספק, חשוף לבדיקה אנושית, בלי שליטה של הלקוח על העיתוי או ההיקף. אופן-איי כבר מפעילה זה זמן מדיניות Zero Data Retention (אפס שמירת נתונים) שמנטרת כל סשן בנפרד באמצעות סוכנים בתוך ה-API, בלי התערבות אנושית. אנתרופיק מקיימת את אותו עיקרון, חוץ מאותם דגמים "מכוסים" כמו פייבל (Fable), שם נשמר החריג בן שלושים הימים.
איך עובד הניטור החדש
Private Safety Processing מרחיב את ה-ZDR לאופק ארוך: הסוכן בוחן קלטים ופלטים ממספר שיחות יחד, לא רק מאחת, ומחפש דפוסים שמצביעים על ניצול לרעה שמתפרס על פני זמן. דוגמה קלאסית, תוקף שמפצל בקשות לבניית נוזקה על פני כמה סשנים כדי לחמוק מזיהוי נקודתי. כשהמערכת מזהה חשד, היא משגרת "אות מוגדר היטב" לאופן-איי, שמחליטה אם נדרשת אכיפה; רק אז החברה פונה ללקוח לקבלת הקשר, והלקוח בוחר אם לשתף מידע מרצונו.
הגישה המתחרה: ביקורת אנושית מבוקרת
אנתרופיק מצידה מדגישה שבדיקה אנושית מתרחשת רק בנתיב גישה מבוקר, עם קבוצה מצומצמת של בודקים מאושרים, וכל סשן ביקורת נרשם ביומן חסין שיבוש שהבודקים אינם יכולים למחוק או לשנות. שתי הגישות מנסות לפתור את אותה בעיה, זיהוי שימוש זדוני בלי להפר פרטיות, אבל הארכיטקטורה שונה מהותית: אוטומציה חוצת-סשנים מול בקרה אנושית מתועדת.
קרב על לקוחות ארגוניים בדרך להנפקה
התחרות בין השתיים חריפה: דיווח עדכני מראה שהרבעון השני של אופן-איי צמח לאט יותר מאנתרופיק, שקצב ההכנסות השנתי שלה מוערך ב-65 מיליארד דולר (כ-240 מיליארד שקל). משקיעים של אנתרופיק מדברים על הנפקה לפי שווי של שני טריליון דולר, ואופן-איי גם היא מקדמת מהלך דומה. Private Safety Processing הוא עוד כלי במאבק על אמון הלקוחות הארגוניים, אלה שמכריעים לאן ילך הכסף הגדול.