אנתרופיק פותחת את נתוני השימוש בקלוד לחוקרים חיצוניים במסגרת פיילוט שומר פרטיות

ג'ק קלארק (Jack Clark), ממייסדי אנתרופיק, הודיע על פיילוט שמאפשר לחוקרים מחוץ למעבדה לנתח נתוני שימוש אמיתיים של מודל השפה קלוד, לראשונה בלי לוותר על פרטיות המשתמשים. עד היום, מחקרים על השפעות מודלים בשטח התאפשרו רק בתוך החברות שמפעילות אותם, והמהלך הנוכחי נועד לשבור את המונופול הזה על התובנות.

שקיפות פלטפורמה במקום שקיפות מודל

התפיסה שמאחורי הפיילוט היא שמערכות AI הן "דברים סוציו-טכניים ענקיים ומורכבים" עם אינספור תכונות, ולצפות ממעבדות הבינה המלאכותית למפות לבד את כל דרכי המדידה וההערכה זו יומרה מופרזת. הפתרון שקלארק מציע: להוציא החוצה לא רק את תכונות המודל, אלא גם טלמטריה של הפלטפורמה, נתונים על האופן שבו המערכות פוגשות אנשים בעולם האמיתי.

מכון אנתרופיק והאינדקס הכלכלי

הפיילוט יושב תחת מכון אנתרופיק (The Anthropic Institute), פרויקט רחב יותר למדידה וחיצון של פרטי המערכות והפלטפורמות. הוא משלים את עבודת הצוות הכלכלי של החברה, שמפרסם את "אינדקס הכלכלה של אנתרופיק", סדרת דוחות שמנסים לכמת את השפעת המודלים על שוק העבודה והפריון. שני המאמצים חולקים הנחת יסוד: בלי נתוני שטח, כל הערכה נשארת ספקולטיבית.

איך זה עובד בפועל

החברה פרסמה קול קורא לרעיונות מחקר לגל הפרויקטים הבא. חוקרים שיתקבלו יקבלו גישה לכלי ניתוח שפותחו באנתרופיק, המיועדים לעבוד על נתונים שעברו תהליכי הגנה על פרטיות, פרטים מזהים הוסרו, והמידע עבר אגרגציה כך שלא ניתן לשייך פעילות למשתמש בודד. זו הפעם הראשונה שארגון חיצוני מקבל גישה כזו לנתוני שימוש חיים של מודל מתקדם.

למה זה משנה את כללי המשחק

כשמדידות מתבצעות רק פנימה, הן חשופות להטיות ארגוניות, ללחצי מוצר ולהיעדר ביקורת עמיתים אמיתית. פתיחת הכלים והנתונים לקהילת המחקר הרחבה מאפשרת שכפול, ביקורת וכיווני חקירה שהמעבדה לא חשבה עליהם. הסייג המרכזי: עדיין מדובר בפיילוט, בהיקף מוגבל, והתוצאות תלויות בשאלות שהחוקרים יבחרו לשאול, ובמה שהנתונים בכלל מסוגלים להראות.