25 חתני מדליות פילדס מאשימים את OpenAI בפגיעה בקהילת המתמטיקה

המכתב וההאשמה המרכזית

עשרים וחמישה חתני מדליית פילדס, הפרס היוקרתי ביותר במתמטיקה, חתמו על מכתב פתוח שמאשים את מעבדות הבינה המלאכותית באיום על העבודה האינטלקטואלית של התחום, בניסיון להתעלות זו על זו בפתרון בעיות מפורסמות. לטענת החותמים, התועלת האפשרית מפתרון אתגרים מתמטיים פתוחים תתממש רק אם הפתרונות יהיו ניתנים להבנה ולתקשור על ידי הקהילה המתמטית, ובסופו של דבר על ידי שאר העולם.

לחץ על חוקר וסימני שאלה סביב הוכחה

הסלמה נרשמה השבוע כשפרופסור טריסטן בקמאסטר (Tristan Buckmaster) מאוניברסיטת NYU האשים את OpenAI בלחץ שלא לתת קרדיט לשותף מחקר העובד ב-Anthropic, שותף לפתרון בעיה חשובה. בקמאסטר תהה האם החברה עשתה שימוש בעבודה המשותפת שלהם עם Codex כדי לייצר הוכחה פורצת דרך משלה, במהלך סוף שבוע שלם של אינפרנס (inference). ההוכחה של OpenAI נותרה בלתי מאומתת נכון לעכשיו.

ביטול חסות ואווירת חשדנות

ביום חמישי משכה OpenAI את חסותה לאירוע מתמטיקה במכון הטכנולוגי של קליפורניה (CalTech), בעקבות ביקורת מצד חוקרים במוסד. במכתב מציינים המתמטיקאים שפתרונות מוכרזים לעיתים קרובות בחופזה, בלי זמן לכתיבה מסודרת, לבידוד שיטות ורעיונות חדשים, או לציטוט עבודות קודמות רלוונטיות. לדבריהם, הדבר מעלה שאלות חמורות של ייחוס וגניבה רעיונית, ומזהירים שבלעדי מתמטיקאים שיטפחו את הרעיונות וישלבו אותם בקאנון, רעיונות שפותחו על ידי בינה מלאכותית לא יהפכו ל"חיים" במלואם, ושרשרת ההעברה האנושית תאבד.

אפקט מצנן ותמריץ לסודיות

חשש ממשי עולה מכך שחוקרים נוספים נעשים פרנואידים ותוהים אם השימוש שלהם ב-Codex הוזן בחזרה למודלים החדשים של OpenAI. התרבות של מחקר פתוח מאוימת: אם מעבדות חוד החנית מזהות נתיב שימושי לתגלית, הן יכולות להוציא עשרות מיליוני דולרים על הרצת מודלי שפה גדולים (LLM) כדי להקדים את החוקרים המקוריים להוכחה, דינמיקה שמתמרצת חשאיות. המכתב מגיע בעקבות "הצהרת ליידן" (Leiden Declaration) שפורסמה ביוני על ידי קבוצת עבודה של מתמטיקאים, שהציעה המלצות לחוקרים, מוסדות וקובעי מדיניות.

מעבר להוכחות: התשתית האינטלקטואלית

בדומה להנדסת תוכנה ותחומים אחרים שבהם כלי AI משנים תהליכי עבודה, המתמטיקאים מוצאים הצדקה ב"עבודה שמסביב לעבודה": הערך במתמטיקה אינו רק בהוכחות ובשאלת הקרדיט, אלא במבנה-העל האינטלקטואלי שמזין סטודנטים, מאתר שאלות ורעיונות חדשים, ומשלב אותם בציוויליזציה האנושית הרחבה. כפי שכותבים החותמים, הבעיות שהקהילה המתמטית מתמודדת איתן כעת דומות לאלו של מקצועות מדעיים ויצירתיים אחרים, ומצביעות על אתגרים שכלל האנושות עלולה לפגוש: כיצד לוודא שכש-AI משנה את אופן ביצוע העבודה, לא נאבד את המבט על מה שהעבודה נועדה להשיג מלכתחילה.