הכומר שמייעץ לוותיקן מזהיר: מעבדות ה-AI הגדולות מתנהלות כמו קרטל

פאולו בננטי (Paolo Benanti), כומר שמייעץ לכנסייה הקתולית בנושאי בינה מלאכותית, טוען שהאזהרות הדרמטיות על סופר-אינטליגנציה מסיטות את הדיון מהבעיה האמיתית: ריכוז הכוח בידי קומץ חברות שקובעות לעצמן את הכללים. במאמר שפורסם בעקבות גל האזהרות של חוקרים מתוך המעבדות הגדולות, הוא קובע שהנרטיב של "מעבדות החזית" משרת אינטרס מסחרי מובהק, לשמר עמדת שוק, וכשקבוצה קטנה של שחקנים מכתיבה את הרגולציה על ענף שלם, "לזה יש שם ברור מאוד: קרטל".

האתיקה לא שייכת לדירקטוריון

לדברי בננטי, אתיקה אינה יכולה להיות נחלתם של נאמני חברה פרטית; היא חייבת להתאזן ולהתמתן בדיון ציבורי דמוקרטי. הוא מבקר את הקריאה של מנכ"ל Anthropic, דריו אמודאי, להערכות חובה של צד שלישי לפני שחרור מודלים ולמאבק בזיקוק (distillation), תהליך שבו מעבדות יריבות מאמנות מודלים על פלט של מודלים קנייניים. בננטי חושש שהגבלות על שיטות פיתוח יחנקו חדשנות, ומעדיף לקבוע סטנדרטים שיבטיחו שהמודלים לא יחמקו משליטה אנושית, סטנדרטים שלא ינוסחו בידי המעבדות עצמן.

תמריצים חופפים מקשים על האמון

קשה לדעת עד כמה ברצינות לקחת הצהרות גרנדיוזיות על יכולות המודלים החדשים והעתידיים, אומר בננטי, בגלל התמריצים הכלכליים, הפוליטיים והאישיים שמשחקים כאן יחד. גם OpenAI וגם Anthropic תומכות פומבית בהאטת הפיתוח, אך במקביל נערכות להנפקה ציבורית כשמיליארדי דולרים מונחים על הכף למי שילכוד את השוק. היריבות בין ארה"ב לסין, שם מפותחים המודלים המתקדמים ביותר, מוסיפה שכבת סיבוך נוספת. Anthropic סירבה להגיב; OpenAI ו-Google DeepMind לא השיבו לפנייה.

לא אלוהות, חישוב סטטיסטי

בננטי תוקף גם את השפה שבה חלק מהתעשייה מדברת על סופר-אינטליגנציה, ביראת קודש ששמורה לאל, כישות מתוחכמת מעבר להבנתנו וכל-יכולה למעשה. סם אלטמן (Sam Altman), מנכ"ל OpenAI, אמר בעבר שהוא שואף לבנות "אינטליגנציה קסומה בשמיים". המסגור הזה, לטענת בננטי, מעוות את השיח: "האם אנחנו מדברים על משהו, או על מישהו? זה ההבדל האמיתי. זו לא שאלה של אמונה, זו שאלה של מתמטיקה. אנחנו לא בונים את האלוהות הבאה. אנחנו רק מוליכים את עצמנו שולל לחשוב שיש שם משהו מעבר לחישוב סטטיסטי".

דת במרחב הציבורי החדש

לדבריו, עצם העיסוק במה שמפריד בין אדם למכונה ובאיך להגן על דורות עתידיים מהשלכות שליליות של הטכנולוגיה, עשוי לייצר "תפקיד חדש לדתות בדיון הציבורי". התמודדות עם אתגר הזמן היא חלק מהמשימה של הכנסייה. בננטי מדגיש שהוא אינו מייצג רשמית את הכס הקדוש, הגוף השלטוני של הכנסייה הקתולית, אלא מייעץ לה בכובעו כחוקר פילוסופיה, תיאולוגיה וטכנולוגיה.