אנתרופיק מתקרבת לשיווק הנפקה בזמן שחוקר בחברה מזהיר מהסתברות של יותר מעשרה אחוזים להכחדה אנושית

מעשה ידי בינה מלאכותית בתוך עשור ## חוקר פנימי מציב תמרור אזהרה

לפי דיווח של The Information, חוקר ב־Anthropic פרסם תחזית פומבית שלפיה קיים סיכוי של יותר מעשרה אחוזים שבינה מלאכותית תגרום להכחדת המין האנושי בתוך עשר שנים. האמירה מגיעה דווקא כשהחברה נערכת לשלב הבא בחייה הציבוריים, תהליך שיווק לקראת הנפקה ראשונית בבורסה. השילוב בין תחזית אפוקליפטית מצד עובד פעיל לבין מהלך פיננסי שאמור למכור את החברה למשקיעים יוצר מתח שקשה להתעלם ממנו.

עזיבה יקרה על רקע חששות בטיחות

ברקע הדברים עומד סיפורו של ג'ייקוב קוקסון (Jacob Coxon), שעזב את החברה לפני כחודשיים בגלל חששות בטיחות, חודשיים בלבד לפני שמועד ההבשלה הראשון של המניות שלו היה אמור להגיע. באנתרופיק תקופת ההבשלה עומדת על שישה חודשים, וקוקסון שהה בחברה ארבעה חודשים בלבד, כך שההחלטה לעזוב עלתה לו בכל הנתח שלו. לפי דיווח של Axios, המהלך מדגים עד כמה החששות הפנימיים חריפים דיים כדי לגרום לעובד לוותר על הון משמעותי.

הצורך בכסף דוחף להנפקה

גורמים המקורבים לחברה מציינים כי אנתרופיק אינה יכולה לוותר על ההנפקה משום שהיא זקוקה להון כדי להמשיך לפעול. עלויות האימון וההפעלה של מודלים בקנה מידה כזה מגיעות למאות מיליוני דולרים בשנה, וההכנסות הנוכחיות ממנויים ומממשקי API עדיין אינן מכסות את מלוא ההוצאה. ההנפקה, אם תצא לפועל, תהיה במידה רבה מהלך הישרדותי יותר מאשר מהלך אסטרטגי של צמיחה.

ביקורת על מודל "בינה מלאכותית חוקתית"

מבקרים בתעשייה טוענים כי הגישה שאנתרופיק מקדמת, "בינה מלאכותית חוקתית" (Constitutional AI), משמשת בעיקר ככלי שיווקי שנועד להרגיע רגולטורים ומשקיעים, בעוד שבפועל החברה מונעת על ידי אותם תמריצים מסחריים שמניעים את מתחרותיה. רשימת המשקיעים בחברה, הכוללת את Google, אמזון (Amazon) וקרנות הון סיכון גדולות, מחזקת לטענתם את הטענה שהאינטרס הפיננסי גובר על כל מחויבות בטיחותית מוצהרת.