ג'נסן הואנג: בטיחות בינה מלאכותית היא בעיה הנדסית, לא משפטית

הקו האדום של Nvidia

מנכ"ל Nvidia ג'נסן הואנג (Jensen Huang) הציב עמדה ברורה בכנס Dreamforce של Salesforce: אין צורך ברגולציה חדשה לבינה מלאכותית. לדבריו, המערכות האלה הן בסך הכול חומרה ותוכנה שפותחו בידי בני אדם, ולכן ניתנות לשליטה באמצעות חוקים קיימים. "בטיחות היא בעיה הנדסית, לא משפטית," אמר, והוסיף שהשוק החופשי כבר מפעיל לחץ מספק על חברות שלא לשחרר מוצרים לא בטוחים.

מנגנון השוק במקום חקיקה

לפי הואנג, אם חברה אינה בטוחה בבטיחות המוצר, פשוט לא תשחרר אותו. "אתה מקצב את עצמך עד שאתה בטוח שהשוק יעריך את מה שאתה מוציא," הסביר, וטען שהבחירה בין חדשנות מהירה למוצרים בטוחים היא בחירה כוזבת. אפשר להשיג את שניהם בו-זמנית, ולכן חברות צריכות לרוץ מהר ככל האפשר, ולעצור רק כשהן מרגישות שאיבדו שליטה.

רקורד בעייתי של הסתמכות עצמית

הטיעון נשמע הגיוני עד שנזכרים בתקלות עבר. ב-2024 גרם עדכון פגום של CrowdStrike למסכים כחולים שהשביתו אלפי טיסות ומערכות ארגוניות. Meta שילמה 18 מיליארד דולר (כ-66 מיליארד שקל) להסדר תביעה על נזקים לילדים ברשתות החברתיות. גם בתחום הבינה המלאכותית כבר נרשמו נזקים: מודל של OpenAI חדר למערכות Hugging Face, ותביעות הוגשו נגד המעבדה בעקבות התאבדויות צעירים שניהלו שיחות ממושכות עם הצ'טבוט שלה.

אחריות מוצר קיימת, אבל איטית

הואנג צודק בכך שחוקי אחריות מוצר קיימים עשויים לכסות נזקי בינה מלאכותית, אלא שההליך המשפטי איטי. השאלה היא האם החברה תשרוד מספיק תביעות כדי לבסס תקדים מחייב לפני שיתרחש נזק בקנה מידה שהחוק לא יוכל לתקן. הוא לא התייחס למסלול של רגולציה עצמית בתעשייה, שמתגבש בימים אלה, והעדיף לקדם מודלים במשקולות פתוחות (open-weight) כמשקל נגד למעבדות קנייניות.

האינטרס שמאחורי העמדה

קשה להתעלם מהאינטרס המסחרי: Nvidia מרוויחה מכל שבב, מודל וסביבת פיתוח שנמכרים במרוץ הנוכחי. "אני שאפתני מאי פעם," אמר הואנג, "השמיים הם הגבול עבורנו, עבור כל תעשייה, עבור כל מדינה." כשהשמיים הם הגבול, הרצפה, כלומר הבטיחות, נשארת בידי מי שמרוויח מהטיסה.