אופן-איי מבקשת מהקונגרס אישור חוקי להאטה מתואמת בפיתוח מודלי חזית

החברה פנתה בשבועות האחרונים למחוקקים בוושינגטון כדי לברר אם תיאום כלל-תעשייתי על האטת פיתוח בינה מלאכותית מתקדמת יעמוד במבחן דיני ההגבלים העסקיים, כך לפי גורמים המקורבים לחברה. הבקשה מגיעה על רקע חשש גובר במעבדות המובילות כי שיתוף פעולה מהותי בנושאי בטיחות עלול להיחשב כהגבלת תפוקה אסורה על פי חוק שרמן, מה שמרתיע את ענקיות הטכנולוגיה מלהצטרף ליוזמות כאלה.

הקונפליקט בין בטיחות לתחרות

בשבוע שעבר פרסם המדען הראשי של אופן-איי, יקוב פצ'וצקי (Jakub Pachocki), פוסט בבלוג החברה שבו טען כי הדרך הטובה ביותר קדימה כוללת "תיאום להאטת פיתוח עתידי", שלהערכתו חיוני להבטחת בטיחותן של מערכות בינה מלאכותית משפרות-עצמן. בטווח הקצר הוא צופה ש"האטות וולונטריות יהפכו לנפוצות עד שייקבעו רפי בטיחות משותפים". אלא שחוקרים משפטיים מזהירים: ניקולס פלסטד (Nicholas Felstead), סגן מנהל נציבות התחרות והצרכנות האוסטרלית ועמית מדיניות לשעבר במרכז למשפט וסיכוני בינה מלאכותית, כתב במאמר במרץ כי השהיה מתואמת עלולה להיחשב כהגבלת תפוקה מצד החברות, והדבר תלוי "לחלוטין בפרטים המדויקים של כל הסכם". לדבריו, גם אם רוב שיתופי הפעולה בבטיחות ישרדו ביקורת הגבלית, אי-הוודאות המשפטית כשלעצמה פועלת כגורם מרתיע רב-עוצמה.

יוזמת חקיקה דו-מפלגתית

סימנים ראשונים להקשבה בקונגרס הופיעו ביולי, כשקבוצה דו-מפלגתית ודו-ביתית הגישה הצעת חוק בשם "Collaboration on Adversarial Threats and Security Risks Act", שנועדה להתיר במפורש למעבדות בינה מלאכותית לתאם עבודת אבטחה ובטיחות בלי להסתכן בהפרת חוקי ההגבלים. גרסת בית הנבחרים הופנתה לוועדת המשפטים אך טרם נדונה. קיילב נאפ (Caleb Knapp), מנהל קשרי ממשל בעמותת AI Policy Network שתמכה בהצעה, הסביר שהיא תיצור ערוצים חוקיים לתיאום בין מעבדות לטיפול באירועי בטיחות ואבטחה. נאפ הוסיף שיש בקונגרס "תיאבון הולך וגובר לקדם משהו" בנושא בטיחות בינה מלאכותית, אך חקיקה של ממש עשויה להמתין עד לאחר בחירות האמצע הקרובות.

מאחורי החשש המשפטי: תחרות וגישות שונות

לצד החשש ההגבלי הלגיטימי, יש מי שטוענים שהוא משמש כסות נוחה להימנעות משיתוף פעולה מסיבות עמוקות יותר. מדובר בשוק ענק שבו החברות מתחרות באגרסיביות על נתח מהשוק המתהווה של מודלי חזית. חלק מהמנהלים שותפים לעמדת ממשל טראמפ שלפיה הובלה על סין בבינה מלאכותית קריטית לביטחון הלאומי. ואולי הכי חשוב: למפתחים שונים דעות שונות מהותית על הדרך הנכונה לפתח בינה מלאכותית בטוחה, מה שמקשה על נכונות לעבוד יחד.

הקריאה להפסיק את היריבות

ג'ון שולמן (John Schulman), ממייסדי אופן-איי וכעת מדען ראשי במעבדה המתחרה Thinking Machines, כתב השבוע ב-X ש"הצעד הראשון הוא שמנהיגי התעשייה אופן-איי ואנתרופיק יפסיקו לריב ויעבדו יחד על הצעת קצב". לטענתו, "הם יטענו להגבלים עסקיים, אבל זה מזויף, חוקי הגבלים אוסרים הסכמים מסוימים, לא פיתוח משותף של הצעה". ברקע הדברים, חששות ארוכי טווח ממרוץ החימוש בין חברות הבינה המלאכותית פרצו הקיץ למודעות ציבורית רחבה. השבוע הצטרף לאזהרות ג'ייקוב קוקסון (Jacob Coxon), חוקר לשעבר באנתרופיק ואופן-איי, שפרסם אזהרה פומבית חריפה שלפיה מפתחי בינה מלאכותית מסכנים את האנושות. בחודשים האחרונים נחשפו כמה תקריות אבטחה, בהן סוכנים של אופן-איי שפרצו להאגינג פייס (Hugging Face), שהמחישו כיצד אמצעי ההגנה של התעשייה מפגרים אחרי קצב ההתקדמות.