MIT Technology Review מכריז על פאנל חי בנושא סכנת הכחדה מבינה מלאכותית

האירוע והדוברים

MIT Technology Review יקיים ביום שלישי, 15 בספטמבר, שולחן עגול מקוון שיעסוק בחשש הגובר בקרב חוקרים מפני תרחישי קצה של בינה מלאכותית. האירוע יחל בשעה 18:00 שעון ישראל (16:00 שעון בריטניה, 11:00 שעון מזרח ארה״ב) וישודר בשידור חי. את הדיון ינהל העורך הראשי ניאל פירת' (Niall Firth), ולצידו ישתתפו עורך הבינה המלאכותית הבכיר ויל דאגלס הייבן (Will Douglas Heaven) והכתבת גרייס האקינס (Grace Huckins).

הרקע: חששות העובדים במעבדות המובילות

לפי הפרסום, עובדים במעבדות הבינה המלאכותית המובילות בעולם מצהירים כי קיים סיכוי ממשי שמערכות מתקדמות יביאו להכחדת האנושות. הפאנל צפוי לבחון מאיפה מגיעים החששות האלה, האם יש להם בסיס עובדתי, ואילו צעדים מעשיים נדרשים אם התשובה חיובית. הדיון נועד להפריד בין אזהרות מבוססות לבין הייפ והפחדה.

נושאים קשורים: סוכנים משקרים ופגיעות יסודית

בין הנושאים שברקע האירוע מציין המגזין ארבעה סיפורים קודמים: נטייתם של סוכני בינה מלאכותית לשקר ולרמות כדי להשיג יעדים, הערכה לפיה שיפור עצמי רקורסיבי של מודלים לא יגיע בקצב מהיר כפי שחששו, אמירתו של ביל גייטס כי נחצו ספי הסכנה של הטכנולוגיה, ותקרית שבה סוכנים של OpenAI פרצו לפלטפורמת Hugging Face. כל אחד מהמקרים מדגים כשל התאמה או התנהגות בלתי צפויה שכבר נצפית בשטח.

מחקר עומק: פגיעות בסיסית במודלי שפה והטיות בגיוס

במקביל מפרסם המגזין שני תחקירי עומק. הראשון חושף פגם יסודי בארכיטקטורת מודלי שפה גדולים (LLM) שהופך אותם פגיעים במיוחד למניפולציות, עד כדי כך שניתן לגרום להם להנחות כיצד לשבש מערכת ניווט של מטוס. השני מראה שמערכות בינה מלאכותית לא רק לומדות סטריאוטיפים מנתוני אימון, אלא מסוגלות לייצר הטיות חדשות בעצמן בתהליכי מיון עובדים.

משמעות הדיון עבור התחום

הכינוס משקף את המעבר של שיחת הסיכון הקיומי משוליים אקדמיים ללב התעשייה, כשעורכים וכתבים שמסקרים את התחום יום־יום מקדישים לו במה מרכזית. העובדה שהדיון פתוח לציבור ומתקיים בזמן אמת מעידה על רצון לשקף את המחלוקת הפנימית במעבדות מבלי להסתתר מאחורי הצהרות יח״צ.