הסף הנמוך של נשק ביולוגי מאיים יותר מהשמדה בידי בינה מלאכותית

הדיון הציבורי מתמקד בתרחישי אפוקליפסה של מודלים שמשתלטים על הרשת או משגרים מתקפות סייבר, אבל לפי תרחיש המלחמה הביולוגית של אנני ג'ייקובסן (Annie Jacobsen), האיום המיידי יותר מגיע דווקא מהצד הביולוגי, כי מחסום הכניסה נמוך בהרבה. מסמך של משרד ההגנה האמריקאי שמצוטט בספר מציב נשק ביולוגי שני רק לנשק גרעיני בספקטרום ההרס, אלא שבניגוד לחומר בקיע בדרגת נשק, כאן לא נדרשת תשתית מדינתית כדי להתחיל.

מה ש-Anthropic חשפה החודש

דוח שימוש לרעה ש-Anthropic פרסמה בתחילת החודש מתעד חמישה מקרים שבהם חוקרים זרים ניסו לעקוף את מנגנוני ההגנה של קלאוד (Claude) סביב שאלות "רווח תפקוד" (gain of function), כינוי מקצועי להנדסת פתוגן כך שיהיה מדבק יותר, קטלני יותר או מותאם להפצה בין יונקים. החברה חסמה את החשבונות וסירבה לספק את המידע, תוך שהיא מציינת שהמניעים לא בהכרח זדוניים: אותו ידע משמש גם לפיתוח חיסונים ותרופות נגד מגיפות. זו בדיוק הבעיה הכפולה (dual use) שמלווה את ההנדסה הגנטית הרבה לפני שהבינה המלאכותית נכנסה לתמונה.

ג'יקובסן והגישה לבכירים

ג'ייקובסן, שספרה הקודם "מלחמה גרעינית: תרחיש" הפך לרב-מכר, מביאה לספר החדש "מלחמה ביולוגית: תרחיש" (שיצא ביולי) גישה ישירה לפקידי צבא, מודיעין ומדענים שעוסקים בתכנון תגובה לאירועים כאלה. מיכאל מכניק (Michael Mechanic), עורך ב-Mother Jones וביולוג מולקולרי בהכשרתו שמסקר את ויכוח רווח-התפקוד עוד מלפני עידן ה-LLM, מודה שקריאת הספר הגבירה את ספקנותו לגבי הטענה ש"עדיף לפרסם ולחקור". החוקרים שעובדים עם פתוגנים בסיכון גבוה נוטים לתמוך בפרסום פתוח בשם ההבנה המדעית, גם כשההיסטוריה מראה שדליפות מעבדה קורות, ושחקנים זדוניים קיימים.

תרחיש ביולוגי מול גרעיני

ההבדל המרכזי שעולה מהשיחה עם ג'ייקובסן הוא אסימטריית ההרתעה: תוכנית הגרעין האמריקאית נבנתה סביב השמדה הדדית מובטחת, אבל מול מתקפה ביולוגית "אנחנו באמת לא יכולים להתגונן", כדבריה. הסף הנמוך, ציוד מעבדה נגיש, פרוטוקולים שפורסמו בספרות, ועכשיו גם מודלים שיכולים לקצר את עקומת הלמידה, הופך את התרחיש לסביר יותר סטטיסטית, גם אם פחות "סקסי" בכותרות. הספר לא מציע פתרון קסם; הוא מציב את חוסר המוכנות מול הפרצוף, ומשאיר את הקורא עם השאלה אם הקהילה המדעית והרגולטורים מוכנים לשנות פרדיגמה לפני שהאירוע הראשון קורה.