כנס Ai2 חשף חמישה חסמים בדרך לסוכני מחקר מדעיים אוטונומיים

בינה מלאכותית כבר יודעת לחפש ספרות, לנתח דאטה, לכתוב קוד ולהציע השערות, אבל הבעיה הקשה היא לבנות מערכות שחוקרים יכולים לכוון בזמן אמת כשהפרויקט משתנה. זו היתה המסקנה המרכזית שעלתה מאירוע שקיימו ב-Ai2 ב-27 באוגוסט, לציון הרחבת שיתוף הפעולה עם מרכז המחקר על שם פול אלן במכון הסרטן פרובידנס שוודיש. הכנס כינס רופאים-חוקרים, מדעני מחשב ואנשי בריאות ציבור כדי למפות את מה שחסר היום ב-AI למדע, וחמישה אתגרים חזרו ועלו בכל ההרצאות ובפאנל.

רקע: שיתוף הפעולה עם מכון הסרטן

העבודה המשותפת עם מרכז פול אלן שימשה נקודת מוצא לדיון הרחב יותר. חוקרי Ai2 הציגו את AutoDiscovery, מערכת שמציפה השערות על בסיס ניתוח סטטיסטי, וגילו שהרבה מההצעות נראו מפתיעות מבחינה מספרית אבל חסרות היגיון ביולוגי או קליני בלי הקשר של מומחה. רק כשהחוקרים הכניסו את הידע התחומי שלהם לתהליך, המערכת הפכה לשימושית. המסקנה: הפער לא ביכולת החישובית אלא בממשק בין המכונה למומחיות האנושית.

אתגר ראשון: הטעם המדעי נשאר אנושי

בודהיסטווה פרסאד מג'ומדר (Bodhisattwa Prasad Majumder), חוקר בכיר ב-Ai2, הגדיר "טעם מדעי" כשיפוט שמאפשר לחוקר להבחין בין תוצאה מעניינת לכזו שהיא טריוויאלית, לא סבירה, כבר ידועה או חסרת תוחלת. המערכות הקיימות לא יודעות לעשות את ההבחנה הזו לבד. המטרה אינה להעביר את השיפוט הזה ל-AI במלואו, אלא לתת לחוקרים דרכים טובות יותר להזין את המומחיות, סדרי העדיפויות וההבנה המשתנה של הבעיה, כדי שה-AI יסייע בלי להחליט לבד אילו כיוונים שווים חקירה.

אתגר שני: שמירה על יכולת הכוונה לאורך זמן

מחקר מדעי כמעט אף פעם לא הולך לפי תוכנית קבועה: ניסוי מניב תוצאה לא צפויה, מאמר חדש משנה את תמונת הידע, או שחוקר רוצה להוסיף דאטהסט, להחליף כלי או להפנות סוכן (agent) לכיוון שלא תועדף קודם. מג'ומדר טען שהסוכנים הנוכחיים קשים להכוונה בחקירות ארוכות טווח. מדענים צריכים לעדכן הנחיות, הקשר וכלים כשמגיעות תוצאות חדשות, בלי להתחיל מאפס או לאמן מחדש את המודל הבסיסי בכל פעם. עבור סוכנים מדעיים, יכולת הכוונה ועדכון ידע שוטף קשורות זו בזו: סוכן שימושי לא יכול להסתפק בבריף התחלתי, הוא חייב להישאר אדפטיבי ככל שהמחקר מתפתח.

אתגר שלישי: להחליט מה להאציל ומה לא

הויפונג פון (Hoifung Poon), מנהל AI ראשי ברקורסיה (Recursion), הבחין בין שני סוגי תרומה: רווחי פרודוקטיביות, משימות שאנשים כבר יודעים לעשות אבל הן מייגעות או גוזלות זמן, כמו חיפוש ברשומות, מבנה מידע או סינתוז ספרות, ורווחי יצירתיות. המשימות מהסוג הראשון קלות יחסית להגדרה, וחשוב מכך, לוולידציה. המקור נקטע לפני פירוט האתגרים הנותרים, אבל ההבחנה של פון מסמנת את הגבול המעשי: איפה נגמרת אוטומציה ומתחילה שותפות מחקרית אמיתית.