מודלים פתוחים מגיעים לביולוגיה, אבל להגיש אותם זה כבר סיפור אחר

פיילו (Phylo), מעבדת מחקר יישומית שצמחה מפרויקט הקוד הפתוח ביומני (Biomni) בסטנפורד, מעבירה את שכבת ההרצה של המודלים הפתוחים שלה ל-Fireworks AI. המעבר מגיע אחרי שהמוצר המסחרי של החברה, ביומני לאב (Biomni Lab), הגיע לעשרות אלפי מדענים והעלות של הרצת סוכנים (agents) ארוכי-אופק הפכה למגבלה קשה.

מה זה ביומני לאב

ביומני לאב נותן לביולוגים סוכנים שמתכננים, מריצים ומתעדים מחקר על גבי מאות בסיסי נתונים וכלים משולבים, סקירת ספרות, גיבוש השערות, תכנון ניסויים ואנליזת נתונים. לפי החברה, מדענים מדווחים על האצה של עד פי 40 במחזור מהשערה לאנליזה. הפרויקט התחיל ב-2024 בקוד פתוח ומשמש היום יותר מ-50 אלף חוקרים במעבדות ברחבי העולם; הצוות המסחרי מונה כעת עשרות עובדים וגדל מהר.

ארכיטקטורה של ריצות ארוכות

הסוכן של ביומני לאב רץ שעות עד ימים על דאטה־סטים של עשרות עד מאות ג׳יגה־בייט. הוא מקים מכונות מרובות, מתחבר לאשכולות HPC לעבודות ביו-אינפורמטיקה כבדות, וקורא למודלי יסוד ייעודיים לחיזוי מבנה חלבון ועיצוב חלבונים. הסוכן עצמו מחליט איזה משאב נדרש ובאיזה סדר. ״הסוכן הוא המוח שמתאם את כל סוגי הפעולות האלה לביצוע אנליזה מקצה לקצה, תוך טיפול בדאטה גדול וניהול מכונות״, מסביר טיאנוויי שה (Tianwei She), מהנדס מייסד בפיילו שעובד על המוצר, הבקאנד, רתימת הסוכנים וצינור ההערכה שקובע את איכותם.

כלכלת טוקנים כמגבלת שימוש

הוצאת ה-LLM היא עיקר בסיס העלויות של פיילו, ובחירת מודל קובעת את מבנה העלויות של המוצר. ביומני לאב מתומחר לפי שימוש עם דרגת חינם מוגבלת; צריכת הטוקנים בריצות סוכניות כאלה גבוהה במיוחד, ועלות האינפרנס לא הייתה רק שורה בחשבון תשתית, היא קבעה את מכסת השימוש, והמכסה קבעה כמה מדע יכול ביולוג לעשות לפני שנתקל בקיר תשלום.

דרישת משתמשים לבחירת מודל

במקביל, חוקרים ביקשו שליטה על המודל שמריץ את העבודה שלהם. עד אז הספיקו מודלים פתוחים (open-weight) חזקים כדי להציע חלופה אמיתית. ״התחלנו עם יותר מודלים קנייניים. רצינו להביא את ביומני לאב לכמה שיותר מדענים באותה איכות חזית תוך הורדת עלויות. בו בזמן, המשתמשים שלנו ממש רוצים את הגמישות לבחור מודלים. יש כל כך הרבה מודלי קוד פתוח טובים בחוץ, ורצינו לתת להם את השליטה הזו״, אומר שה.

למה לא לארח עצמאית, ולמה פיירוורקס

אירוח עצמי (self-hosting) לא עמד על הפרק: צוות קטן שמתמודד עם בעיה מדעית קשה לא צריך לשרוף שעות הנדסה על סטאק הרצה. פיילו בחנה כמה ספקי אינפרנס והריצה הערכה טכנית בת מספר שבועות על פני כמה מודלים בפיירוורקס. שלושה גורמים הכריעו את השותפות, הפירוט המלא שלהם לא פורסם במלואו במקור שנקטע.

בנצ׳מרק פנימי: מודלים פתוחים ״מספיק טובים״

פיילו מריצה את ביומניבנץ׳ (BiomniBench) הפנימי שלה כדי למדוד כמה טוב כל מודל מטפל במשימות ניתוח הנתונים האלה. מודלי חזית פתוחים השיגו ציונים גבוהים מול הבנצ׳מרק הזה. המסקנה של הצוות: מודלים פתוחים כבר מספיק מסוגלים למגוון רחב של עבודה ביו-רפואית, והגשה יעילה שלהם מאפשרת לשים את היכולת הזו מול יותר מדענים. זו טענת יצרן שמבוססת על בנצ׳מרק פנימי, לא על מבחן צד שלישי בלתי תלוי, וכדאי לקרוא אותה עם הסייג המתאים.