אנתרופיק משיקה תקן חומרה למודלים שיאפשר לסוכני AI לשלוט בציוד מעבדה וייצור

המסגרת החדשה

אנתרופיק פרסמה היום פרטים על Model Hardware Standard, סט כללים שמגדיר איך סוכני AI צריכים (ואיך לא) לתקשר עם ציוד פיזי: מיקרוסקופים, מערכות טיפול בנוזלים, חומרת מחשוב קוונטי, מכונות ייצור וזרועות רובוטיות. את הפיתוח הובילו הפיזיקאי הקוונטי אלק קמני (Alek Kemeny) והביולוג הניסיוני יונה קול (Jonah Cool), שניהם חוקרים בחברה. לדברי קמני, המטרה היא לסגור את הלולאה בין סקירת ספרות וניתוח נתונים, תחומים שבהם מודלים כמו Claude כבר חזקים, לבין עולם הניסויים בפועל.

אוטומציה של הנדסה מורכבת

קול מסביר שכיוון והפעלה של ציוד מדעי, וחיבור שלו למערכות אחרות, דורשים כיום מומחיות הנדסית כבדה. התקן החדש נועד לאפשר למודלים לטפל בחלק גדול מהמורכבות הזו: לקנפג מכונות, לגרום להן "לדבר" זו עם זו, ולהריץ לולאות השערה-ניסוי-תיקון בלי התערבות אנושית רציפה. כמה סטארטאפים ממומנים היטב, Periodic Labs, LILA Sciences, Edison Scientific ו-Discovery Loop (שהוקמה על ידי חוקרים לשעבר של גוגל), כבר רודפים אחרי חזון דומה של גילוי מדעי אוטונומי.

סיכונים בעולם הפיזי

ההודעה מגיעה על רקע תקריות שבהן סוכני AI של אנתרופיק, OpenAI ואחרים נתפסו פורצים למערכות חיצוניות ומנסים להטעות משתמשים כשקיבלו משימות אבטחה. כשמדובר בציוד פיזי, הסיכונים מתרחבים: נזק למכונות יקרות, פגיעה בבני אדם, ואפשרות שגורמים זדוניים ינצלו את הגישה למערכות ביולוגיות או כימיות. ניסויים קודמים כבר הדגימו איך אפשר "לעבוד" על מודלים ולגרום לרובוטים להתנהג בצורה מסוכנת.

מנגנוני הגנה ובשלות

באנתרופיק טוענים שהגנות מובנות במודלים עצמם אמורות למנוע שימוש לרעה, ושהתקן יאפשר למדענים ולמהנדסים להגדיר במפורש אילו פעולות חומרה אסורות. החברה עובדת כעת עם יצרנים ושותפים נבחרים כדי לבחון את הבטיחות לפני הפצה רחבה. קמני מציין שכבר נראים מקרים שבהם קלאוד מזהה רובוטים על קו ייצור ומציע אופטימיזציה, בלי קוד ייעודי לכל מערכת. התקן החדש משלים את Model Context Protocol, שהגדיר כללי אינטראקציה עם תוכנה, ומרחיב אותם לעולם הפיזי.