פרפליקסיטי משיקה מחשוב היברידי למק: סוכני ענן מנהלים משימה ויורדים למודל מקומי כשצריך

פרפליקסיטי (Perplexity) שחררה השבוע את Hybrid Compute לגרסת המק, ארכיטקטורה שמפצלת משימה אחת של Perplexity Computer בין מודלי חזית בענן למודל קומפקטי שרץ על המק של המשתמש, כששער פרטיות מקומי (on-device privacy gate) מחליט מה חוצה את הגבול. הבעיה המבנית שזה פותר פשוטה: ההקשר שהופך עוזרים סוכניים (agentic) לשימושיים, מסמכי עסקה, קבצים מיוחסים, רשומות לקוחות, הוא בדיוק ההקשר שמשתמשים לא יכולים לשלוח לנקודת קצה בענן. פרפליקסיטי גם פתחה את הקוד של המסווג שעומד מאחורי השער הזה.

איך זה עובד בפועל

כיוון התזמור הוא ההחלטה הארכיטקטונית המרכזית. Computer מתחיל כל משימה בענן, שם מודלי החזית מטפלים בחיפוש רשת, תכנון והסקה ארוכת-טווח. כששלב כלשהו נוגע בקבצים פרטיים או בנתונים רגישים, המערכת מורידה את אותו שלב למודל המקומי על המק בלי לאתחל את המשימה ובלי לאבד הקשר, ואז ממזגת את שני החצאים לתוצאה אחת. זה היפוך של מצב המחשוב המקומי שפרפליקסיטי השיקה שבוע קודם על NVIDIA DGX Spark, שמתחיל על החומרה של המשתמש ומסלים לענן באישור. אותו מתזמן, ברירת מחדל הפוכה. מכיוון ש-Computer עובד עם אייפון, אפשר להפעיל משימה מרחוק בזמן שהשלבים הרגישים רצים על המק שעל השולחן; פרפליקסיטי ממצבת מק מיני (Mac mini) דולק-תמיד כצומת הסקה מקומית ייעודית בדיוק לדפוס הזה.

שער הפרטיות הוא הרכיב נושא-העומס

לפני ששום דבר מקובץ מוגן מגיע לענן, מסווג מקומי בודק אותו והשער מפעיל אחת מארבע תוצאות: להשאיר מקומי, למסך את הקטעים הרגישים, לסרב לפעולה, או לבקש הסכמת משתמש. אישורים, מספרי כרטיסי אשראי ומזהי ממשל מקבלים את הטיפול המחמיר ביותר. ערכים ממוסכים מוחלפים במַחְלִיפִים (stand-ins) בדרך החוצה ומוחזרים כשהתשובה מהענן חוזרת. המסווג, שנקרא PII-Tracer, הוא מקודד דו-כיווני (bidirectional encoder) של 0.6 מיליארד פרמטרים שפותח משלדת Qwen3, עם החלפת המסכה הסיבתית (causal mask) במנגנון קשב דו-כיווני מודע-ריפוד (padding-aware) על חלון של 4,096 טוקנים. ראש תיוג ליניארי פולט 37 תוויות, תווית אחת מחוץ לטווח (outside-span) ועוד תוויות מיקום BIOES לכל אחד מתשעה סוגי PII, וראש עזר (auxiliary head) חוזה אם שיחה מכילה חומר רגיש. האימון רץ שלוש אפוקות (epochs) על כ-714,000 דגימות; מפענח ויטרבי (Viterbi decoder) מוגבל פותר את רצף התוויות בזמן הסקה.

בנצ'מרק PII-TRACE: עקביות מול המתחרים

הבנצ'מרק הנלווה, PII-TRACE, מכיל 13,148 שיחות סינתטיות ב-13 שפות ו-10 מערכות כתב, עם 37,431 אזכורים ברמת תו (character-level). הטענה המרכזית: למצוא את רוב ה-PII בשיחה ארוכה זה לא אותו דבר כמו למצוא כל עותק שלו. בתוצאות: על פני 12 גלאים, PII-Tracer רושם את ה-F1 ברמת תו הגבוה ביותר (0.629) ואת ה-F1 השני בטיבו בחפיפת-טווח (span-overlap) והכלת-טווח (span-containment), אחרי GPT-5.6-sol. בעקביות (consistency) הוא מוביל בפער רחב, כל אזכור נמצא עבור 79.4% מהמזהים החוזרים ו-77.6% מהמזהים שחוצים תורות שיחה (cross-turn), לעומת 57.0% ו-55.1% אצל GPT-5.6-sol. בדלי הקשה ביותר (6-10 אזכורים) הוא משיג 0.691 מול 0.464 של GPT-5.6-sol, 0.073 של GLiNER2-PII ו-0.045 של Claude Opus 4.8.

נפילת הזכירה בחלון ארוך, והתיקון בלי אימון מחדש

מעניין לראות שזכירה (recall) בחלון בודד צונחת מ-0.975 בשיחות מתחת ל-1,000 תווים ל-0.687 ב-10,000 תווים ומעלה. התיקון של פרפליקסיטי הוא בפענוח, לא באימון מחדש: חלונות מחליקים (sliding windows) עם חפיפה של 50% מקפיצים את הזכירה הכוללת ברמת תו מ-0.830 ל-0.965 ואת הזיהוי העקבי מרובה-האזכורים מ-0.794 ל-0.954, על אותו צ'קפוינט (checkpoint) בדיוק.

זמינות ודרישות: מק סיליקון, 24 ג'יגה זיכרון מאוחד

המחשוב ההיברידי זמין כבר עכשיו למנויי Pro, Max ו-Enterprise על כל מק עם שבב אפל סיליקון (Apple silicon) שמריץ macOS 15 ומעלה, עם לפחות 24 ג'יגה-בייט זיכרון מאוחד (unified memory), 32 ג'יגה מומלצים. המודל המקומי מותקן בלחיצה אחת מהאפליקציה, בלי אולמה (Ollama), בלי זמן ריצה נפרד ובלי מפתח API, ועבודה מקומית לא צורכת קרדיטי ענן. המסווג PII-Tracer שוחרר בקוד פתוח, כך שכל אחד יכול לבחון, להריץ או לשלב אותו עצמאית.