כשהמחולל כותב את החשבונית

גלאי הטקסט של GPTZero תפס את PwC במזרח התיכון עם המכנסיים למטה: ארבעה דוחות רשמיים שפורסמו בין 2024 ל-2026 מכילים ציטוטים מומצאים, עובדות בדויות והפניות שמובילות לשום מקום. המסמך הכי בעייתי, "Transforming Governance", קיבל ציון 84% הסתברות שנכתב כולו בידי מודל שפה, ובתוכו מקדמים מוצר בשם Citizen Pulse בטענה שממשלות דנמרק, ערב הסעודית, ארה"ב ואוסטרליה כבר משתמשות בו. בדיקה פשוטה מעלה שאין לזה שום אחיזה במציאות.

מה זה "ווייב-ציטוטים"

החוקרים של GPTZero זיהו דפוס חוזר: ככל שחלקו של הטקסט הגנרטיבי גדל, כך מתרבה רשימת המקורות הפיקטיביים. הם קראו לזה "ווייב-ציטוטים", הערות שוליים שנזרקות פנימה בלי כותב אמיתי, בלי URL תקין ובלי שום קשר לטענה שהן אמורות לתמוך בה. זה לא טעות הקלדה, זה סימפטום: המודל מייצר מראית עין של אקדמיות כי ככה נראה "דוח רציני" בנתוני האימון שלו.

התגובה הסטנדרטית

ב-PwC הגיבו בנוסח הקבוע: "לוקחים ברצינות את דיוק הנתונים ומעדכנים את המקורות". על השאלה איך הגיעו הזיות למסמכים רשמיים של פירמה שגובה מיליונים על ייעוץ, אין תשובה. וזה לא מקרה בודד: קודם לכן GPTZero מצא תופעה זהה בדוחות של KPMG, Deloitte ו-Ernst וYoung. ה"ביג פור" הפכה, בלי להתכוון, לבטא של הבעיה הכי בסיסית של LLM: הוא לא יודע מה הוא לא יודע, אבל כותב בביטחון מלא.

מאחורי הגלאי

GPTZero עצמו איזה סטארטאפ שצמח מהר, מעל 10 מיליון משתמשים, בהם מרצים, כותבים ואנשי סייבר. הצוות מגיע מ-Perplexity AI, אפל, מיקרוסופט AI, אובר, קלטק וסטנפורד. הם בנו את המוניטין על זיהוי טקסט סינטטי בכיתות לימוד; עכשיו הם מראים שהבעיה זלגה לקומה העליונה של המגזר העסקי. כשדוח ייעוץ נכתב בפרומפט, הלקוח משלם על הזיה, ולא על מומחיות.

השורה התחתונה

הכלים לזהות טקסט מכונה משתפרים מהר יותר מהנכונות של ארגונים להודות שהשתמשו בהם בלי בקרה. PwC ושות' יצטרכו להחליט: או שמפסיקים לשלוח ללקוחות תוצרים שלא עברו עין אנושית, או שהאמינות, הנכס היחיד שיש להם למכור, תמשיך להישחק דוח אחרי דוח.