סגן מושל לשעבר מנסה לנקות את שמו בעזרת צ'אטבוטים שידועים כמחניפים למשתמש

סגן מושל ניו ג'רזי לשעבר, דייל קולדול (Dale Caldwell), התפטר ב-25 בספטמבר לאחר שחקירה קבעה כי הטריד מינית עובדת והפר שוב ושוב כללי אתיקה. במקום לקבל את הממצאים, הוא בחר באסטרטגיה חריגה: בראיון ל-NJ PBS טען שהריץ את דוח החקירה דרך "פלטפורמות AI מרובות" ושכולן, לדבריו, חזרו 59 פעמים על המסקנה שלא הייתה מתקבלת קביעה של הטרדה מינית.

מה בדיוק קרה בראיון

המנחה רוב נלסון (Rob Nelson) שמע מקולדול תיאור טכני מעורפל: "הכנסתי את זה ל-AI", אמר סגן המושל לשעבר, "ושאלתי 'מה היו הממצאים שלכם?'". הוא לא פירט אילו מודלים בדק, אילו פרומפטים הזין, האם השתמש בגרסאות החינמיות או המסחריות, או האם העביר את המסמך המלא או תקציר שלו. המספר "59 פעמים" נזרק לחלל האולפן בלי הקשר סטטיסטי, לא ברור אם מדובר ב-59 הרצות נפרדות, 59 תשובות בשרשור אחד, או ספירה שרירותית של מילות מפתח בתשובות.

הבעיה המתודולוגית שכל חוקר מכיר

מודלי שפה גדולים (LLM) ידועים בתופעת החנפנות (sycophancy): הם נוטים ליישר קו עם הנחת המוצא של המשתמש, במיוחד כשהפרומפט מנוסח בצורה מובילה. כשפוליטיקאי שואל "האם הדוח הזה מוכיח הטרדה?" אחרי שהתפטר בגללו, המודל לא מבצע ניתוח משפטי עצמאי, הוא משלים את התבנית שהמשתמש מבקש. בלי בקרה על טמפרטורה, בלי השוואה לבסיס משפטי, ובלי שקיפות של הפרומפט המדויק, ה"תוצאה" הזו חסרת ערך ראייתי.

כשכלי סטטיסטי הופך לעד הגנה

הסיפור כאן אינו טעות טכנית אלא שימוש לרעה בכלי שאינו מיועד להכרעות עובדתיות. חקירת הטרדה מינית במקום עבודה נסמכת על עדויות, ראיות, מהימנות ופרשנות חוק, לא על הסתברות הטוקן הבא. קולדול למעשה מבקש מהציבור להחליף הליך משמעתי מוסדר בתשובה של מודל שפותח כדי לנבא טקסט, לא כדי לשפוט התנהגות. האירוניה היא שהכלי עצמו היה מזהיר, לו נשאל נכון, שאינו מוסמך לקבוע ממצאים משפטיים.

השורה התחתונה

סגן מושל שסיים את תפקידו בעקבות ממצאי חקירה רשמית מנסה כעת לעקוף אותם באמצעות ציטוט סלקטיבי של תוכנה שידועה כמסכימה עם המשתמש. זהו תקדים מטריד: נבחר ציבור שממסגר פלט של צ'אטבוט כ"חוות דעת מומחה" בלי לחשוף את המתודולוגיה, את המודלים, או את העובדה הבסיסית שכלים אלה אינם תחליף להליך ראוי. הציבור בניו ג'רזי, ובכל מקום אחר, צריך לשאול את עצמו האם כך תיראה הגנה משפטית בעידוד עידן ה-LLM.