עליון ניו מקסיקו קנס עורך דין ב-5,000 דולר על עדים מומצאים שכתב צ'אטג'יפיטי

הסיפור בקצרה

בית המשפט העליון של ניו מקסיקו הטיל קנס של 5,000 דולר (כ-18,500 שקל) והרשיע בביזיון בית משפט את עורך הדין סטיבן ארונס (Stephen Aarons), לאחר שזה הגיש ערעור בתיק רצח שכלל עדויות שקריות של עדים שלא קיימים, כולם פרי הזיות של צ'אטג'יפיטי. לפי דיווח של רויטרס, ההחלטה התקבלה ביום רביעי וקבעה כי ארונס כשל ב"אימות הטענות העובדתיות והסמכות המשפטית בסיכומיו שנוצרו על ידי בינה מלאכותית".

מה בדיוק קרה בסיכומים

הסיכומים שהגיש ארונס כללו עדות שקרית של עדים בדויים לחלוטין, וכן פרטים כוזבים על לבושו ומראהו של היורה. השופטת סי. שאנון בייקון (C. Shannon Bacon) תהתה במהלך שימוע באוגוסט כיצד ארונס לא היה מודע לסיכונים שבשימוש בכלי AI, לאחר שהודה כי הסתמך על צ'אטג'יפיטי מתוך מחשבה שהכלי יפיק "סיכום חסין כדורים" של המשפט. "עו"ד, אתה צופה בחדשות? מאזין לרדיו? קורא משהו על מה שקורה בעולם?" שאלה בייקון, לפי רויטרס. "כי הבעיה של עורכי דין שמסתמכים על הזיות AI היא כותרת ראשית בכל יום".

לא מקרה בודד

המקרה מצטרף לשורה של תקריות דומות מהשנה החולפת. שופט פדרלי נזף בשני משרדי עורכי דין שהגישו סיכומים עם "ציטוטים משפטיים כוזבים, לא מדויקים ומטעים רבים", ועורכי דינו של מייק לינדל (Mike Lindell), מייסד MyPillow, נקנסו אף הם לאחר שהכניסו לסיכומים ציטוטים שגויים ואסמכתאות מזויפות שיצר כלי AI. התופעה מתרחבת ככל שיותר עורכי דין מאמצים כלים גנרטיביים בעבודתם השוטפת.

התגובה והתמונה הרחבה

ארונס מסר לרויטרס כי הוא "מצטער אך מקווה שהמועצה המשמעתית תביא בחשבון שמדובר בטעות בתום לב". ההחלטה של העליון בניו מקסיקו מסמנת קו ברור: בתי משפט אינם מוכנים לקבל את הטענה ש"המודל טעה" כהגנה מפני רשלנות מקצועית, והם דורשים מעורכי דין לאמת כל עובדה ואסמכתא לפני הגשה, גם אם המקור הוא כלי AI מתקדם.