OpenAI חיסלה רשת חשבונות ששימשה מרכזי הונאה בקמבודיה

המכונה שמאחורי התרמית

OpenAI חסמה רשת של חשבונות ChatGPT שהופעלה בידי כנופיות פשע בקמבודיה, ושימשה אוטומציה מלאה של הונאות השקעה, "פיג בוצ'רינג" (רומנטיות מזויפת) והתחזות לרשויות אכיפה. לפי דוח שפרסמה החברה, המודל לא רק ניסח טקסטים, הוא בנה זהויות וירטואליות, תרגם התכתבויות עם קורבנות בזמן אמת וייצר דרכונים מזויפים ומסמכים משפטיים מפוברקים בקצב תעשייתי.

גיוס לעבדות סייבר דרך הצ'אט

ניתוח הלוגים חשף שכבה נוספת ומטרידה: התשתית שימשה לגיוס המוני של עובדים בכפייה, תופעה שמכונה "עבדות סייבר". המודל הפיץ מודעות דרושים למפעילי צ'אט עם הבטחות לטיסה חינם ולמגורים, הפיתיון הקלאסי של כנופיות דרום-מזרח אסיה שמושכות צעירים למתחמים סגורים ומאלצות אותם להונות סביב השעון. ChatGPT, למעשה, כתב את מודעות הגיוס שהזינו את המכונה.

מאות קורבנות, נזק של מיליונים

OpenAI העבירה את הראיות לרשויות החוק ולשותפי אבטחת מידע. בחברה מעריכים שמאות בני אדם נפלו ברשת, וההפסד הכספי של קורבנות בודדים מגיע לאלפי דולרים (עשרות אלפי שקל). המספרים אינם כוללים את הנזק המשני: חשבונות בנק מרוקנים, חסכונות שנמחקו, והטראומה של מי שגילו שבן הזוג הווירטואלי שלהם הוא סקריפט שרץ על GPU.

קו ההגנה נמתח

הסגירה הזו מצטרפת לשורת מהלכים דומים בחודשים האחרונים, אבל היא מדגימה עד כמה נמוך ירד רף הכניסה להפעלת הונאה בקנה מידה גלובלי. לא צריך מתכנתים, לא צריך מתרגמים, לא צריך גרפיקאים לזיוף מסמכים, מספיק פרומפט אחד מנוסח היטב. ב-OpenAI מודים שהמלחמה הזו מתנהלת על קו דק: לחסום את הרעים בלי לשבור את הכלי למיליוני משתמשים לגיטימיים, ובינתיים הקצב רק עולה.