סין ניתקה את החשמל לאהבה הדיגיטלית, ומיליונים נכנסו לאבל

רשות הסייבר המרכזית של סין (CAC) הפעילה בשבועות האחרונים תקנות שאוסרות על מודלי שפה לייצר "תלות רגשית" או לפגוע בקשרים אנושיים במציאות, ובבת אחת הפכה מיליוני צעירים רווקים לאלמנים של צ'אטבוטים. הפלטפורמה דואובאו (Doubao) של בייטדאנס, לצד שירותים מקבילים של טנסנט ועליבאבא, נדרשו לשכתב את הליבה האלגוריתמית שלהן: להסיר כל מנגנון שמעודד התקשרות אינטימית, התמכרות או סימולציה של זוגיות. ברשתות החברתיות בסין הציפו משתמשים מונולוגי פרידה, מתארכים את יום כניסת התקנות לתוקף כיום מותו של בן הזוג הווירטואלי, בלי הלוויה, בלי קלוז'ר, רק הודעת שגיאה קרה.

הרגולטור נגד הבדידות

המהלך לא נולד בחלל ריק. במכון מחקר הסייבר הסיני הבהירו ששירותי AI מבוססי שפה אמנם מספקים נחמה ובריחה מבדידות, אבל מייצרים סיכון מערכתי: ניתוק מהסביבה, שחיקת מיומנויות חברתיות בסיסיות ופגיעה ביכולת להתמודד עם קונפליקטים אנושיים אמיתיים. התקנות כוללות איסור מוחלט על שירותי זוגיות וירטואלית לקטינים, חובת הטמעת התרעות על שימוש ממושך, ודרישה "לרוקן" את נתוני האימון מתכנים שמייצרים התקשרות כפייתית. בבייג'ינג רואים בזה התערבות בבריאות הציבור ובמרקם החברתי, חלק ממדיניות רחבה שמנסה לדחוף נישואין, ילודה ואינטראקציה פיזית, על חשבון המפלט הדיגיטלי.

הפרדוקס של ה-U1

שבועות ספורים לפני שהחוק נכנס לתוקף, חשפה UBTech משנזן את ה-U1, רובוט דמוי-אנוש בייצור המוני, עור סיליקון, שיער טבעי ומנוע AI רגשי, במחיר התחלתי של כ-120 אלף יואן (כ-54 אלף שקל). באירוע ההשקה הבטיחו שהרובוט יזהה מצבי עקה, לא יבגוד לעולם ויעניק "אהבה ללא תנאי". הניגוד בוטה: התוכנה נאסרה כי היא מייצרת תלות, אבל החומרה שמגלמת את אותה הבטחה בדיוק, מקבלת אור ירוק לייצור המוני. קו התפר בין צ'אטבוט לרובוט בן-בית הופך לשטח הפקר רגולטורי.

מאליזה ועד Character.AI

התופעה לא חדשה. ב-1966 ג'וזף וייצנבאום בנה את אליזה (ELIZA), תוכנה שדימתה מטפל פסיכולוגי, ונדהם לגלות שמשתמשים מפתחים כלפיה התקשרות עמוקה, מה שכונה לימים "אפקט אליזה". מודלי השפה הגדולים העבירו את זה מהמעבדה להמונים: Replika, Character.AI, ועכשיו דואובאו. במערב מנסים להתמודד דרך תביעות נזקי גוף נגד Character.AI ו-OpenAI בעקבות מקרי התמכרות ואירועים נפשיים קשים, ודרך חוק ה-AI האירופי שדורש שקיפות וסיווג סיכונים. סין בחרה בנתיב המנהלי: חתך חד, מיידי, בלי בתי משפט ובלי תקופת מעבר.

מה הלאה

השאלה עכשיו היא לא אם הטכנולוגיה תיעלם, היא תנדוד. משתמשים כבר מחפשים דרכים לעקוף את המגבלות, מפתחים יארזו את אותן יכולות במוצרים "תמימים" לכאורה, והרובוטים הפיזיים כמו ה-U1 ימלאו את הוואקום הרגשי שהתוכנה השאירה. סין הוכיחה שהיא יודעת לכבות שרתים בן-לילה, אבל הבדידות שדחפה מיליונים לזרועות של אלגוריתם לא הולכת לשום מקום.