פלאק סייפטי בנתה כלי AI שעוקב אחרי נהגים לפי דפוסי נסיעה, בניגוד להצהרותיה

חברת מעקב הרכב פלאק סייפטי (Flock Safety) טענה במשך שנים שהטכנולוגיה שלה "אינה יכולה לזהות, לא לאמת או לעקוב אחר אנשים". כעת מתברר שהיא פיתחה מערכת שעושה בדיוק את זה: כלי בינה מלאכותית למשטרה שמזהה נהגים ועוקב אחר כלי רכב רק על סמך דפוסי התנועה שלהם, כך עולה ממסמכי קוד ש-WIRED איתר באתר החברה.

מה שמאחורי הקוד

הכלי, שנקרא במקור Nightshift ושמו שונה ל-OS Investigate, נשען על רשת מצלמות שמתעדת תנועת נהגים ביותר משישה אלף קהילות. הקוד שנחשף כולל מטמון של יותר מ-450 קבצים שהוגשו דרך עמודי ההתחברות של פלאק לכל מי שטען אותם, ומתאר ארבעים וחמישה כלים שעומדים לרשות המודל: סריקות לוחיות רישוי ומטא-דאטה של מצלמות, רישומי מעצרים, תיקי חקירה, יומני מוקד 911, תוצאות בליסטיקה, ומסדי נתונים מסחריים שמכילים מספרי ביטוח לאומי, תאריכי לידה, טלפונים, מיילים, קרובים ומקורבים. המערכת מגיעה עם שישים ותשע פרומפטים מוכנים מראש שהשוטרים יכולים לבחור, לערוך ולשלוח, בנוסף לאפשרות להזין פרומפטים חופשיים.

היפוך המודל העסקי

המודל העסקי המקורי של פלאק היה פשוט: מצלמה מצלמת רכב חולף, ממירה את הלוחית לטקסט, ובודקת אותה מול רשימת רכבים מבוקשים. רכבים שלא ברשימה נרשמים ותו לא. הפרומפטים שנטענו מראש ב-OS Investigate מתארים היפוך של ההסדר הזה. קצין כבר לא צריך לוחית, שם או עבירה כדי להתחיל. הוא מזין מקום, טווח זמן ודפוס התנהגות, והמערכת נועדה להחזיר את האנשים שמתאימים.

דוגמאות מהשטח

פרומפט אחד מבקש: "מצא לי עדות על בסיס כלי הרכב שנצפו הכי הרבה ב-[שכונה] ב-[14 הימים האחרונים] ב-[מסגרת זמן יומית] (לא יכלול רכבים ברשימה לבנה)". הקצין ממלא את החסר ומקבל רשימת לוחיות, שכלים אחרים במוצר ממירים לשמות וכתובות בית. פרומפט אחר מורה לרשום את כל מי שנעצר יותר מפעמיים בשנתיים בגין "כל עבירה", למעט עבירות סמים, למפות היכן הם גרים, לשלוף קריאות שירות בבתיהם, ולבצע "בדיקת רקע" (workup) על שלושת המובילים, מונח של פלאק לבדיקת רקע בפקודה אחת, שמתחילה מכל מי שיש לו רישום פלילי באזור ומסתיימת בתיקים על שלושה שנבחרו על ידי התוכנה.

לחצים חיצוניים וסימני שאלה חוקתיים

פלאק מציינת שהיא בודקת את המוצר עם קבוצה קטנה של שותפים לאכיפת חוק ומגדירה אותו כעדיין בפיתוח, עם יכולות שעשויות לא לשקף את מה שיימכר בסופו של דבר. ההשקה מגיעה כאשר החברה נתונה ללחץ פוליטי דו-מפלגתי, לרשימה מתארכת של שוטרים שנתפסו משתמשים לרעה בפלטפורמה, ולונדליזם שהשאיר מצלמות מנוסרות ועדשות צבועות בערים ברחבי המדינה. מומחי פרטיות ומשפט אומרים שהכלים הקיימים של פלאק כבר מעלים חששות חוקתיים כבדים בכך שהם נותנים למשטרה גישה רחבה, לעיתים ללא צו, לתיעוד עצום של תנועות אנשים; הפרומפטים שנחשפו מרחיקים את הכת עוד יותר, והופכים כלי לאיתור רכב ידוע לכלי שמטיל חשד על נהגים לפי איפה וכמה הם נוהגים, בלי קשר לשאלה אם הם מבוקשים לעבירה.