הסבר פשוט
הסוכן חייב לדעת מה אסור לו.
פעולות מסוכנות דורשות אישור אדם (HITL).
לספר למשתמש מה עשה — בונה אמון.
- מדיניות
- HITL
- שקיפות
תרגול קטן
רשמו פעולה אחת שהייתם דורשים לה אישור ידני.
מקור השראה: MS 06 trustworthy rewrite
אמון = שקיפות, גבולות, ויכולת סירוב.
איור מונפש: אישור אנושי. לחיצה על «צעד» מקדמת שלב אחד ומקריאה את תיאורו; כל מה שהאיור מראה מוסבר גם בטקסט שמתחתיו.
הסוכן חייב לדעת מה אסור לו.
פעולות מסוכנות דורשות אישור אדם (HITL).
לספר למשתמש מה עשה — בונה אמון.
רשמו פעולה אחת שהייתם דורשים לה אישור ידני.
מקור השראה: MS 06 trustworthy rewrite
HITL אומר…
Human-in-the-loop.