有人在场,不等于有人在掌控。
“人在回路中”已经变成一句让人安心的说法,而它往往没多少实质。一个在自己并不理解的屏幕上、在时间压力下、没有真正说不的权力却点下“批准”的人,只是名义上的监督。真正的监督,是一个人能够理解这项决定,拥有质疑它所需的信息与时间,并且拥有推翻该系统的权限与后盾。达不到这一点,就是把责任转移出去、却不转移控制权的表演。
让监督与利害相称。
并非每一个 AI 决定都需要有人逐一审阅其输出;有些一个都不需要,少数则需要两个人。要按后果来校准。一个垃圾邮件过滤器可以无人值守地运行。而一个把福利申领标记为欺诈、筛选求职申请、或为医疗或法律决定提供参考的工具,则需要一位有能力、也愿意介入的人。把你的监督放在错误答案会真正伤害到人的地方,别再假装审查那些无关紧要的东西。
给员工真正实施监督所需的东西。
当监督被设计成注定失败时,它就会失败。审阅者需要知道系统为何得出该输出,而不只是它输出了什么;需要工作流程真正允许的时间;还需要关于该工具局限与失效方式的培训。展示置信度信号与推荐背后的理由,标出模型没有把握的情形,并让“提出异议”变得容易而寻常。没有信息、时间或培训的监督,是一个签名,而非一道防线。
从设计上防止走过场式盖章。
人工监督可预见的失败,是自动化偏见:人们会顺从一台自信的机器,尤其当它通常都对、而自己又很忙的时候。流畅、且多数时候正确的输出,恰恰最容易让审阅者松懈。要有意地加以对抗。追踪推翻率,并追问它为何接近于零。轮换并审计审阅工作。对高利害案件,要求给出“同意”的理由,而不只是“不同意”的理由。如果你的监督从未改变过任何结果,那它就不是监督。
赋予监督真正的权力。
只有当实施监督的人能够真正叫停整条流水线时,监督才起作用。这意味着要有清晰的路径去暂停或推翻一个系统,要为这样做的人提供保护,并且要有一位为结果、而不仅是为吞吐量负责的决策者。当所有激励都在推动速度与数量时,一个孤立的审阅者每次都会败下阵来。用权力与后盾支撑监督,否则就承认它只是装饰。