human-in-the-loop

人机协同

人机协同设计定义了人类何时、何地以及如何介入自动化工作流。人类参与过少，系统就会犯下危险的错误；参与过多，你打造的就只是一个昂贵的通知系统。

介入类型

• 审批关卡：系统暂停并等待人类批准后再继续
• 审核检查点：系统呈现结果供人类审核；如果没有异议，系统可以继续
• 修正机会：系统展示其处理过程，人类可以在最终确定前进行编辑
• 覆盖控制：人类可以随时停止、重定向或撤销系统的操作
• 监控面板：人类被动观察系统，只在需要时介入

何时需要人类介入

• 高风险：成本高、不可逆或影响很多人的操作
• 置信度低：系统不确定该采取什么正确操作
• 新颖情境：输入或上下文超出系统的训练分布
• 伦理判断：需要道德推理或权衡价值的决策
• 法律要求：法规或合规要求规定必须进行人工审核
• 用户请求：用户明确要求由人类参与

设计介入点

对于每个介入点：

• 触发条件：什么会触发介入？（置信度阈值、风险等级、用户请求、政策要求）
• 呈现内容：人类会看到什么？（摘要、完整上下文、建议、选项）
• 时间限制：人类必须多快响应？如果没有响应会怎样？
• 决策选项：人类可以做什么？（批准、拒绝、编辑、升级处理、暂缓）
• 反馈整合：如何将人类的决定反馈到系统中？

避免人为瓶颈

人类介入成本高且速度慢。应设计流程，尽量减少不必要的介入：

• 渐进式自主：一开始加强人工监督，随着系统证明自身可靠性，再逐步减少监督
• 批量审核：将相似的决策归组，以便人类高效处理
• 智能路由：根据专业知识和可用性，将介入请求发送给合适的人
• 默认操作：如果人类在规定时间内没有响应，则采取安全的默认操作
• 从介入中学习：利用人类的决策改进系统，从而随着时间推移减少介入需求

设计产物

• 介入点地图（介入发生在工作流中的什么位置，以及各介入点的触发条件）
• 介入界面设计（人类可以看到什么并进行哪些操作）
• 时间限制规范
• 渐进式自主计划
• 介入分析规范（追踪介入频率、原因以及人类的决策）