guardrail-design

护栏设计

护栏是定义 AI 产品会做什么、不会做什么的行为边界。它们不只是安全约束，也是塑造整个用户体验的设计决策。

护栏类型

• 内容护栏：AI 会讨论和不会讨论哪些主题，会生成和拒绝生成哪些内容。
• 行动护栏：AI 能在现实世界中执行哪些操作——发送电子邮件、购物、删除数据等——哪些操作需要人工批准。
• 语气护栏：AI 如何沟通——使用什么语言，语气多正式或随意，何时直截了当，何时委婉表达。
• 范围护栏：AI 如何界定其职责范围。编码助手不应提供医疗建议。
• 置信度护栏：AI 何时应表达不确定、谨慎作答或拒绝，而不是猜测。

将护栏作为产品决策来设计

每条护栏都是一项存在权衡的产品决策：

• 过于严格：产品会显得受限、令人沮丧且家长式。用户会绕过护栏。
• 过于宽松：产品会造成伤害、失去信任并带来责任风险。
• 前后不一致：用户无法预判 AI 会做什么、不会做什么，从而削弱信任。 目标是让护栏体现良好的判断，而不是随意的限制。

护栏规范

对于每条护栏，请定义：

• 它所防止的行为：受到限制的具体行为或输出
• 它存在的原因：它所防止的伤害或保护的价值
• 它的表现形式：护栏触发时用户会看到什么（拒绝消息、替代建议、升级处理）
• 边缘情况：护栏可能过于严格或宽松的模糊情形
• 覆盖条件：护栏是否可以放宽，以及如何放宽（管理员设置、用户确认、视上下文而定）

护栏沟通方式

AI 如何传达护栏与护栏本身同样重要：

• 透明拒绝：“我无法帮你做这件事，因为……”——坦诚说明边界
• 引导式拒绝：“我不能做 X，但可以帮你做 Y”——提供替代方案
• 静默护栏：AI 避开边界，但不提及护栏
• 升级处理：“这需要由人工审核”——转交处理，而不是直接拒绝

设计文档

• 护栏规范表：类别 | 规则 | 原因 | 用户体验 | 边缘情况
• 各类护栏的拒绝消息模板
• 护栏严重程度分级（硬性拦截 vs. 软性警告 vs. 轻推）
• 各条护栏的测试场景