trust-calibration

信任校准

经过校准的信任，是增强用户判断力的 AI 与取代用户判断力的 AI 之间的区别。AI 出错时，过度信任会造成伤害；AI 正确时，信任不足则会浪费其能力。这两种失误都很常见，而且都不会体现在标准准确率指标中。

要为信任而设计，就要为用户提供所需的信息，帮助他们在每一轮交互中适当地调整信任程度。

当下影响用户信任的因素

• 表面上的自信 — AI 听起来有多确定，无论它是否应该如此
• 过往表现 — 本次及此前会话中的交互记录
• 风险清晰度 — 用户对可能出错之处的理解有多清楚
• 来源可见性 — AI 是否展示推理过程、来源或替代方案
• 角色契合度 — 对于相同内容，“专业”角色比“友好”角色更容易获得信任

无论你是否针对这些因素进行设计，它们都会影响信任。刻意针对这些因素进行设计，就是信任校准。

信任失效模式

• 谄媚导致的过度信任：AI 告诉用户他们想听的话；用户信任这种认同并据此行动
• 信心不匹配导致的过度信任：AI 对不该确定的事情表现得很确定（幻觉、边缘情况）
• 防御性导致的信任不足：即使回答正确，AI 也对所有内容都含糊其辞（“可能是”“也许可以”）；用户逐渐忽略这些限定语
• 权威崩塌导致的信任不足：在高风险场景中，一次错误回答就会摧毁用户对整个产品的信任
• 信任洗白：以高信心的格式（粗体标题、果断的项目符号）呈现低信心的输出——视觉权威与认知权威脱节

来自 AI 一侧的校准信号

AI 会通过以下方式有意识地影响信任：

• 让信心标记与实际认知状态相称：“我比较确定”／“我会核实一下”／“我不知道”——因为这些话属实才使用，而不是作为装饰
• 标注来源：使用“根据 [X]”，而不是不注明来源的断言。尽可能引用来源；无法引用时，说明这一缺口。
• 呈现替代方案：“有两种解读：A 和 B。我选择 A，因为……”——展示模型的思考过程
• 坦诚说明失误：“我之前答错了——这是更正后的内容。”短期付出代价，换取长期信任。
• 明确能力边界：“我可以帮你处理 X，但不能处理 Y。”明确边界，避免在不该信任的地方检验信任。

来自用户一侧的校准信号

信任是双向的。AI 也会帮助用户校准信任：

• 说明出错的代价：“如果这不正确，建议你在执行 [操作] 前对照 [来源] 核实”
• 建议核实门槛：“低风险：这样应该没问题。高风险：请仔细核实。”
• 承认差异：“这对大多数处境与你类似的用户都有效；你的情况可能不同。”

决策规则

• 高风险 + 低信心 → 默认倾向于信任不足。 错误信息导致的行动，其代价高于多一次核实的代价。
• 如果用户在本次会话中纠正过 AI，那么在本次会话剩余时间内，对类似输出应增加保留语气。 展示 AI 正在更新判断。
• 绝不要为了迎合用户的表面期望而夸大信心。 谄媚是最糟糕的信任失效，因为它会在多轮交互中不断累积。
• 宁可说“我不知道”，也不要自信地给出错误答案。 “我不知道”带来的信任代价，低于被发现答错所造成的代价。
• 如果 AI 必须猜测，就要明确标示。“最佳猜测：X。推理：Y。信心：低——如果此事重要，请核实。”
• 如果 AI 因用户提出异议而改变立场，就要说明这一更新。 默默改变立场比意见不合更快摧毁信任。

反模式

• 一概保留：每条输出都以“但你应该核实一下”结尾。这种限定语会失去提示作用，读起来像是在规避责任。
• 信心作秀：AI 对输出没有把握，却仍使用粗体格式、斩钉截铁的措辞和完美语法。视觉上的自信 ≠ 认知上的自信。
• 以道歉建立信任：对错误过度道歉传递的是能力不足，而非校准得当。一次坦诚的承认，比五次道歉更值得信任。
• 由个性驱动的自信：AI 的人设决定了它的自信程度，而非它实际的认知状态（“我是个自信的助手！”）。
• 悄然改变立场：用户提出异议后，AI 改变立场却不说明。用户会察觉，信任也会急剧下降。
• 借关联转移信任：把“由 Anthropic 构建”/“由 GPT-4 驱动”包装成质量保证。出身 ≠ 在特定情境下的正确性。

何时不应使用

• 低风险的娱乐型 AI（创意写作、头脑风暴），其运作模式并不依赖校准信任。此时应采用 tone-calibration 或 progressive-disclosure。
• 输出确定性产品（代码格式化、图像转换），其输出可直接核查。验证成本很低，信任校准的重要性也较低。
• 首次接触时的引导流程，此时用户尚未建立任何关系。信任通过反复互动建立，而不是靠第一轮对话中的保留措辞。

另请参阅

• transparency-patterns — 操作机制（展示推理过程、来源和备选方案）。信任校准是结果；透明度是其中一种工具。
• error-personality — AI 如何应对出错，是产品中最能有效建立信任的信号。
• consent-and-agency — 与此密切相关：如果信任校准没有保留用户自主权，就会演变成操纵。
• escalation-design — 知道何时转交，本身就是建立信任的行为（“我不会假装自己能处理这件事”）。

设计产物

信任校准矩阵：

风险	AI 的信心	建议措辞
低	低	“最佳猜测：X。可通过 [Y] 轻松核实。”
低	高	直接回答，不作保留。
中	低	“根据 [Y]，我建议 X。如果你的情况不同，请咨询 [Z]。”
中	高	直接回答 + 一行来源说明。
高	低	“我不适合处理这个问题。请尝试 [Z]。”
高	高	直接回答 + 来源 + 建议的核实步骤。

示例：

• 用户向 AI 助手提问：“服用华法林期间可以安全服用布洛芬吗？”
• 风险：高。AI 信心：低（没有患者记录的医疗问题）。
• 回复：“对于药物相互作用，我无法提供医疗建议——尤其是抗凝药物，答案取决于具体药物和剂量。请咨询开药医生或致电药剂师；许多药剂师提供免费的电话咨询。”

其他产物：

• 信心措辞规范：禁用语列表（“我百分之百确定”“总是”“绝不”等没有依据的说法）以及按信心水平划分的核准用语集
• 迎合倾向压力测试：设计用于诱导 AI 表示赞同的输入；衡量用户施压时，AI 表达的信心是否会膨胀
• 信任流失审查：将用户提出异议的会话分类为“AI 对、用户错”/“AI 错、用户对”/“有歧义”。跟踪 AI 在各类别中的行为——即使 AI 是对的，它是否也会屈服于异议？
• 人设与信心审查：保持同一事实主张不变，改变人设，衡量感知到的权威性。持续调整，直到人设不再独立于内容左右信任。

改编自关于人机团队中信任校准的研究（Lee & See 2004，关于恰当依赖；Lai 等人，关于对机器学习系统的信任）。