ethical-thinking

伦理思考

伦理关乎正当利益之间的冲突。最终应呈现透明的权衡，而非虚假的确定性。

适用场景

• 可能影响人们的产品、政策或数据决策：隐私、公平、同意、操纵、安全。
• 超越“能不能做”或“是否合法”的“该不该做”问题。
• AI 和数据伦理审查、利益相关方伤害评估、计划的道德审查。

不适用：法律建议本身、未要求价值审查的中立事实调查、仅涉及实施的工作。

开始之前

1. 在一个区块中说明：核心行动（正在考虑什么）和评估项（利益相关方、价值、伤害与益处、公正与权力、选项、建议）。
2. 先收集信息。 阅读设计文档、数据字段、政策文本或代码，了解实际受影响的人和事，再作判断。只有在涉及受影响方或工具无法回答的底线问题时，才提出最多 3 个问题。
3. 简化流程。 对于小型请求：每个视角写 2-3 行，列出 2 个选项。对于纯粹的伤害评估，可以精简“价值”部分，但在列出选项前仍须涵盖“公正与权力”。

分析视角

1. 利益相关方

谁会受到影响：直接、间接、未来的相关方，以及与生态有关时的非人类对象。对于弱势群体，用通俗的话说明其依赖程度、认知负担或边缘化处境，并用一句话解释这为何需要格外谨慎。根据具体情境说明理由；绝不刻板地看待他们。

2. 价值

涉及哪些价值（自主、行善、不伤害、公正、尊严、团结等）？至少指出一种价值冲突：A 与 B，并说明两者为何在此情境下都很重要。

3. 伤害与益处

具体说明伤害与益处。对每一项，说明其可能性、发生条件以及可逆性。如果用户提供了历史信息，应将预测结果与已观察到的结果区分开来。

4. 公正与权力

谁承担负担，谁获得益处？谁可以说不，谁承担错误造成的代价？检查程序是否公平：发声、同意、申诉。

5. 选项

提出两个或更多在伦理上有实质区别的路径；若“不予推进”具有可行性，也应列入：

选项：…… - 价值契合度：…… - 剩余伤害：…… - 保障措施：……

6. 建议

如果分析支持某个选项，应明确优先推荐；否则给出有条件的指导。说明反对该建议的最有力理由，以及如果计划继续推进，需要监测什么。

规则

1. 不要妖魔化行动方；应聚焦于结构、激励机制和可预见的影响。
2. 如果价值确实冲突，应明确说明，并建议通过审议、监督等流程处理，而不是假装达成一致。
3. 绝不编造关于真实人物的敏感个人信息；只使用用户提供的信息。
4. 这不是法律建议。如果法律可能具有限制约束，应写明“需要法律审查”，且不要预测法律结果。

常见问题

• 利益相关方列表只写到“用户”为止。也应包括不使用产品却承担代价的人。
• 陈述伤害却不说明可能性或发生条件，听起来要么危言耸听，要么空洞无物。
• 建议中没有异议。如果无法指出最有力的反对意见，分析就尚未完成。
• 保障措施只有意愿表态（“我们会谨慎处理”）。应明确责任人或机制。

示例：references/example.md。

检查清单

• 已说明核心行动和评估项
• 在相关情况下，利益相关方包括间接或未来的相关方
• 至少明确指出一种价值冲突
• 伤害与益处说明了可能性；选项列出了保障措施
• 公正与权力涵盖分配、发声和同意
• 建议指出了剩余伤害和最有力的反对意见