ai-ethics

AI 伦理

全面的 AI 伦理技能，涵盖偏见检测、公平性评估、负责任的 AI 开发和法规合规。

何时使用此技能

• 评估 AI 模型是否存在偏见
• 实施公平性措施
• 开展伦理影响评估
• 确保符合相关法规（EU AI Act 等）
• 设计人在回路系统
• 编写 AI 透明度文档
• 制定 AI 治理框架

伦理原则

AI 伦理核心原则

原则	描述
公平性	AI 不应歧视个人或群体
透明度	AI 的决策应当可解释
隐私	必须保护个人数据
问责制	明确对 AI 结果负责的主体
安全性	AI 不应造成伤害
人类自主权	人类应保持对 AI 的控制

利益相关方考量

• 用户：这会对系统使用者产生什么影响？
• 受影响者：这会对 AI 做出决策所涉及的人产生什么影响？
• 社会：会产生哪些更广泛的社会影响？
• 环境：会对环境产生什么影响？

偏见检测与缓解

AI 偏见的类型

偏见类型	来源	示例
历史偏见	训练数据反映了过去的歧视	招聘模型偏向男性候选人
代表性偏见	训练数据中的群体代表性不足	人脸识别无法识别肤色较深的人
测量偏见	使用代理变量代表受保护属性	邮政编码与种族相关
聚合偏见	对不同群体使用同一个模型	仅针对一个族裔训练的医疗模型
评估偏见	评估指标存在偏差	准确率掩盖了差异性影响

公平性指标

群体公平性：

• 人口统计均等：各群体的正向率相同
• 均等化赔率：各群体的 TPR 和 FPR 相同
• 预测均等：各群体的精确率相同

个体公平性：

• 相似个体应获得相似的预测结果
• 反事实公平性：如果受保护属性不同，结果是否会改变？

偏见缓解策略

预处理：

• 对训练数据进行重采样／重新加权
• 移除有偏特征
• 为代表性不足的群体扩充数据

处理中：

• 在损失函数中加入公平性约束
• 对抗式去偏
• 公平表征学习

后处理：

• 针对不同群体调整阈值
• 校准
• 拒绝选项分类

可解释性与透明度

解释类型

类型	受众	目的
全局	开发者	理解模型的整体行为
局部	终端用户	解释具体决策
反事实	受影响方	要改变什么才能得到不同的结果

可解释性技术

• SHAP：特征重要性值
• LIME：局部可解释说明
• 注意力图：用于神经网络
• 决策树：天然可解释
• 特征重要性：了解模型整体情况

模型卡片

为每个模型编写文档，记录：

• 模型用途和预期使用方式
• 训练数据说明
• 各子群体的性能指标
• 局限性和伦理考量
• 版本和更新历史

AI 治理

AI 风险评估

风险类别（EU AI Act）：

风险等级	示例	要求
不可接受	社会评分、操纵	禁止使用
高	医疗保健、就业、信贷	严格要求
有限	聊天机器人	透明度义务
极低	垃圾邮件过滤器	无要求

治理框架

1. 政策：定义伦理原则和边界
2. 流程：审核和批准工作流
3. 人员：角色和职责（伦理委员会）
4. 技术：用于监控和执行的工具

文档要求

• 数据来源与溯源
• 模型训练文档
• 测试与验证结果
• 部署与监控计划
• 事件响应流程

人类监督

人机协作模式

模式	使用场景	示例
人机协作	高风险决策	医疗诊断确认
人在回路监督	监控并进行干预	内容审核升级处理
无人参与	低风险、高吞吐量	垃圾邮件过滤

以人为本的控制设计

• 明确的升级处理路径
• 覆盖能力
• 自动化置信度阈值
• 审计跟踪
• 反馈机制

隐私注意事项

数据最小化

• 仅收集必要数据
• 尽可能匿名化
• 使用聚合数据，而非个人数据
• 不再需要时删除数据

隐私保护技术

• 差分隐私
• 联邦学习
• 安全多方计算
• 同态加密

环境影响

注意事项

• 训练计算需求
• 推理能耗
• 硬件生命周期
• 数据中心能源来源

缓解措施

• 高效架构
• 模型蒸馏
• 迁移学习
• 绿色托管服务提供商

参考文件

• references/bias_assessment.md - 详细的偏见评估方法
• references/regulatory_compliance.md - AI 监管要求

与其他技能集成

• machine-learning - 用于模型开发
• testing - 用于偏见测试
• documentation - 用于模型卡