nist-ai-rmf

NIST AI 风险管理框架（AI RMF 1.0）

此技能可帮助 AI Agent 使用 **NIST AI 风险管理框架（AI RMF 1.0）**开展全面的 AI 风险评估。该框架由美国国家标准与技术研究院于 2023 年 1 月发布。

AI RMF 是一套自愿采用、与技术和行业无关的框架，旨在帮助组织在 AI 系统的整个生命周期内管理相关风险。它通过应对影响个人、组织和社会的风险，促进可信赖 AI 的开发。

使用此技能可识别、评估和管理 AI 风险；建立治理结构；确保满足可信赖 AI 特征；并与国际 AI 风险管理最佳实践保持一致。

与 “ISO 42001 AI Governance” 结合使用，可全面覆盖合规要求；与 “OWASP LLM Top 10” 结合使用，则可开展侧重安全的评估。

何时使用此技能

在以下情况下调用此技能：

• 在部署前评估 AI 系统的风险
• 建立 AI 治理和问责结构
• 评估 AI 产品和服务的可信赖性
• 为法规合规做好准备（EU AI Act、州级 AI 法律）
• 定期开展 AI 风险审查
• 评估第三方 AI 工具和供应商
• 建立组织级 AI 风险管理计划
• 为利益相关方记录 AI 系统风险

所需输入

执行此评估时，请收集：

• ai_system_description：AI 系统描述（用途、功能、部署环境、用户、数据来源）[必需]
• system_lifecycle_stage：当前阶段（设计、开发、部署、监控、停用）[可选，默认为部署]
• organization_context：组织规模、行业、风险容忍度、监管环境[可选]
• deployment_domain：行业和场景，包括系统是否支持关键基础设施[可选]
• existing_controls：当前已有的风险管理流程或控制措施[可选]
• specific_concerns：已知风险、事件或关注领域[可选]
• stakeholders：主要利益相关方和受影响群体[可选]

可信赖 AI 特征

AI RMF 确定了可信赖 AI 的七项特征，可作为所有职能的评估标准：

1. 有效且可靠：系统按预期运行，并持续提供一致的结果
2. 安全：系统不会危及人类生命、健康、财产或环境
3. 安全且有韧性：系统能够抵御不利事件，并在发生后妥善恢复
4. 负责任且透明：利益相关方能够获取有关系统的信息
5. 可解释且可理解：相关机制和输出能够被理解
6. 增强隐私保护：人类自主权和数据权利受到保护
7. 公平且能管理有害偏见：系统不会产生歧视性结果

---

4 项核心职能

AI RMF 核心包含四项职能，每项职能又细分为类别和子类别。类别级别的指南和评估问题见 references/core-functions.md。

职能	目的
GOVERN	制定 AI 风险管理的政策、流程和问责机制（贯穿各项职能）
MAP	建立背景并识别 AI 风险
MEASURE	分析、评估并跟踪已识别的风险
MANAGE	确定风险优先级并采取行动；作出响应并恢复

---

审计流程

按以下步骤系统地开展：

步骤 1：了解系统（15 分钟）

1. 审查 AI 系统：

   • 分析 ai_system_description 和 system_lifecycle_stage
   • 确定系统类型（分类器、生成式、推荐系统、自主系统等）
   • 记录数据来源、模型和部署环境
   • 注意相关利益方和受影响的群体

2. 了解背景：

   • 审查 organization_context 和监管环境
   • 确定适用的法律和标准
   • 注意风险承受度和现有控制措施

3. 界定范围：

   • 确定要评估的功能和类别
   • 根据生命周期阶段和关注事项确定优先级

步骤 2：GOVERN 评估（20 分钟）

评估组织治理：

• G1：是否制定并公开了 AI 风险政策？
• G1.1：是否了解并记录了法律／监管要求？
• G1.2：组织政策是否包含可信 AI 特征？
• G1.5：是否规划了监测和审查流程？
• G1.6：是否维护 AI 系统清单？
• G2：是否明确了问责机制？
• G2.1：角色和职责是否明确？
• G2.3：高管领导层是否承担问责责任？
• G3.1：是否有多元化团队参与决策？
• G4：是否培育了风险文化？
• G5：是否建立了利益相关方参与流程？
• G6：是否处理了第三方风险？

步骤 3：MAP 评估（20 分钟）

评估风险识别和背景：

• M1.1：是否记录了预期用途和部署背景？
• M1.5：是否确定了风险承受度？
• M2.1：是否定义了 AI 任务和方法？
• M2.2：是否记录了知识局限和人工监督？
• M3.1：是否审查并记录了收益？
• M3.2：是否记录了 AI 出错造成的成本？
• M3.5：是否定义了人工监督流程？
• M4.1：是否绘制了组件风险图？
• M5.1：是否记录了影响的可能性和程度？

步骤 4：MEASURE 评估（25 分钟）

评估风险度量和监测：

• ME1.1：是否选取并应用了风险指标？
• ME2.3：是否衡量了性能标准？
• ME2.4：是否监测了生产环境中的行为？
• ME2.5：是否证明了有效性和可靠性？
• ME2.6：是否评估了安全风险？
• ME2.7：是否评估了安全性和韧性？
• ME2.9：是否记录了模型的可解释性？
• ME2.10：是否审查了隐私风险？
• ME2.11：是否评估了公平性和偏见？
• ME3.1：是否建立了风险跟踪机制？
• ME3.3：是否建立了用户反馈机制？

步骤 5：MANAGE 评估（20 分钟）

评估风险响应和处置：

• MA1.1：系统是否实现了预期用途？
• MA1.2：是否确定了风险处置的优先级？
• MA1.3：是否制定了针对高优先级风险的响应计划？
• MA2.1：是否考虑了非 AI 替代方案？
• MA2.3：是否制定了应对未知风险的程序？
• MA2.4：是否建立了停用机制？
• MA3.1：是否监测了第三方风险？
• MA4.1：是否实施了部署后的监测？
• MA4.3：是否记录了事件沟通和恢复流程？

步骤 6：生成报告（20 分钟）

汇总评估结果、评级和建议。

---

输出格式

可直接复制的评估报告模板（执行摘要、分功能评估、可信赖性特征、行动计划）位于 references/report-template.md。

---

评分指南

子类别评级请使用以下等级：

评级	说明
未实施	没有活动或文档方面的证据
部分实施	有一些活动，但不一致或不完整
基本实施	大部分已实施，仅存在少量缺口
全面实施	已全面实施并定期维护

可信度特征请使用以下等级：

分数	说明
1	未涉及
2	仅最低限度涉及
3	部分涉及
4	基本充分涉及
5	已全面涉及并持续监控

---

生成式 AI 考量

对于生成式 AI 系统，还需评估以下方面（依据 NIST AI 600-1 GenAI Profile，2024 年 7 月）：

• 内容溯源：追踪 AI 生成内容来源的机制
• 虚构风险：针对幻觉或捏造输出的控制措施
• 数据隐私：训练数据保护和同意机制
• 环境影响：计算资源消耗
• 信息安全：提示词注入和对抗鲁棒性
• 有害内容：过滤有毒或危险输出的措施和保障机制
• 第三方风险：基础模型和 API 依赖
• 人机交互：用户是否知晓自己正在与 AI 交互

关键基础设施说明

如果 AI 系统支持关键基础设施运营，还应查看当前 NIST AI RMF 中关于关键基础设施可信 AI 的概况材料。NIST 于 2026 年 4 月 7 日发布了该概况的概念说明；请将其视为补充背景，而非 AI RMF 1.0 的替代内容。

---

最佳实践

1. 从 GOVERN 开始：在映射风险前建立治理机制
2. 持续迭代：风险管理是持续进行的工作，而非一次性任务
3. 吸纳利益相关方：在评估中纳入多元视角
4. 记录所有事项：保留证据以明确责任
5. 与现有框架保持一致：与 NIST CSF、ISO 42001、SOC 2 集成
6. 结合具体情境调整：根据系统风险等级调整评估深度
7. 在生产环境中测试：监控已部署的系统，而不仅是部署前的系统
8. 为失败做好准备：制定事件响应和停用程序
9. 考虑社会影响：关注组织风险之外的影响
10. 及时了解最新情况：关注不断演变的 AI 法规和标准

---

版本

1.0 - 首次发布（符合 NIST AI RMF 1.0）

---

请记住：NIST AI RMF 是自愿采用且基于风险的框架。并非所有子类别都适用于每个系统。应根据系统的风险状况和组织情境调整评估深度。