mcpField
N
nist-ai-rmf

nist-ai-rmf

github.com/mastepanoskiその他59237 回インストール今日更新
リポジトリ

nist-ai-rmf について

NIST AI Risk Management Framework（AI RMF 1.0）に基づき、AIシステムのリスクを評価するAIエージェント向けスキルです。ガバナンス、状況把握、測定、管理の観点からレビューを進め、生成AI向けの確認項目と報告書テンプレートも提供します。

主な機能

  1. 01GOVERN、MAP、MEASURE、MANAGEの評価
  2. 02信頼できるAI特性の評価
  3. 03システムのライフサイクル全体のリスク確認
  4. 04生成AI特有のリスク項目
  5. 05評価報告書テンプレートとアクションプラン

活用シーン

  1. 01導入前のAIリスク評価
  2. 02サードパーティAIツールの確認
  3. 03組織的なAIリスク管理プロセスの構築
  4. 04定期的なリスクレビュー

インストール

コマンドをコピーしてターミナルで実行します。

$npx skills add https://github.com/mastepanoski/claude-skills --skill nist-ai-rmf

インストール後、Claude Code で/nist-ai-rmfを入力して読み込まれたか確認します。

同梱ファイルreferences/core-functions.mdreferences/report-template.md

詳細

NIST AI リスク管理フレームワーク（AI RMF 1.0）

このスキルを使うと、AI エージェントは、2023 年 1 月に米国国立標準技術研究所（National Institute of Standards and Technology）が公開した NIST AI リスク管理フレームワーク（AI RMF 1.0） に基づいて、包括的な AI リスク評価 を実施できます。

AI RMF は、AI システムのライフサイクル全体を通じて、組織がAI に関連するリスクを管理できるよう支援する、自主的で技術や業種に依存しないフレームワークです。個人、組織、社会に影響を及ぼすリスクに対処することで、信頼できる AI の開発を促進します。

このスキルを使って、AI リスクの特定、評価、管理、ガバナンス体制の確立、信頼できる AI の特性の確保、国際的な AI リスク管理のベストプラクティスとの整合を行います。

包括的なコンプライアンス対応には「ISO 42001 AI Governance」と組み合わせ、セキュリティに重点を置いた評価には「OWASP LLM Top 10」と組み合わせてください。

このスキルを使う場面

次の場合にこのスキルを呼び出します。

  • デプロイ前に AI システムのリスクを評価する場合
  • AI のガバナンスと説明責任の体制を確立する場合
  • AI 製品やサービスの信頼性を評価する場合
  • 規制への準拠（EU AI Act、州の AI 法）に備える場合
  • AI リスクを定期的にレビューする場合
  • サードパーティの AI ツールやベンダーを評価する場合
  • 組織の AI リスク管理プログラムを構築する場合
  • ステークホルダー向けに AI システムのリスクを文書化する場合

必要な入力

この評価を実施する際は、次の情報を収集します。

  • ai_system_description：AI システムの説明（目的、機能、デプロイの状況、ユーザー、データソース）［必須］
  • system_lifecycle_stage：現在の段階（設計、開発、デプロイ、監視、廃止）［任意。デフォルトはデプロイ］
  • organization_context：組織の規模、業界、リスク許容度、規制環境［任意］
  • deployment_domain：分野と利用環境。システムが重要インフラを支援するかどうかを含みます［任意］
  • existing_controls：現在実施しているリスク管理プロセスまたは管理策［任意］
  • specific_concerns：既知のリスク、インシデント、重点領域［任意］
  • stakeholders：主要なステークホルダーと影響を受けるコミュニティ［任意］

信頼できる AI の特性

AI RMF は、すべての機能にわたる評価基準として、信頼できる AI の7つの特性を定めています。

  1. 妥当性と信頼性：システムが意図どおりに動作し、一貫した結果を出します
  2. 安全性：システムが人の生命、健康、財産、環境を危険にさらしません
  3. セキュリティとレジリエンス：システムが有害な事象に耐え、適切に回復します
  4. 説明責任と透明性：システムに関する情報をステークホルダーが入手できます
  5. 説明可能性と解釈可能性：仕組みと出力を理解できます
  6. プライバシーの強化：人の自律性とデータに関する権利が保護されます
  7. 公平性と有害なバイアスの管理：システムが差別的な結果を生み出しません

4つのコア機能

AI RMF コアには4つの機能があり、それぞれがカテゴリとサブカテゴリに分かれています。カテゴリレベルのガイダンスと評価の質問は、references/core-functions.md に記載されています。

機能目的
GOVERNAI リスク管理のための方針、プロセス、説明責任（全体に適用）
MAPコンテキストを確立し、AI リスクを特定する
MEASURE特定したリスクを分析、評価、追跡する
MANAGEリスクに優先順位を付けて対処し、対応と復旧を行う

監査手順

次の手順を順に実施します。

ステップ 1：システムの理解（15 分）

  1. AI システムを確認します：

    • ai_system_description と system_lifecycle_stage を分析します
    • システムの種類（分類器、生成型、レコメンダー、自律型など）を特定します
    • データソース、モデル、デプロイ環境を記録します
    • ステークホルダーと影響を受けるコミュニティに留意します

  2. コンテキストを理解します：

    • organization_context と規制環境を確認します
    • 該当する法律や規格を特定します
    • リスク許容度と既存の管理策に留意します

  3. 範囲を定義します：

    • 評価する機能とカテゴリーを決定します
    • ライフサイクルの段階と懸念事項に基づいて優先順位を付けます
ステップ 2：GOVERN 評価（20 分）

組織のガバナンスを評価します：

  • G1：AI リスクポリシーが整備され、透明性が確保されていますか？
  • G1.1：法的・規制上の要件が理解され、文書化されていますか？
  • G1.2：組織のポリシーに信頼できる AI の特性が盛り込まれていますか？
  • G1.5：モニタリングとレビューのプロセスが計画されていますか？
  • G1.6：AI システムのインベントリが維持されていますか？
  • G2：説明責任の体制が定義されていますか？
  • G2.1：役割と責任が明確ですか？
  • G2.3：経営幹部が説明責任を負っていますか？
  • G3.1：多様なチームが意思決定に関与していますか？
  • G4：リスクを重視する文化が醸成されていますか？
  • G5：ステークホルダーとの関与プロセスが整備されていますか？
  • G6：サードパーティのリスクに対処していますか？
ステップ 3：MAP 評価（20 分）

リスクの特定とコンテキストを評価します：

  • M1.1：意図された目的とデプロイのコンテキストが文書化されていますか？
  • M1.5：リスク許容度が決定されていますか？
  • M2.1：AI のタスクと手法が定義されていますか？
  • M2.2：知識の限界と人間による監督が文書化されていますか？
  • M3.1：便益が検討され、文書化されていますか？
  • M3.2：AI の誤りによるコストが文書化されていますか？
  • M3.5：人間による監督プロセスが定義されていますか？
  • M4.1：コンポーネントごとのリスクがマッピングされていますか？
  • M5.1：影響の発生可能性と規模が文書化されていますか？
ステップ 4：MEASURE 評価（25 分）

リスクの測定とモニタリングを評価します：

  • ME1.1：リスク指標が選定され、適用されていますか？
  • ME2.3：パフォーマンス基準が測定されていますか？
  • ME2.4：本番環境での動作がモニタリングされていますか？
  • ME2.5：妥当性と信頼性が実証されていますか？
  • ME2.6：安全性のリスクが評価されていますか？
  • ME2.7：セキュリティとレジリエンスが評価されていますか？
  • ME2.9：モデルの説明可能性が文書化されていますか？
  • ME2.10：プライバシーリスクが検討されていますか？
  • ME2.11：公平性とバイアスが評価されていますか？
  • ME3.1：リスク追跡の仕組みが整備されていますか？
  • ME3.3：ユーザーフィードバックの仕組みが確立されていますか？
ステップ 5：MANAGE 評価（20 分）

リスクへの対応と処置を評価します：

  • MA1.1：システムは意図された目的を達成していますか？
  • MA1.2：リスク処置に優先順位が付けられていますか？
  • MA1.3：優先度の高いリスクへの対応計画がありますか？
  • MA2.1：AI を使用しない代替策が検討されていますか？
  • MA2.3：未知のリスクに対応する手順がありますか？
  • MA2.4：無効化の仕組みが整備されていますか？
  • MA3.1：サードパーティのリスクがモニタリングされていますか？
  • MA4.1：デプロイ後のモニタリングが実施されていますか？
  • MA4.3：インシデントの連絡と復旧が文書化されていますか？
ステップ 6：レポートの作成（20 分）

評価結果を評価と推奨事項とともにまとめます。

出力形式

そのままコピーして使用できる評価レポートのテンプレート（エグゼクティブサマリー、機能ごとの評価、信頼性の特性、アクションプラン）は、references/report-template.md にあります。

評価ガイド

サブカテゴリーの評価には、次の尺度を使用してください。

評価説明
未実装活動や文書化の証拠がありません
部分的ある程度の活動はありますが、一貫性がない、または不完全です
大部分を実装ほぼ実装されていますが、軽微な不足があります
完全に実装完全に実装され、定期的に保守されています

信頼性の特性には、次の尺度を使用してください。

スコア説明
1対応されていません
2最小限の対応です
3部分的に対応されています
4大部分が対応されています
5完全に対応され、監視されています

生成 AI に関する考慮事項

生成 AI システムについては、さらに（NIST AI 600-1 GenAI Profile、2024 年 7 月に基づき）次の項目を評価してください。

  • コンテンツの来歴：AI 生成コンテンツの出所を追跡する仕組み
  • 作話のリスク：幻覚や捏造された出力に対する制御
  • データプライバシー：トレーニングデータの保護と同意
  • 環境への影響：計算リソースの消費
  • 情報セキュリティ：プロンプトインジェクションと敵対的攻撃への堅牢性
  • 有害なコンテンツ：有害または危険な出力に対するフィルターと安全対策
  • サードパーティのリスク：基盤モデルと API への依存
  • 人間と AI のインタラクション：ユーザーが AI と対話していることを認識できるか

重要インフラに関する注記

AI システムが重要インフラの運用を支援する場合は、重要インフラにおける信頼できる AI に関する、最新の NIST AI RMF プロファイル資料も確認してください。NIST は 2026 年 4 月 7 日にこのプロファイルのコンセプトノートを公開しました。これは AI RMF 1.0 の代替ではなく、追加の参考情報として扱ってください。

ベストプラクティス

  1. GOVERN から始める：リスクをマッピングする前にガバナンスを確立します
  2. 継続的に反復する：リスク管理は一度限りではなく、継続的に行います
  3. ステークホルダーを巻き込む：評価には多様な視点を取り入れます
  4. すべてを文書化する：説明責任を果たすための証拠を維持します
  5. 既存のフレームワークに整合させる：NIST CSF、ISO 42001、SOC 2 と統合します
  6. 状況に合わせて調整する：システムのリスクレベルに応じて評価の深さを調整します
  7. 本番環境でテストする：デプロイ前だけでなく、デプロイ済みのシステムも監視します
  8. 障害に備える：インシデント対応と廃止の手順を用意します
  9. 社会への影響を考慮する：組織のリスクにとどまらず検討します
  10. 最新の状態を保つ：進化する AI 規制と標準を監視します

バージョン

1.0 - 初回リリース（NIST AI RMF 1.0 準拠）

重要：NIST AI RMF は任意のリスクベースのフレームワークです。すべてのサブカテゴリーがすべてのシステムに適用されるわけではありません。システムのリスクプロファイルと組織の状況に応じて、評価の深さを調整してください。

コメント

Markdown 対応