prompt-governance

プロンプトガバナンス

カテゴリ： エンジニアリング 分野： AI ガバナンス

概要

プロンプトガバナンススキルは、セキュリティ脆弱性、バイアス、安全性の問題についてプロンプトを監査するツールに加え、承認済みプロンプトのバージョン管理されたカタログを管理するツールを提供します。LLM ベースのアプリケーションを大規模に展開する組織に不可欠です。

まず確認すること

監査またはカタログ管理の前に、次の入力を確認してください。不明または曖昧な項目があれば、推測せずに質問してください。

• 対象のプロンプト — 監査する正確なファイル／テキスト、または管理対象のカタログディレクトリ（すべてのチェックの対象）
• タスク：監査かカタログ管理か — prompt_auditor.py と prompt_catalog_manager.py のどちらを使うか、およびワークフロー全体を決定します
• チェックの重点項目 — インジェクション／バイアス／安全性（実行する監査チェックと合否基準を決定します）

中断ルール：出力に最も大きな影響を与える2～3項目だけを質問してください。ユーザーが「とりあえず草案を作って」と言った場合は、作業を進め、成果物の冒頭に前提を記載してください。

クイックスタート

# Audit a prompt for security and safety issues
python scripts/prompt_auditor.py --file system_prompt.txt

# Audit with specific focus
python scripts/prompt_auditor.py --text "You are a helpful assistant..." --checks injection,bias,safety

# Initialize a prompt catalog
python scripts/prompt_catalog_manager.py --init --catalog-dir ./prompts

# Add a prompt to the catalog
python scripts/prompt_catalog_manager.py --add --name "customer-support-v1" --file prompt.txt --catalog-dir ./prompts

# List all prompts in catalog
python scripts/prompt_catalog_manager.py --list --catalog-dir ./prompts

ツールの概要

ツール	目的	主なフラグ
prompt_auditor.py	インジェクション、バイアス、安全性についてプロンプトを監査します	--file、--text、--checks、--format
prompt_catalog_manager.py	バージョン管理されたプロンプトカタログを管理します	--init、--add、--list、--diff、--catalog-dir

ワークフロー

プロンプトのレビュー手順

1. 作成者がプロンプトを作成または変更します
2. prompt_auditor.py を実行して自動チェックを行います
3. 検出結果を確認し、重大な問題に対処します
4. prompt_catalog_manager.py を使用して、承認済みプロンプトをカタログに追加します
5. カタログからデプロイします（場当たり的なソースからは決してデプロイしません）

プロンプトのバージョン管理

1. すべてのプロンプトをセマンティックバージョニングでカタログに保存します
2. 昇格の前に --diff を使ってバージョンを比較します
3. すべてのプロンプト変更の監査証跡を維持します
4. 問題が検出された場合は、以前のバージョンにロールバックします

リファレンスドキュメント

• プロンプトガバナンスフレームワーク - ポリシー、レビュープロセス、コンプライアンス要件

よくあるパターン

プロンプトのライフサイクル

草案 -> 監査 -> レビュー -> 承認 -> デプロイ -> モニタリング -> 廃止

ガバナンスチェックリスト

• インジェクションの脆弱性がない
• 有害なコンテンツを生成する可能性がない
• 適切なバイアス軽減策がある
• スコープの境界が明確である
• 出力形式の制約がある
• エラー処理の指示がある