mcpField
P
prompt-governance

prompt-governance

github.com/borghei安全1.0k65 次安装5 天前更新
代码仓库

关于 prompt-governance

此技能用于审查提示词中的注入、偏见和安全问题，并维护已批准提示词的版本化目录，帮助团队按明确流程完成审计、审批和部署管理。

主要功能

  1. 01注入、偏见与安全审计
  2. 02版本化提示词目录管理
  3. 03比较提示词版本
  4. 04审计记录与回滚支持

适用场景

  1. 01审批前审查提示词
  2. 02整理并管理已批准提示词
  3. 03晋级前比较提示词版本
  4. 04出现问题后回滚提示词

安装

复制下面的命令，在终端中运行。

$npx skills add https://github.com/borghei/claude-skills --skill prompt-governance

安装后在 Claude Code 中输入/prompt-governance确认已加载。

包含的文件

除 SKILL.md 外，安装时一起下载的参考资料和脚本。

references/
prompt-governance-framework.md
scripts/
prompt_auditor.py
prompt_catalog_manager.py

详细介绍

提示词治理

类别： 工程 领域： AI 治理

概述

提示词治理技能提供用于审计提示词安全漏洞、偏见和安全问题的工具，还可管理经过版本控制的已批准提示词目录。对于大规模部署基于大模型的应用的组织来说，这些功能至关重要。

先行确认

在审计或管理目录之前，请确认以下输入。如果有任何一项未知或含糊不清，请先询问，不要自行假设：

  • 目标提示词 — 要审计的确切文件／文本，或要管理的目录（每项检查的对象）
  • 任务：审计还是管理目录 — 决定使用 prompt_auditor.py 还是 prompt_catalog_manager.py，以及整个工作流
  • 检查重点 — 注入／偏见／安全（决定运行哪些审计检查以及通过／失败标准）

停止规则：只询问对输出影响最大的 2-3 个问题。如果用户说“先起草”，则继续，并在产物顶部列出假设。

快速开始

# Audit a prompt for security and safety issues
python scripts/prompt_auditor.py --file system_prompt.txt

# Audit with specific focus
python scripts/prompt_auditor.py --text "You are a helpful assistant..." --checks injection,bias,safety

# Initialize a prompt catalog
python scripts/prompt_catalog_manager.py --init --catalog-dir ./prompts

# Add a prompt to the catalog
python scripts/prompt_catalog_manager.py --add --name "customer-support-v1" --file prompt.txt --catalog-dir ./prompts

# List all prompts in catalog
python scripts/prompt_catalog_manager.py --list --catalog-dir ./prompts

工具概览

工具用途关键标志
prompt_auditor.py审计提示词中的注入、偏见和安全问题--file、--text、--checks、--format
prompt_catalog_manager.py管理经过版本控制的提示词目录--init、--add、--list、--diff、--catalog-dir

工作流

提示词审查流程
  1. 作者编写或修改提示词
  2. 运行 prompt_auditor.py 进行自动检查
  3. 审查发现并处理关键问题
  4. 使用 prompt_catalog_manager.py 将已批准的提示词添加到目录
  5. 从目录部署（绝不使用临时来源）
提示词版本控制
  1. 使用语义化版本控制，将所有提示词存储在目录中
  2. 提升版本前使用 --diff 比较各版本
  3. 保留所有提示词变更的审计跟踪记录
  4. 发现问题时回滚到先前版本

参考文档

常见模式

提示词生命周期

起草 -> 审计 -> 审查 -> 批准 -> 部署 -> 监控 -> 退役

治理检查清单
  • 不存在注入漏洞
  • 不具备生成有害内容的可能性
  • 采取适当的偏见缓解措施
  • 明确界定范围
  • 限定输出格式
  • 提供错误处理说明

评论

支持 Markdown