mcpField
A
ai-security-verification

ai-security-verification

github.com/owasp安全208132 次安装2 周前更新
代码仓库

关于 ai-security-verification

此技能使用 OWASP AI Security Verification Standard(AISVS)的 13 类检查项,对 AI 驱动应用开展安全验证,适用于安全评估人员。它输出控制评估、差距分析、风险优先级和合规路线图。

主要功能

  1. 01检查 AISVS 13 类安全领域
  2. 02评估已实施的安全控制
  3. 03识别措施缺失或不足之处
  4. 04制定风险优先级与合规路线图

适用场景

  1. 01验证 AI 应用的安全控制
  2. 02评估模型、数据和基础设施风险
  3. 03规划 AISVS 合规改进

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/owasp/secure-agent-playbook --skill ai-security-verification

安装后在 Claude Code 中输入/ai-security-verification确认已加载。

详细介绍

AI 安全验证标准(AISVS)

使用 OWASP AI 安全验证标准(AISVS)框架的 13 类结构化清单,对 AI 驱动的应用进行全面安全验证。请遵循 plays/ai-security-verification.md 中的完整流程。

步骤

  1. 训练数据治理与偏差管理 — 评估整个数据生命周期中的数据质量、来源、偏差检测和治理控制。

  2. 用户输入验证 — 评估输入清理、防范提示词注入、对抗性输入检测和边界验证机制。

  3. 模型生命周期管理与变更控制 — 审查模型版本管理、部署控制、回滚能力和变更管理流程。

  4. 基础设施、配置与部署安全 — 检查部署安全、容器加固、网络控制和基础设施配置。

  5. 访问控制与身份 — 验证身份验证机制、授权控制、权限管理和身份治理。

  6. 模型、框架与数据的供应链安全 — 评估第三方模型安全、依赖项管理和供应链完整性。

  7. 模型行为、输出控制与安全保障 — 评估输出验证、安全护栏、行为监控和有害内容防范。

  8. 记忆、嵌入与向量数据库安全 — 审查向量数据库安全、嵌入保护、记忆隔离和上下文管理。

  9. 自主编排与 Agent 式操作安全 — 评估 Agent 协调安全、工具访问控制和自主决策保障措施。

  10. 对抗鲁棒性与攻击抵御能力 — 测试对抗样本、规避攻击和模型提取尝试下的韧性。

  11. 隐私保护与个人数据管理 — 验证隐私控制、数据最小化、同意管理和法规合规性。

  12. 监控、日志记录与异常检测 — 评估安全监控、审计日志、异常检测和事件响应能力。

  13. 人工监督与信任 — 评估人在回路控制、可解释性机制和信任校准措施。

输出

使用 templates/finding.md 中的发现项格式。生成:

  • AISVS 合规评估 — 说明全部 13 类的验证状态
  • 安全控制评估 — 详细分析已实施的控制措施
  • 差距分析 — 列出缺失或不足的安全措施
  • 基于风险的优先级排序 — 列出需要立即处理的关键发现
  • 合规路线图 — 制定实现 AISVS 合规的结构化计划
  • 验证证据 — 提供支持合规声明的文档

OWASP 参考资料

  • OWASP AI 安全验证标准(AISVS)
  • OWASP 2025 年大模型应用十大安全风险
  • OWASP AI 安全与隐私指南
  • OWASP 应用安全验证标准(ASVS)
  • OWASP AI 测试指南
  • 完整流程:plays/ai-security-verification.md

评论

支持 Markdown