mcpField
S
sf-ai-agentforce-testing

sf-ai-agentforce-testing

github.com/jaganpro测试与质量4241.3k 次安装26 周前更新
代码仓库

关于 sf-ai-agentforce-testing

用于在部署、发布和激活后正式测试 Salesforce Agentforce Agent 的 Skill。支持多轮运行时测试和 CLI Testing Center 工作流,并提供覆盖率分析及结构化的问题修复循环。

主要功能

  1. 01多轮 Agent Runtime API 测试
  2. 02CLI Testing Center 与 `sf agent test`
  3. 03主题与操作覆盖率分析
  4. 04验证防护规则与升级处理
  5. 05结构化测试修复流程

适用场景

  1. 01验证多轮对话中的上下文延续
  2. 02检查主题路由和操作调用
  3. 03运行基于 YAML 的 CLI 测试规范
  4. 04发现激活后的覆盖缺口

MCP 相关

该 Skill 未说明 MCP 服务端或客户端集成;其重点是通过 Agent Runtime API 和 Salesforce CLI 测试 Agentforce。

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/jaganpro/sf-skills --skill sf-ai-agentforce-testing

安装后在 Claude Code 中输入/sf-ai-agentforce-testing确认已加载。

包含的文件

除 SKILL.md 外,安装时一起下载的参考资料和脚本。

CREDITS.md
LICENSE
assets/
agentscript-test-spec.yaml
basic-test-spec.yaml
cli-auth-guardrail-tests.yaml
cli-deep-history-tests.yaml
comprehensive-test-spec.yaml
context-vars-test-spec.yaml
custom-eval-test-spec.yaml
escalation-tests.yaml
guardrail-tests.yaml
multi-turn-agentscript-comprehensive.yaml
multi-turn-comprehensive.yaml
multi-turn-context-preservation.yaml
multi-turn-escalation-flows.yaml
multi-turn-topic-routing.yaml
standard-test-spec.yaml
test-plan-template.yaml
hooks/scripts/
agent_api_client.py
agent_discovery.py
credential_manager.py
generate_multi_turn_scenarios.py
generate-test-spec.py
multi_turn_fix_loop.py
multi_turn_test_runner.py
parse-agent-test-results.py
rich_test_report.py
run-automated-tests.py
test-fix-loop.sh
trace_analyzer.py

详细介绍

sf-ai-agentforce-testing:Agentforce 测试执行与覆盖率分析

当用户需要正式的 Agentforce 测试时使用此技能:多轮对话验证、CLI Testing Center 规格、主题/操作覆盖率分析、预览检查,或发布后的结构化测试与修复循环。

此技能适用的任务

以下工作使用 sf-ai-agentforce-testing:

  • sf agent test 工作流
  • 多轮 Agent Runtime API 测试
  • 主题路由、操作调用、上下文保留、护栏或升级处理验证
  • 测试规格生成与覆盖率分析
  • 发布 / 激活后的测试与修复循环

以下情况应委派给其他技能:


核心操作规则

  • 测试应在部署 / 发布 / 激活之后进行。
  • 如果对话连续性很重要,应优先使用多轮 API 测试。
  • 单轮表述和组织支持的测试中心工作流,应使用 CLI Testing Center 作为次选方案。
  • 交互式和程序化 CLI 预览使用标准的 sf org login web 身份验证;ECA 仅用于 Agent Runtime API 测试,实时预览无需 ECA。
  • 如果需要修改 Agent Script,应将 Agent 修复工作委派给 sf-ai-agentscript。
  • 在 ECA 流程中,不要使用原始 curl 验证 OAuth 令牌;请使用提供的凭据工具。
脚本路径规则

使用以下目录中现有的脚本:

  • ~/.claude/skills/sf-ai-agentforce-testing/hooks/scripts/

这些脚本已预先批准。不要重新创建。


首先收集所需上下文

询问或推断:

  • Agent API 名称 / 开发者名称
  • 目标组织别名
  • 测试目标:冒烟测试、回归测试、扩展覆盖率或复现 Bug
  • Agent 是否已发布并激活
  • 组织是否提供 Agent Testing Center
  • 是否有用于 Agent Runtime API 测试的 ECA 凭据

预检:

  1. 查找 Agent
  2. 确认发布 / 激活状态
  3. 验证依赖项(Flows、Apex、数据)
  4. 选择测试路径

双路径工作流

路径 A — 多轮 API 测试(主要路径)

适用于以下需求:

  • 多轮对话测试
  • 主题重新匹配验证
  • 上下文保留检查
  • 跨轮次的升级处理或操作链分析

需要:

  • ECA / 身份验证设置
  • Agent Runtime 访问权限
路径 B — CLI Testing Center(次要路径)

适用于以下需求:

  • 组织原生的 sf agent test 工作流
  • 执行测试规格 YAML
  • 快速验证单轮表述
  • Testing Center 可用时以 CLI 为中心的 CI/CD 使用场景
快速手动路径

若要在不进行完整正式测试的情况下手动验证,请先使用预览工作流,然后根据需要转到路径 A 或 B。


建议的工作流

1. 查找并验证
  • 在目标组织中找到 Agent
  • 确认其已发布并激活
  • 确认所需操作 / Flows / Apex 均已存在
  • 判断路径 A 或路径 B 哪个适合该请求
2. 规划测试

至少覆盖:

  • 主要主题
  • 预期操作
  • 护栏 / 离题处理
  • 升级处理行为
  • 不同的措辞变体
3. 执行合适的路径
路径 A
  • 使用提供的工具验证 ECA 凭据
  • 获取生成场景所需的元数据
  • 使用提供的 Python 脚本运行多轮场景
  • 分析逐轮失败情况和覆盖率
路径 B
  • 生成或优化扁平 YAML 测试规格
  • 运行 sf agent test 命令
  • 检查结构化结果和详细的操作输出
4. 对失败进行分类

常见的失败类别:

  • 未匹配到主题
  • 匹配到错误的主题
  • 未调用操作
  • 选择了错误的操作
  • 操作调用失败
  • 上下文保留失败
  • 护栏失效
  • 升级处理失败
5. 执行修复循环

当失败表明存在 Agent 编写问题时:

  • 将修复工作委派给 sf-ai-agentscript
  • 如有需要,重新发布 / 激活
  • 在完整回归测试前,重新运行针对性测试

测试护栏

绝不可跳过以下事项:

  • 仅在发布 / 激活后测试
  • 包含有害、离题和拒绝场景
  • 每个重要主题使用多种表述方式
  • API 测试后清理会话
  • 保持 swarm 执行规模小且可控

避免以下反模式:

  • 测试未发布的 Agent
  • 将一次符合预期的路径话语视为充分覆盖
  • 将 ECA 密钥存储在仓库文件中
  • 使用脆弱的 shell 展开式 curl 命令排查身份验证问题
  • 未隔离原因就同时更改测试和 Agent

输出格式

完成一次运行时,按以下顺序报告:

  1. 使用的测试路径
  2. 执行的内容
  3. 通过 / 失败摘要
  4. 覆盖缺口
  5. 根本原因主题
  6. 建议的修复循环 / 下一步测试

建议格式:

Agent: <name>
Track: Multi-turn API | CLI Testing Center | Preview
Executed: <specs / scenarios / turns>
Result: <passed / partial / failed>
Coverage: <topics, actions, guardrails, context>
Issues: <highest-signal failures>
Next step: <fix, republish, rerun, or expand coverage>

跨技能集成

需求委派给原因
修复 Agent Script 逻辑sf-ai-agentscript编写和确定性修复循环
创建测试数据sf-data准备可供操作使用的数据
修复基于 Flow 的操作sf-flow修复 Flow
修复基于 Apex 的操作sf-apex修复 Apex
为 Agent Runtime API 设置 ECA / OAuthsf-connected-apps身份验证和应用配置
分析会话遥测数据sf-ai-agentforce-observabilitySTDM / 跟踪分析

参考索引

从这里开始
执行 / 身份验证
覆盖 / 修复循环
高级 / 专项
模板 / 资源

评分指南

分数含义
90+达到生产就绪标准的测试信心
80–89覆盖良好,仅有少量缺口
70–79可以接受,但建议扩展覆盖范围
60–69仅完成部分验证
< 60信心不足;阻止发布

评论

支持 Markdown