关于 agents-optimize
agents-optimize 是用于衡量和改进 AgentCore Agent 质量及可观测性的技能。它引导开发者配置评估、生产监控和遥测。
主要功能
- 01评估 Agent 质量
- 02配置持续质量监控
- 03添加 CI/CD 质量门槛
- 04利用日志、指标和追踪
- 05配置 CloudWatch 或 X-Ray
适用场景
- 01评估回答质量
- 02设置生产环境质量监控
- 03为 CI/CD 添加通过条件
- 04通过日志或追踪了解运行情况
安装
复制下面的命令,在终端中运行。
$
npx skills add https:/ / github.com/ aws/ agent-toolkit-for-aws --skill agents-optimize安装后在 Claude Code 中输入/agents-optimize确认已加载。
包含的文件
除 SKILL.md 外,安装时一起下载的参考资料和脚本。
references/cost.mdevals.mdobservability.md详细介绍
优化
通过评估、监控和可观测性来衡量并提升 AgentCore Agent 的质量。
适用场景
- 你想知道 Agent 是否给出了良好的回答
- 你想在生产环境中设置持续质量监控
- 你想在 CI/CD 流水线中添加质量门禁
- 你想通过日志、指标和跟踪来了解 Agent 的行为
- 你想设置 CloudWatch 控制面板或 X-Ray 跟踪
请勿用于:
- 调试某个出现问题的 Agent(回答错误、出错)→ 使用
agents-debug - 加固生产环境安全性(IAM、身份验证)→ 使用
agents-harden
输入
$ARGUMENTS 可以是:
- 评估目标:"添加质量门禁"、"设置监控"
- 可观测性目标:"设置 CloudWatch 控制面板"、"了解我的跟踪数据"
- 特定的评估器:"llm-as-a-judge"、"code-based"
- 留空——此技能将根据项目上下文提供指导
流程
步骤 0:验证 CLI 版本
运行 agentcore --version。此技能要求版本为 v0.9.0 或更高。
步骤 1:读取项目上下文
读取 agentcore/agentcore.json,了解现有的评估器、在线评估配置和 Agent 设置。
如果未找到 agentcore/agentcore.json:
"此技能要求使用 AgentCore 项目。使用
agents-get-started创建一个项目。"
步骤 2:确定工作流
| 开发者意图 | 操作 |
|---|---|
| 衡量质量、添加评估器、运行评估、设置 CI/CD 门禁、在线监控 | 加载 references/evals.md 并遵循其中的工作流 |
| 设置可观测性、CloudWatch、X-Ray、日志、指标、控制面板 | 加载 references/observability.md 并遵循其中的工作流 |
| 了解或降低 AgentCore 成本 | 加载 references/cost.md |
| 两者皆要——"我想了解并改进我的 Agent" | 先设置可观测性,然后添加评估 |
步骤 3:遵循已加载的参考文档
参考文件包含完整流程。请逐步遵循。
交叉引用
- 设置评估后,建议使用
agents-harden做好生产就绪准备 - 如果评估结果显示 Agent 存在问题,建议使用
agents-debug分析根本原因 - 如果开发者需要先添加功能,建议使用
agents-build
输出
视工作流而定——具体输出请参阅已加载的参考文档。
质量标准
- 评估器配置仅使用有效的 CLI 标志
- 在线评估采样率设置合理(未经讨论,不要在生产环境中设为 100%)
- CI/CD 质量门禁具有明确的通过/失败阈值
- 可观测性设置同时包含跟踪和日志记录
- 开发者了解评估数据延迟:端到端约 10 秒,从写入到读取——一个摄取步骤即可涵盖跟踪读取和评估查询;无需单独等待索引
评论
支持 Markdown