mcpField
A
agents-optimize

agents-optimize

github.com/awsAgent 工作流3.3k2.0k 次安装1 天前更新
代码仓库

关于 agents-optimize

agents-optimize 是用于衡量和改进 AgentCore Agent 质量及可观测性的技能。它引导开发者配置评估、生产监控和遥测。

主要功能

  1. 01评估 Agent 质量
  2. 02配置持续质量监控
  3. 03添加 CI/CD 质量门槛
  4. 04利用日志、指标和追踪
  5. 05配置 CloudWatch 或 X-Ray

适用场景

  1. 01评估回答质量
  2. 02设置生产环境质量监控
  3. 03为 CI/CD 添加通过条件
  4. 04通过日志或追踪了解运行情况

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/aws/agent-toolkit-for-aws --skill agents-optimize

安装后在 Claude Code 中输入/agents-optimize确认已加载。

包含的文件

除 SKILL.md 外,安装时一起下载的参考资料和脚本。

references/
cost.md
evals.md
observability.md

详细介绍

优化

通过评估、监控和可观测性来衡量并提升 AgentCore Agent 的质量。

适用场景

  • 你想知道 Agent 是否给出了良好的回答
  • 你想在生产环境中设置持续质量监控
  • 你想在 CI/CD 流水线中添加质量门禁
  • 你想通过日志、指标和跟踪来了解 Agent 的行为
  • 你想设置 CloudWatch 控制面板或 X-Ray 跟踪

请勿用于:

  • 调试某个出现问题的 Agent(回答错误、出错)→ 使用 agents-debug
  • 加固生产环境安全性(IAM、身份验证)→ 使用 agents-harden

输入

$ARGUMENTS 可以是:

  • 评估目标:"添加质量门禁"、"设置监控"
  • 可观测性目标:"设置 CloudWatch 控制面板"、"了解我的跟踪数据"
  • 特定的评估器:"llm-as-a-judge"、"code-based"
  • 留空——此技能将根据项目上下文提供指导

流程

步骤 0:验证 CLI 版本

运行 agentcore --version。此技能要求版本为 v0.9.0 或更高。

步骤 1:读取项目上下文

读取 agentcore/agentcore.json,了解现有的评估器、在线评估配置和 Agent 设置。

如果未找到 agentcore/agentcore.json:

"此技能要求使用 AgentCore 项目。使用 agents-get-started 创建一个项目。"

步骤 2:确定工作流
开发者意图操作
衡量质量、添加评估器、运行评估、设置 CI/CD 门禁、在线监控加载 references/evals.md 并遵循其中的工作流
设置可观测性、CloudWatch、X-Ray、日志、指标、控制面板加载 references/observability.md 并遵循其中的工作流
了解或降低 AgentCore 成本加载 references/cost.md
两者皆要——"我想了解并改进我的 Agent"先设置可观测性,然后添加评估
步骤 3:遵循已加载的参考文档

参考文件包含完整流程。请逐步遵循。

交叉引用
  • 设置评估后,建议使用 agents-harden 做好生产就绪准备
  • 如果评估结果显示 Agent 存在问题,建议使用 agents-debug 分析根本原因
  • 如果开发者需要先添加功能,建议使用 agents-build

输出

视工作流而定——具体输出请参阅已加载的参考文档。

质量标准

  • 评估器配置仅使用有效的 CLI 标志
  • 在线评估采样率设置合理(未经讨论,不要在生产环境中设为 100%)
  • CI/CD 质量门禁具有明确的通过/失败阈值
  • 可观测性设置同时包含跟踪和日志记录
  • 开发者了解评估数据延迟:端到端约 10 秒,从写入到读取——一个摄取步骤即可涵盖跟踪读取和评估查询;无需单独等待索引

评论

支持 Markdown