mcpField
A
accelerate

accelerate

github.com/sharpdeveyeAgent 工作流592338 次安装26 周前更新
代码仓库

关于 accelerate

accelerate 是用于提升 Agent 工作流速度并控制成本的技能,同时检查质量是否保持。它通过优化前后的指标,引导提示词、模型、缓存、并行处理和上下文调整。

主要功能

  1. 01记录延迟、成本、Token 和错误基线
  2. 02减少 Token 使用并优化上下文
  3. 03指导模型路由与缓存
  4. 04使用并行处理和流式传输
  5. 05对比结果并检查质量影响

适用场景

  1. 01优化前测量工作流性能
  2. 02降低请求成本或延迟
  3. 03验证提速调整是否保持质量

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/sharpdeveye/maestro --skill accelerate

安装后在 Claude Code 中输入/accelerate确认已加载。

详细介绍

必须准备

调用 /agent-workflow — 其中包含工作流原则、反模式和 上下文收集协议。继续之前请遵循该协议 — 如果尚无工作流上下文,必须先运行 /teach-maestro。 查阅 agent-workflow 技能中的上下文管理参考,了解窗口优化和预算策略。


在不牺牲质量的前提下,让工作流更快、更省成本。测量优化前后的表现。

性能审计

测量当前表现:

Current metrics:
  Latency (p50): ___ms
  Latency (p95): ___ms
  Cost per request: $___
  Token usage (avg): ___ input / ___ output
  Error rate: ___%
加速策略

减少 Token 用量

  • 缩短系统提示词(删除冗余指令)
  • 将少样本示例压缩到满足最低需求的长度
  • 使用结构化输出模式,而非冗长文本
  • 总结上下文,而非传递原始文档
  • 缩短输出长度要求

模型级联

  • 将简单任务路由到更便宜、更快的模型
  • 仅将复杂任务升级到能力更强的模型
  • 使用分类来判断复杂度

缓存

  • 缓存相同或近似输入的响应
  • 使用适当的 TTL 缓存工具结果
  • 缓存经常查询的文档的嵌入
  • 对相似(而非完全相同)的查询使用语义缓存

并行化

  • 并行运行相互独立的工具调用
  • 并行运行相互独立的 Agent 步骤
  • 使用流式处理,在完整响应生成前就开始处理

上下文优化

  • 减少检索量,提升检索质量(提高检索精度)
  • 使用上下文压缩技术
  • 为较长的对话实施滑动窗口
加速报告

针对每项优化:

  1. 变更内容:具体修改
  2. 之前:优化前的延迟/成本/Token 用量
  3. 之后:优化后的延迟/成本/Token 用量
  4. 质量影响:质量是否有变化(使用金标测试验证)
  5. 权衡:为了改进牺牲了什么
加速检查清单
  • 所有更改前均已记录基线指标
  • 每项优化均已通过前后对比进行测量
  • 已验证质量影响(金标测试仍通过)
  • 已记录每项更改的权衡
  • 已量化成本/延迟改进
建议的下一步

优化后,运行 /evaluate 以验证质量没有下降,或运行 /iterate 以设置持续监控。

绝对不要:

  • 未先测量就进行优化(需要建立基线)
  • 未经用户明确同意就牺牲质量来换取速度
  • 缓存依赖实时数据的输出
  • 优化后跳过质量检查
  • 过早优化(先保证正确,再提升速度)

评论

支持 Markdown