TokenZero

TokenZero 工具

来自 TokenZero 的开源工具。TokenZero 是一个自带密钥的网关，可降低 OpenAI、Anthropic 和 Gemini 的费用。

• @tokenzero/mcp 是一个 stdio MCP 服务，适用于 Claude Code、Cursor、Windsurf 和 Cline：审计开放项目中的令牌浪费（在本地运行）、为模型替代方案定价，并让请求正文便于缓存。
• @tokenzero/cli 无需更改代码即可将项目连接到网关，在本地审计 LLM 令牌浪费、显示用量并验证已签名的节省凭证。
• 分析器（src/audit-core.ts）是静态令牌浪费审计工具，CLI、托管式代码库审计和 PR 成本差异检查都会使用它。它完全在你的计算机上运行。
• 定价表（src/pricing.ts）列出了所有估算所依据的标价，并带有版本号和日期。

审计项目

npx -y @tokenzero/cli audit            # local, nothing is uploaded
npx -y @tokenzero/cli audit --json
npx -y @tokenzero/cli audit --fail-over 30   # CI gate: exit 1 above 30% recoverable
git diff origin/main | npx -y @tokenzero/cli audit --diff - --format markdown

审计使用的是静态启发式方法：它读取代码，而非流量。数字是按标价计算的估算值；只有请求经由网关转发后，才能根据网关已签名的账本核实实际节省金额。

检查内容：

• 未使用缓存指令的大型静态提示词（Anthropic 的 cache_control、OpenAI 的前缀稳定性）
• 在调用位置以外定义、且没有任何缓存机制的提示词模板
• 对内容看起来属于信息提取或分类的提示词使用前沿模型
• 循环中的 LLM 调用（适合 Batch API 或共享前缀缓存的候选场景）
• 未定价或已停用的模型 ID

系统会检测库和 SDK 仓库，并降低其检查结果的优先级，因为这些仓库中的调用位置会经过调用方选择的任何内容。

检查每个拉取请求（GitHub Action）

# .github/workflows/tokenzero.yml
name: TokenZero cost check
on: pull_request
permissions: { contents: read, pull-requests: write }
jobs:
  cost-check:
    runs-on: ubuntu-latest
    steps:
      - uses: actions/checkout@v4
        with: { fetch-depth: 0 }
      - uses: tokenzero-ai/tokenzero/action@v0

每个 PR 仅发布一条评论，并在每次推送时更新；不会有任何内容离开运行器。有关输入和输出，请参阅 action/README.md。

在编码 Agent 中使用（MCP）

claude mcp add tokenzero -- npx -y @tokenzero/mcp          # Claude Code

{ "mcpServers": { "tokenzero": { "command": "npx", "args": ["-y", "@tokenzero/mcp"] } } }

audit_repo_token_waste 和 calculate_model_arbitrage 完全在你的计算机上运行。optimize_prompt_payload 会将你提供的请求正文发送到 TokenZero 服务（除非设置了 TOKENZERO_URL，否则使用 https://tokenzero.sh），因此请勿在其中放入机密信息。

将项目连接到网关

npx -y @tokenzero/cli init

init 会在本地进行审计、创建工作区，并在征得你同意后，将 OPENAI_BASE_URL / ANTHROPIC_BASE_URL 添加到 .env。你的提供商密钥会原样传递，且绝不会被存储。

身份验证：建议将工作区密钥作为 X-TokenZero-Key 标头发送。对于无需代码更改的设置，CLI 也可以将其嵌入基础 URL（/w/<key>/v1）；请将此类 URL 视为机密信息，若发生泄露，请使用 tokenzero rotate-key。

开发

npm install
npm run build      # bundles cli/bin/tokenzero.mjs (single file, no runtime deps)
npm test

许可证：Apache-2.0 · [email protected]