TokenMark

@altronis/tokenmark-mcp

一个 MCP 服务，可从 TokenMark 获取真实的本地大模型基准测试数据，并根据硬件推荐模型，供 Claude（以及其他 Agent）使用。

问 “在 Strix Halo 上运行什么模型适合编码？”，Agent 就会根据实测配置（解码 tok/s、量化、后端）作答，并附上每项数据的来源链接。它绝不会编造数字。

添加到 Claude Code

claude mcp add tokenmark -- npx -y @altronis/tokenmark-mcp

添加到 Cline

Cline CLI：

cline mcp add tokenmark --yes -- npx -y @altronis/tokenmark-mcp

VS Code 中的 Cline：将下方 JSON 中的 tokenmark 条目添加到 cline_mcp_settings.json。面向 Agent 的分步说明见 llms-install.md。

添加到任何 MCP 客户端

通过 stdio 运行服务：

npx -y @altronis/tokenmark-mcp

或在客户端配置中添加：

{
  "mcpServers": {
    "tokenmark": {
      "command": "npx",
      "args": ["-y", "@altronis/tokenmark-mcp"]
    }
  }
}

工具

• tokenmark_recommend：{ hardware, tasks?, prefer?, limit?, cards? } → 按排名列出模型和最佳配置推荐（默认 5 个，最多 10 个），附带实测 tok/s 和推荐理由。lane 表示结果来自哪个类别：GPU 显卡（RTX 5090、RTX PRO 6000）单独排名，不会与 AI 主机混排。指定显卡名称或设置 cards: true，即可读取显卡类别的数据。
• tokenmark_configs：{ model?, hardware?, limit?, cards? } → 返回单个类别中已追踪的基准测试配置，按速度从快到慢排列（默认 25 个，最多 50 个；matched 返回匹配总数），并提供运行模式（MTP/DFlash/草稿模型运行时为 speculative: true）。other_lane 统计另一类别中的匹配项。
• tokenmark_hardware：{ platform? } → 硬件目录（Strix Halo、Gorgon Halo、DGX Spark、Mac Max/Ultra），以及包含实测运行记录的 gpu_cards。指定平台时：提供芯片规格及每项数据的来源、搭载该芯片的主机和新加坡价格。指定显卡（“RTX 5090”）时：提供显存和带宽及其来源，以及该显卡已追踪的配置。
• tokenmark_search：{ term } → 查找匹配的模型/配置，GPU 显卡的匹配项单独列在 gpu_cards 下。
• tokenmark_submit：{ repo, source?, note? } → 将包含基准测试数字的 GitHub/Hugging Face 仓库加入队列，供人工审核。
• tokenmark_submission_status：{ id } → 查询提交状态。
• tokenmark_submit_result：{ bench_output?, pick?, model?, quant?, hardware?, backend?, decode_tps?, prefill_tps?, ctx?, concurrency?, ..., dry_run? } → 提交用户实测的速度，供人工审核。将原始 llama-bench 或 vllm bench serve 输出作为 bench_output 传入，也可以手动填写各字段；手动传入的字段优先于解析出的内容。提交需要调用两次：dry_run: true 会返回一行摘要和一个 confirm 代码；向用户展示摘要，用户确认后，再以相同字段再次调用，并将 confirm 设为该代码。未提供代码，或试运行后修改了字段，提交都会被拒绝。

提交实测速度

tokenmark_submit_result 需要在同一台机器上的终端中进行一次性登录：

npx @altronis/tokenmark-cli login

在 https://tokenmark.app/cli 批准短代码。登录凭据只能用于提交结果以供审核，有效期为 90 天；服务每次调用时都会读取凭据，无需重启。如果没有主目录，请改为在服务的环境中设置 TOKENMARK_TOKEN。登录信息只会通过 https 发送（或通过普通 http 发送到本机），并且可以在 https://tokenmark.app/cli 撤销该账户的所有登录凭据。

目录中没有的硬件，或手动输入的结果，也可以通过已登录的表单在 https://tokenmark.app/submit 提交。

数据从 https://tokenmark.app 实时获取（可通过 TOKENMARK_URL 覆盖）。运行时零依赖。

终端中的同一份数据

CLI 位于此仓库的 cli/ 目录中：

npx @altronis/tokenmark-cli recommend --hardware "Strix Halo" --tasks coding

bin/ 中的文件是已发布的构建版本，基于运行于 https://tokenmark.app 的 TokenMark 追踪器构建。

采用 MIT 许可。数据汇总自公开的社区基准测试，并注明出处。