mcpField
O
omni-compression

omni-compression

github.com/cheaper-inferenceAgent 工作流82.3k1.1k 次安装今天更新
代码仓库

关于 omni-compression

omni-compression 用于配置 OmniRoute 对编码输出、文本和混合会话进行令牌压缩，提供压缩预览、引擎与语言包设置，以及冗长无障碍树结果过滤。

主要功能

  1. 01配置 RTK、Caveman 和堆叠模式
  2. 02预览并比较压缩后的负载
  3. 03管理 Caveman 语言包和规则
  4. 04过滤冗长的 MCP 无障碍结果

适用场景

  1. 01减少终端和测试输出的令牌量
  2. 02压缩文本和聊天历史
  3. 03在编码会话中使用堆叠压缩
  4. 04缩短浏览器无障碍树结果

MCP 相关

OmniRoute 提供 MCP 工具，用于查看压缩状态和节省量分析、修改配置及运行时切换压缩引擎。它还可过滤浏览器和 Playwright MCP 工具返回的无障碍树结果。

安装

复制下面的命令，在终端中运行。

$npx skills add https://github.com/cheaper-inference/omniroute --skill omni-compression

安装后在 Claude Code 中输入/omni-compression确认已加载。

详细介绍

概览

配置 RTK（命令输出）、Caveman（散文）和堆叠压缩模式。管理语言包、自定义规则，并测试提示词压缩可减少 60–90% 的令牌。

身份验证

所有请求都需要有效的 Bearer 令牌或会话 Cookie。通过 POST /api/auth/login 获取令牌，或在本地开发时配置 REQUIRE_API_KEY=false。

端点

POST /api/compression/preview

预览消息负载的压缩效果

curl -X POST http://localhost:20128/api/compression/preview \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{}'
GET /api/compression/language-packs

列出 Caveman 压缩语言包

curl http://localhost:20128/api/compression/language-packs \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
GET /api/compression/rules

列出 Caveman 压缩规则元数据

curl http://localhost:20128/api/compression/rules \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
POST /api/compression/compare

POST compression › compare

curl -X POST http://localhost:20128/api/compression/compare \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{}'
POST /api/compression/compare/verify

POST compression › compare › verify

curl -X POST http://localhost:20128/api/compression/compare/verify \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{}'
GET /api/compression/engines

GET compression › engines

curl http://localhost:20128/api/compression/engines \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
POST /api/compression/retrieve

POST compression › retrieve

curl -X POST http://localhost:20128/api/compression/retrieve \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{}'

负载

详细的请求／响应架构请参阅完整的 OpenAPI 规范：GET /api/openapi/spec 或 docs/openapi.yaml。

OmniRoute — 压缩

需要 OMNIROUTE_URL 和 OMNIROUTE_KEY。设置方法请参阅入口点 SKILL。

概览

OmniRoute 会在转发到提供方之前压缩令牌负载。无需更改代码——设置一次后，它便会透明地应用于所有请求。

引擎最适用于典型节省量
RTK终端／构建／测试／git 输出60–90%
Caveman人类撰写的散文、聊天记录输入节省 46%
堆叠（rtk → caveman）混合编码会话78–95%
MCP 无障碍过滤器浏览器／无障碍工具结果60–80%

获取当前设置

curl $OMNIROUTE_URL/api/settings/compression \
  -H "Authorization: Bearer $OMNIROUTE_KEY"

启用 RTK（最适用于编码 Agent）

curl -X PUT $OMNIROUTE_URL/api/settings/compression \
  -H "Authorization: Bearer $OMNIROUTE_KEY" \
  -H "Content-Type: application/json" \
  -d '{ "mode": "rtk", "enabled": true }'

启用堆叠模式（最大限度地节省）

curl -X PUT $OMNIROUTE_URL/api/settings/compression \
  -H "Authorization: Bearer $OMNIROUTE_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "mode": "stacked",
    "enabled": true,
    "stackedPipeline": ["rtk", "caveman"]
  }'

启用 Caveman（散文／聊天）

curl -X PUT $OMNIROUTE_URL/api/settings/compression \
  -H "Authorization: Bearer $OMNIROUTE_KEY" \
  -H "Content-Type: application/json" \
  -d '{ "mode": "standard", "enabled": true }'

Caveman 强度：lite（安全）、standard（均衡）、aggressive（长会话）、ultra（上下文恢复）。

启用前预览压缩效果

curl -X POST $OMNIROUTE_URL/api/compression/preview \
  -H "Authorization: Bearer $OMNIROUTE_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "mode": "rtk",
    "text": "$ npm test\n> jest\n\nPASS src/a.test.ts (2.1s)\nPASS src/b.test.ts (1.8s)\n..."
  }'

响应包含 compressed、original_length、compressed_length、savings_pct。

MCP 无障碍树过滤器（用于浏览器 Agent）

OmniRoute 与浏览器／Playwright MCP 工具搭配使用时，会自动压缩冗长的无障碍树工具结果。默认启用；可配置以下阈值：

curl -X PUT $OMNIROUTE_URL/api/settings/compression \
  -H "Authorization: Bearer $OMNIROUTE_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "mcpAccessibility": {
      "enabled": true,
      "collapseThreshold": 30,
      "maxTextChars": 50000
    }
  }'

collapseThreshold：重复次数 ≥ N 时折叠同级行（默认值：30）。
maxTextChars：达到 N 个字符后硬截断，并附带导航提示（默认值：50000）。

语言包（Caveman）

Caveman 支持针对 pt-BR、es、de、fr、ja 的语言感知规则：

curl -X PUT $OMNIROUTE_URL/api/settings/compression \
  -H "Authorization: Bearer $OMNIROUTE_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "mode": "standard",
    "cavemanConfig": {
      "language": "pt-BR",
      "autoDetectLanguage": true
    }
  }'

通过 MCP 使用

omniroute_compression_status     → current settings + savings analytics
omniroute_compression_configure  → update mode/threshold/language
omniroute_set_compression_engine → switch engine at runtime

禁用压缩

curl -X PUT $OMNIROUTE_URL/api/settings/compression \
  -H "Authorization: Bearer $OMNIROUTE_KEY" \
  -d '{ "enabled": false }'

错误

  • 400 invalid mode → 使用 off、lite、standard、aggressive、ultra、rtk 或 stacked
  • 400 invalid stackedPipeline → 数组必须包含有效的引擎 ID（rtk、caveman）

评论

支持 Markdown