mcpField
O
omni-cache

omni-cache

github.com/diegosouzapw云与 DevOps82.6k902 次安装今天更新
代码仓库

关于 omni-cache

omni-cache 是用于管理 LLM 响应缓存的技能，可查看缓存统计、清理缓存并管理缓存策略。适合维护 OmniRoute 缓存的操作者。

主要功能

  1. 01查看缓存与分层统计
  2. 02列出缓存条目和推理缓存
  3. 03清除全部或指定缓存
  4. 04管理 TTL 与语义相似度阈值

适用场景

  1. 01检查缓存命中与统计信息
  2. 02清理缓存条目或推理缓存

安装

复制下面的命令，在终端中运行。

$npx skills add https://github.com/diegosouzapw/omniroute --skill omni-cache

安装后在 Claude Code 中输入/omni-cache确认已加载。

详细介绍

概述

管理大模型响应缓存。查看缓存统计信息、清除条目、配置 TTL 策略，并控制语义相似度缓存阈值。

身份验证

所有请求都需要有效的 Bearer 令牌或会话 Cookie。通过 POST /api/auth/login 获取令牌，或在本地开发时配置 REQUIRE_API_KEY=false。

端点

GET /api/cache

获取缓存统计信息

curl http://localhost:20128/api/cache \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
DELETE /api/cache

清除所有缓存

curl -X DELETE http://localhost:20128/api/cache \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
GET /api/cache/stats

获取详细的缓存统计信息

返回所有缓存层的详细统计信息。

curl http://localhost:20128/api/cache/stats \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
DELETE /api/cache/stats

清除缓存统计信息

curl -X DELETE http://localhost:20128/api/cache/stats \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
GET /api/cache/entries

获取缓存 › 条目

curl http://localhost:20128/api/cache/entries \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
DELETE /api/cache/entries

删除缓存 › 条目

curl -X DELETE http://localhost:20128/api/cache/entries \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
GET /api/cache/reasoning

获取缓存 › 推理

curl http://localhost:20128/api/cache/reasoning \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
DELETE /api/cache/reasoning

删除缓存 › 推理

curl -X DELETE http://localhost:20128/api/cache/reasoning \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"

负载

如需详细的请求/响应架构，请查看完整的 OpenAPI 规范：GET /api/openapi/spec 或 docs/openapi.yaml。

评论

支持 Markdown