关于 GenPark LRU TTL Multi-Tier Cache
GenPark LRU TTL Multi-Tier Cache 是面向 LLM 工作负载的内存缓存,支持按键过期、确定性淘汰以及命中、未命中和过期数据遥测。它可作为 MCP 服务运行或作为库导入,仅使用 Python 标准库。
主要功能
- 01内存 LRU 缓存
- 02按键 TTL 过期
- 03确定性淘汰
- 04命中、未命中和过期数据遥测
- 05仅使用 Python 标准库
适用场景
- 01为 LLM 数据提供按键过期缓存
- 02监控缓存命中、未命中和过期条目
MCP 相关
它作为 MCP 服务向 MCP 客户端提供缓存功能。
配置
本地服务的配置在各客户端中通用,复制后粘贴到客户端的 MCP 配置文件即可。
暂未收录安装方式
我们还没有获取到这个服务的安装包或远程地址,请按项目 README 中的说明安装。
工具
还没有获取到工具列表
本地服务需要在你的电脑上运行后才能读取工具,维护者暂未提供工具列表。
详细介绍
GenPark LRU TTL 多层缓存
面向大模型的内存 LRU 缓存,支持按键设置 TTL 过期时间、确定性淘汰,以及命中/未命中/过期遥测。
属于 GenPark AI Agent 技能生态系统。
🌟 主要功能
- 100% 使用 Python 标准库:运行时零第三方依赖。
- 原生支持 MCP:可直接接入 Claude Desktop、Cursor、LobeChat 和自主 Agent DAG。
- 生产级韧性:严格遵循架构规范、零数据丢失、经过企业级加固。
🚀 安装与使用
作为 MCP 服务运行:
python mcp_server.py
直接作为库使用:
from client import *
请参阅 example_usage.py,了解全面的集成示例。
📄 许可证
MIT 许可证。由 GenPark AI 维护。
评论
支持 Markdown
一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。