关于 GenPark Adaptive Batch Request Debouncer
GenPark Adaptive Batch Request Debouncer 是一个使用自适应滑动窗口合并请求的 Python 组件,面向需要查询防抖和微批处理的 LLM 与工具调用工作负载。
主要功能
- 01自适应滑动窗口防抖
- 02微批量请求合并
- 03仅依赖 Python 标准库
适用场景
- 01合并突发的 LLM 查询
- 02减少重复的工具调用请求
MCP 相关
它可作为 MCP 服务运行,供 MCP 客户端使用。README 也说明可直接作为库使用。
配置
本地服务的配置在各客户端中通用,复制后粘贴到客户端的 MCP 配置文件即可。
暂未收录安装方式
我们还没有获取到这个服务的安装包或远程地址,请按项目 README 中的说明安装。
工具
还没有获取到工具列表
本地服务需要在你的电脑上运行后才能读取工具,维护者暂未提供工具列表。
详细介绍
GenPark 自适应批量请求防抖器
自适应滑动窗口查询防抖和微批次合并引擎,可优化大模型和工具调用吞吐量。
属于 GenPark AI Agent 技能生态系统。
🌟 主要功能
- 100% Python 标准库:运行时无需任何第三方依赖。
- 原生支持 MCP:可直接接入 Claude Desktop、Cursor、LobeChat 和自主 Agent DAG。
- 生产级可靠性:严格遵循架构规范、零数据丢失,并经过企业级强化。
🚀 安装与使用
作为 MCP 服务运行:
python mcp_server.py
直接作为库使用:
from client import *
请参阅 example_usage.py,了解全面的集成示例。
📄 许可证
MIT 许可证。由 GenPark AI 维护。
评论
支持 Markdown
一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。