关于 GenPark Weighted Round Robin Balancer
GenPark Weighted Round Robin Balancer 是用于多个 LLM 路由的 Python 库和 MCP 服务,采用平滑加权轮询并支持动态调整权重,适用于需要配置多模型路由的 Agent 工作流。
主要功能
- 01平滑加权轮询路由
- 02动态调整权重
- 03仅依赖 Python 标准库
- 04可作为库或 MCP 服务运行
适用场景
- 01在多个 LLM 间分发请求
- 02动态调整路由权重
MCP 相关
可作为 MCP 服务运行,向 MCP 客户端提供加权多 LLM 路由。README 提及可接入 Claude Desktop、Cursor 和 LobeChat。
配置
本地服务的配置在各客户端中通用,复制后粘贴到客户端的 MCP 配置文件即可。
暂未收录安装方式
我们还没有获取到这个服务的安装包或远程地址,请按项目 README 中的说明安装。
工具
还没有获取到工具列表
本地服务需要在你的电脑上运行后才能读取工具,维护者暂未提供工具列表。
详细介绍
GenPark 加权轮询负载均衡器
采用 Nginx 风格的平滑加权轮询负载均衡器,可动态调整权重,用于多大模型路由。
属于 GenPark AI Agent 技能生态系统的一部分。
🌟 主要功能
- 100% 使用 Python 标准库:运行时无需任何第三方依赖。
- 原生支持 MCP:可直接接入 Claude Desktop、Cursor、LobeChat 和自主 Agent DAG。
- 生产级可靠性:严格遵循架构规范,确保数据零丢失,满足企业级加固要求。
🚀 安装与使用
作为 MCP 服务运行:
python mcp_server.py
直接作为库使用:
from client import *
请参阅 example_usage.py,了解全面的集成示例。
📄 许可证
MIT 许可证。由 GenPark AI 维护。
评论
支持 Markdown
一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。