关于 model-router
model-router 用于配置和执行 LLM 提供商与模型路由,支持按任务设置规则、备用提供商、模型权重及健康检查。
主要功能
- 01配置按任务分类的路由
- 02列出提供商和模型
- 03将请求路由到模型
- 04设置备用提供商
- 05分配模型使用权重
- 06检查提供商健康状态
适用场景
- 01将编码任务路由到指定模型
- 02主提供商不可用时切换服务
- 03配置前查看可用模型
安装
复制下面的命令,在终端中运行。
$
npx skills add https:/ / github.com/ winsorllc/ upgraded-carnival --skill model-router安装后在 Claude Code 中输入/model-router确认已加载。
附带文件scripts/model-router.js
详细介绍
模型路由器
配置 LLM 提供商与模型之间的路由,并支持回退。
功能
- config:按任务类型设置路由规则
- list:显示可用的提供商和模型
- route:将请求路由到适当的模型
- fallback:配置回退提供商
- weights:设置模型使用权重
- status:检查提供商运行状况
用法
# List available providers
./scripts/model-router.js --command list
# Configure routing
./scripts/model-router.js --command config --task coding --provider anthropic --model claude-sonnet-4
# Set fallback
./scripts/model-router.js --command fallback --primary anthropic --fallback openai,groq
# Check status
./scripts/model-router.js --command status
# Route a request
./scripts/model-router.js --command route --task research --prompt "Explain quantum computing"
路由规则
路由可基于以下条件:
- 任务类型(编码、研究、创意、推理)
- Token 数量
- 模型能力
- 提供商可用性
- 成本优化
示例
| 任务 | 命令 |
|---|---|
| 列出提供商 | model-router.js --command list |
| 配置编码任务 | model-router.js --config --task coding --provider anthropic --model opus |
| 设置回退 | model-router.js --fallback --provider anthropic --fallback openai,groq |
| 检查状态 | model-router.js --status |
| 路由请求 | model-router.js --route --task summarize --file article.txt |
备注
- 支持主流提供商:OpenAI、Anthropic、Groq 等。
- 自动切换到回退提供商
- 优化路由,以兼顾成本与质量
- 对提供商执行运行状况检查
评论
支持 Markdown