关于 update-model
Update Model 是一项用于修改在线 LiteLLM proxy 中现有模型配置的技能,面向管理代理模型的人员。它通过代理管理 API 更新指定字段,并可提供测试调用以检查路由。
主要功能
- 01更新现有模型配置
- 02修改密钥或 API 端点
- 03设置 API 版本和模型字符串
- 04可先查询模型 ID
- 05提供测试调用选项
适用场景
- 01轮换模型凭据
- 02更改模型服务端点
- 03更新 Azure API 版本
- 04验证模型路由是否正常
安装
复制下面的命令,在终端中运行。
$
npx skills add https:/ / github.com/ berriai/ litellm-skills --skill update-model安装后在 Claude Code 中输入/update-model确认已加载。
详细介绍
更新模型
在运行中的 LiteLLM 代理上更新现有模型的配置。
设置
LITELLM_BASE_URL — e.g. https://my-proxy.example.com
LITELLM_API_KEY — proxy admin key
询问用户
- model_id(必填)——如果用户没有该 ID,先列出模型:
curl -s "$BASE/model/info" -H "Authorization: Bearer $KEY" | python3 -c " import sys,json for m in json.load(sys.stdin).get('data',[]): print(m['model_info']['id'], m['model_name']) " - 要更改的内容——可组合选择以下任意项:
api_key(轮换凭据)api_base(更改端点)api_version(Azure)model(底层模型字符串,例如azure/new-deployment)
运行
curl -s -X POST "$BASE/model/update" \
-H "Authorization: Bearer $KEY" \
-H "Content-Type: application/json" \
-d '{
"model_info": {"id": "<model_id>"},
"litellm_params": {
"api_key": "<new_key>",
"api_base": "<new_base>"
}
}'
仅包含要更改的 litellm_params 字段。
输出
确认模型已更新。询问是否要运行测试调用,以验证路由是否仍然正常。
评论
支持 Markdown