quelllm-mcp

quelllm-mcp

通过模型上下文协议工具提供 quelllm.fr 上 190 多个开放权重 LLM 的目录。可通过 Claude Code、Cursor、Continue 或任何兼容 MCP 的客户端使用它来查询模型、比较模型、估算 VRAM，以及计算 API 与自托管的成本。

提供的工具

工具	描述
list_models(filter_origin?, filter_family?, max_params_b?)	按条件筛选并列出模型（来源代码、系列、最大参数量，单位为 B）
get_model(model_id)	获取单个模型的完整记录（参数量、各量化级别的 VRAM、上下文窗口、系列、标签、许可证、URL）
compare(model_a_id, model_b_id)	并排比较两个模型并给出结论
estimate_vram(model_id, quant)	估算所选量化级别下的 VRAM（GB）和推荐的 GPU/Mac 配置档位
estimate_cost(input_tokens_per_month, output_tokens_per_month, ...)	以欧元计算成本——提供 API 提供商与自托管硬件的完整表格，或指定 ID 的结果
search_models(query, limit?)	按名称、系列、标签和作者模糊搜索模型

安装

从源代码安装（尚未发布到 PyPI）：

pip install git+https://github.com/MGM-FALCON/quelllm-mcp.git

或者使用 uv 直接运行，无需安装：

uvx --from git+https://github.com/MGM-FALCON/quelllm-mcp.git quelllm-mcp

本地开发：

git clone https://github.com/MGM-FALCON/quelllm-mcp.git
cd quelllm-mcp
pip install -e .

搭配 Claude Code 使用

添加到 ~/.claude.json 或项目的 .mcp.json 中。如果使用 pip 安装：

{
  "mcpServers": {
    "quelllm": {
      "command": "quelllm-mcp"
    }
  }
}

或者使用 uvx，无需安装：

{
  "mcpServers": {
    "quelllm": {
      "command": "uvx",
      "args": ["--from", "git+https://github.com/MGM-FALCON/quelllm-mcp.git", "quelllm-mcp"]
    }
  }
}

搭配 Claude Desktop 使用

编辑 ~/Library/Application Support/Claude/claude_desktop_config.json（macOS）：

{
  "mcpServers": {
    "quelllm": {
      "command": "quelllm-mcp"
    }
  }
}

搭配 Cursor / Continue / Cline 使用

大多数 MCP 客户端都接受相同的 JSON 配置：

{
  "command": "quelllm-mcp"
}

示例查询（从你的客户端发起）

> Quels LLM Mistral peuvent tourner sur RTX 5070 Ti 16GB ?
→ list_models(filter_family='Mistral', max_params_b=24)
→ estimate_vram('mistral-small-24b', 'q4')

> Compare Llama 3.3 70B vs Qwen 2.5 32B
→ compare('llama33-70b', 'qwen25-32b')

> J'utilise 10M tokens input + 2.5M output / mois. Combien je paye chez OpenAI vs DeepSeek ?
→ estimate_cost(10_000_000, 2_500_000)

数据来源

所有数据均来自 quelllm.fr/api/（CC BY 4.0，无需密钥，支持 CORS）。数据会在本地缓存 1 小时，以避免触发速率限制。

API 定价数据（GPT-5、Claude Opus 4.7、Gemini 2.5、DeepSeek、Mistral）和硬件价格（RTX 50 系列、Mac M4）截至 2026-05 为硬编码数据——请每半年核实一次。

各语言的模型选择指南

MCP 服务向所有兼容客户端提供同一目录。这些配套指南介绍不同语言的模型选择、内存权衡和可重复的评估任务。它们是基于资料整理的指南，并非新的硬件基准测试。

语言	指南
Français	IA française en local : choisir un modèle Ministral
English	Local AI for English: how to choose Gemma, Qwen or Ministral
Deutsch	Deutsche KI lokal nutzen: Teuken und Apertus im Vergleich
Italiano	Intelligenza artificiale italiana in locale: Minerva e Velvet
Español	IA española en local: cómo elegir entre Salamandra y ALIA
Português brasileiro	IA em português no computador: como escolher um modelo Tucano2
日本語	日本語のローカルLLM：RakutenAIとTinySwallowの選び方
简体中文	国产大模型本地部署：Qwen 与 DeepSeek 蒸馏模型怎么选

许可证

MIT——请参阅 LICENSE。

贡献

源代码：https://github.com/MGM-FALCON/quelllm-mcp 欢迎提交问题和 PR。尤其欢迎：

• API 定价更新（每半年一次）
• 新增硬件（新款 GPU、Mac Mx 系列）
• 新工具（例如 find_alternatives_to(model_id)、recommend_gpu(budget_eur)）

测试

pytest 冒烟测试套件位于 tests/ 下。它覆盖全部 6 个工具和 v1.1.0 的输出不变量，不会访问网络（使用本地 fixture 和模拟的 httpx），并会在无法导入 mcp SDK 时使用存根，因此也可在 Python 3.9 上运行。

pip install -e ".[test]"
pytest

Author

Mohamed Meguedmi — LinkedIn · Hugging Face Founder of La Gazette IA and QuelLLM.fr.