LLM Bridge MCP

LLM Bridge MCP

LLM Bridge MCP 让 AI Agent 能够通过标准化接口与多个大模型交互。它利用 Message Control Protocol（MCP）实现对不同 LLM 提供商的无缝访问，方便在不同模型之间切换，或在同一个应用中使用多个模型。

功能

• 为多个 LLM 提供商提供统一接口：
  • OpenAI（GPT 模型）
  • Anthropic（Claude 模型）
  • Google（Gemini 模型）
  • DeepSeek
  • ...
• 使用 Pydantic AI 构建，确保类型安全和验证
• 支持自定义 temperature 和 max tokens 等参数
• 提供用量跟踪和指标

工具

该服务实现了以下工具：

run_llm(
    prompt: str,
    model_name: KnownModelName = "openai:gpt-4o-mini",
    temperature: float = 0.7,
    max_tokens: int = 8192,
    system_prompt: str = "",
) -> LLMResponse

• prompt：要发送给 LLM 的文本提示词
• model_name：要使用的特定模型（默认值："openai:gpt-4o-mini"）
• temperature：控制随机性（0.0 至 1.0）
• max_tokens：要生成的最大 token 数量
• system_prompt：可选的系统提示词，用于指导模型的行为

安装

通过 Smithery 安装

要通过 Smithery 自动为 Claude Desktop 安装 llm-bridge-mcp：

npx -y @smithery/cli install @sjquant/llm-bridge-mcp --client claude

手动安装

1. 克隆仓库：

git clone https://github.com/yourusername/llm-bridge-mcp.git
cd llm-bridge-mcp

2. 安装 uv（如果尚未安装）：

# On macOS
brew install uv

# On Linux
curl -LsSf https://astral.sh/uv/install.sh | sh

# On Windows
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"

配置

在根目录中创建 .env 文件，并填入你的 API 密钥：

OPENAI_API_KEY=your_openai_api_key
ANTHROPIC_API_KEY=your_anthropic_api_key
GOOGLE_API_KEY=your_google_api_key
DEEPSEEK_API_KEY=your_deepseek_api_key

使用方法

与 Claude Desktop 或 Cursor 配合使用

在 Claude Desktop 配置文件或 .cursor/mcp.json 中添加服务条目：

"mcpServers": {
  "llm-bridge": {
    "command": "uvx",
    "args": [
      "llm-bridge-mcp"
    ],
    "env": {
      "OPENAI_API_KEY": "your_openai_api_key",
      "ANTHROPIC_API_KEY": "your_anthropic_api_key",
      "GOOGLE_API_KEY": "your_google_api_key",
      "DEEPSEEK_API_KEY": "your_deepseek_api_key"
    }
  }
}

故障排除

常见问题

1. “spawn uvx ENOENT”错误

此错误表示系统无法在 PATH 中找到 uvx 可执行文件。解决方法如下：

解决方案：使用 uvx 的完整路径

查找 uvx 可执行文件的完整路径：

# On macOS/Linux
which uvx

# On Windows
where.exe uvx

然后更新 MCP 服务配置，以使用完整路径：

"mcpServers": {
  "llm-bridge": {
    "command": "/full/path/to/uvx",  // Replace with your actual path
    "args": [
      "llm-bridge-mcp"
    ],
    "env": {
      // ... your environment variables
    }
  }
}

许可证

本项目采用 MIT 许可证，详情请参阅 LICENSE 文件。