Claude-LMStudio Bridge

Claude-LMStudio Bridge

一个将 Claude 与 LM Studio 中运行的本地大模型连接起来的 MCP 服务。

概述

此工具可让 Claude 与 LM Studio 中运行的本地大模型交互，提供以下功能：

• 查看 LM Studio 中所有可用模型
• 使用本地大模型生成文本
• 支持通过本地模型进行聊天补全
• 提供健康检查工具，以验证与 LM Studio 的连接

前提条件

• 支持 MCP 的 Claude Desktop
• 已安装并在本地运行且启用了 API 服务器的 LM Studio
• 已安装 Python 3.8+

快速开始（推荐）

适用于 macOS/Linux：

1. 克隆代码仓库

git clone https://github.com/infinitimeless/claude-lmstudio-bridge.git
cd claude-lmstudio-bridge

2. 运行设置脚本

chmod +x setup.sh
./setup.sh

3. 按照设置脚本的说明配置 Claude Desktop

适用于 Windows：

1. 克隆代码仓库

git clone https://github.com/infinitimeless/claude-lmstudio-bridge.git
cd claude-lmstudio-bridge

2. 运行设置脚本

setup.bat

3. 按照设置脚本的说明配置 Claude Desktop

手动设置

如果你更愿意手动设置：

1. 创建虚拟环境（可选，但推荐）

python -m venv venv
source venv/bin/activate  # On Windows: venv\Scripts\activate

2. 安装所需的软件包

pip install -r requirements.txt

3. 配置 Claude Desktop：
   • 打开 Claude Desktop 的偏好设置
   • 前往“MCP Servers”部分
   • 添加新的 MCP 服务，并使用以下配置：
     • 名称：lmstudio-bridge
     • 命令：/bin/bash（适用于 macOS/Linux）或 cmd.exe（适用于 Windows）
     • 参数：
       • macOS/Linux：/path/to/claude-lmstudio-bridge/run_server.sh
       • Windows：/c C:\path\to\claude-lmstudio-bridge\run_server.bat

在 Claude 中使用

设置好连接桥后，你可以在 Claude 中使用以下命令：

1. 检查与 LM Studio 的连接：

Can you check if my LM Studio server is running?

2. 列出可用模型：

List the available models in my local LM Studio

3. 使用本地模型生成文本：

Generate a short poem about spring using my local LLM

4. 发送聊天补全请求：

Ask my local LLM: "What are the main features of transformers in machine learning?"

故障排除

诊断 LM Studio 连接问题

使用随附的调试工具检查与 LM Studio 的连接：

python debug_lmstudio.py

如需进行更详细的测试：

python debug_lmstudio.py --test-chat --verbose

常见问题

“无法连接到 LM Studio API”

• 确保 LM Studio 正在运行
• 确认 LM Studio 中已启用 API 服务器（Settings > API Server）
• 检查端口（默认值：1234）是否与 .env 文件中的端口一致

“未加载任何模型”

• 打开 LM Studio 并加载一个模型
• 确认模型正在正常运行

“找不到 MCP 软件包”

• 尝试重新安装：pip install "mcp[cli]" httpx python-dotenv
• 确保使用的是 Python 3.8 或更高版本

“Claude 找不到连接桥”

• 检查 Claude Desktop 配置
• 确保 run_server.sh 或 run_server.bat 的路径正确且为绝对路径
• 确认服务器脚本可执行：chmod +x run_server.sh（适用于 macOS/Linux）

高级配置

你可以创建 .env 文件并设置以下选项，自定义连接桥的行为：

LMSTUDIO_HOST=127.0.0.1
LMSTUDIO_PORT=1234
DEBUG=false

将 DEBUG=true 设置为启用详细日志记录，以便排查问题。

许可证

MIT