mcpField
M
MCP LLM Bridge

MCP LLM Bridge

本地服务
github.com/virajsharma2000AI 与智能体185 周前更新
代码仓库

关于 MCP LLM Bridge

MCP LLM Bridge 将 MCP 服务连接到兼容 OpenAI API 的 LLM，包括 Ollama。它适用于希望通过 MCP 工具与本地模型端点交互的用户。

主要功能

  1. 01连接 MCP 服务与 LLM
  2. 02支持兼容 OpenAI API 的端点
  3. 03配置 MCP 服务参数
  4. 04可使用 Ollama 端点

适用场景

  1. 01让 Ollama 配合 MCP 工具使用
  2. 02将 MCP 服务接入兼容 OpenAI API 的模型端点

MCP 相关

该桥接程序连接 MCP 服务与兼容 OpenAI API 的 LLM，并使用配置的 MCP 服务参数。README 以 MCP fetch 服务作为示例。

配置

本地服务的配置在各客户端中通用，复制后粘贴到客户端的 MCP 配置文件即可。

暂未收录安装方式

我们还没有获取到这个服务的安装包或远程地址，请按项目 README 中的说明安装。

代码仓库

工具

还没有获取到工具列表

本地服务需要在你的电脑上运行后才能读取工具，维护者暂未提供工具列表。

详细介绍

MCP LLM Bridge

连接 Model Context Protocol (MCP) 服务与 Ollama 等兼容 OpenAI 的大模型的桥接工具 点击此处阅读 Anthropic 提供的更多 MCP 相关信息：

快速入门

# Install
curl -LsSf https://astral.sh/uv/install.sh | sh
git clone https://github.com/bartolli/mcp-llm-bridge.git
cd mcp-llm-bridge
uv venv
source .venv/bin/activate
uv pip install -e .


Note: reactivate the environment if needed to use the keys in `.env`: `source .venv/bin/activate`

Then configure the bridge in [src/mcp_llm_bridge/main.py](src/mcp_llm_bridge/main.py)

```python
 mcp_server_params=StdioServerParameters(
            command="uv",
            # CHANGE THIS = it needs to be an absolute directory! add the mcp fetch server at the directory (clone from https://github.com/modelcontextprotocol/servers/)
            args=["--directory", "~/llms/mcp/mc-server-fetch/servers/src/fetch", "run", "mcp-server-fetch"],
            env=None
        ),
        # llm_config=LLMConfig(
        #     api_key=os.getenv("OPENAI_API_KEY"),
        #     model=os.getenv("OPENAI_MODEL", "gpt-4o"),
        #     base_url=None
        # ),
        llm_config=LLMConfig(
            api_key="ollama",  # Can be any string for local testing
            model="llama3.2",
            base_url="http://localhost:11434/v1"  # Point to your local model's endpoint
        ),
)
其他端点支持

该桥接工具还可与任何实现 OpenAI API 规范的端点配合使用：

Ollama
llm_config=LLMConfig(
    api_key="not-needed",
    model="mistral-nemo:12b-instruct-2407-q8_0",
    base_url="http://localhost:11434/v1"
)

许可证

MIT

参与贡献

欢迎提交 PR。

评论

支持 Markdown

第一次接触 MCP？

从协议是什么，到在客户端里装上第一个服务，这几条回答覆盖了大多数入门问题。

一个开放协议，规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话，MCP 服务负责提供工具、资源和提示模板，两者通过标准消息通信，同一个服务可以被不同客户端复用。