MCP-Ollama Client

MCP-Ollama 客户端

小型命令行聊天客户端：

1. 通过 Ollama 使用本地 LLM，完全离线运行
2. 可连接任意数量的模型上下文协议（MCP）服务，所有服务都在一个 config.json 中声明

客户端启动时会启动所有服务，获取它们的工具架构，为工具名称添加前缀（postgres.*、filesystem.* 等），并将合并后的列表提供给模型。 LLM 会根据每个用户请求决定调用哪个服务。

---

功能

功能	说明
本地 LLM 优先	默认模型为 qwen3:14b，但 Ollama 提供的任何支持函数调用的模型都可使用。无需云端密钥。
开箱即用的多服务支持	Postgres、文件系统或你自己的 MCP 服务都可同时运行；所有服务都在 config.json 中定义。
无冲突的工具名称	工具以 <server>.<tool> 的形式提供，因此名称永远不会冲突。

---

要求

组件	已测试版本
Python	≥ 3.12
Ollama	≥ 0.8.0
MCP 服务	任何支持 stdio 传输的服务

---

快速开始

# 1. clone
git clone https://github.com/Nagharjun17/MCP-Ollama-Client.git
cd mcp-ollama-client

# 2. set up environment
uv venv
source .venv/bin/activate
uv pip sync pyproject.toml         # or: uv pip install -r uv.lock

# 3. pull a local model
ollama pull qwen3:14b

# 4. edit Model Name, DATABASE_URI etc. in config.json and download required MCP Servers. In my case:
uv pip install postgres-mcp

# 5. run
uv run client.py

启动日志示例：

🔌 Starting MCP server: postgres
🔌 Starting MCP server: filesystem
🛠️  Aggregated tools: ['postgres.list_schemas', 'filesystem.read_file', ...]
>>>

输入自然语言查询；模型会决定何时以及如何调用已提供的工具。

---

config.json 格式

{
  "llm": {
    "model": "qwen3:14b",
    "temperature": 0.7,
    "max_tokens": 2048
  },

  "mcpServers": {
    "postgres": {
      "command": "postgres-mcp",
      "args": ["--access-mode=restricted"],
      "env": {
        "DATABASE_URI": "postgresql://user:pass@localhost:5432/db"
      }
    },

    "filesystem": {
      "command": "npx",
      "args": [
        "-y",
        "@modelcontextprotocol/server-filesystem",
        "/mnt/smbshare/"
      ]
    }
  }
}

• mcpServers 下的键会成为前缀（postgres.*、filesystem.*）。*

每个服务都会作为独立的 stdio 子进程启动。

添加或移除服务，无需修改 client.py。

所有内容都保留在本地，所有配置都集中在一个文件中。