Ollama MCP Chat

Ollama MCP 聊天

Ollama MCP Chat 是一款桌面聊天机器人应用，可将 Ollama 的本地大模型与 MCP（Model Context Protocol）服务集成，支持各种工具调用和可扩展功能。它基于 Python 和 PySide6 提供图形界面，并允许你通过 MCP 服务自由扩展其功能。

对于希望使用 Python 创建带图形界面的 AI 应用的开发者来说，本项目可作为非常实用的基础代码。

主要功能

• 免费在本地运行 Ollama 大模型
• 通过 MCP 服务集成并调用各种工具
• 管理并保存聊天记录
• 实时流式响应和工具调用结果
• 直观的桌面图形界面（基于 PySide6）
• 支持通过图形界面添加、编辑和移除 MCP 服务

系统要求

• Python 3.12 或更高版本
• 已安装 Ollama（用于在本地运行大模型）
• uv（推荐用于包管理）
• MCP 服务（可自行实现或使用外部 MCP 服务）
• smithery.ai（推荐用于 MCP 仓库）

安装

1. 克隆仓库

git clone https://github.com/your-repo/ollama-mcp-chat.git
cd ollama-mcp-chat

2. 安装 uv（如果尚未安装）

# Using pip
pip install uv

# Or using curl (Unix-like systems)
curl -LsSf https://astral.sh/uv/install.sh | sh

# Or using PowerShell (Windows)
powershell -c "irm https://astral.sh/uv/install.ps1 | iex"

3. 安装依赖项

# Install dependencies
uv sync

4. 安装 Ollama 并下载一个模型

• 推荐使用 [qwen3:14b](ollama run qwen3:14b)

# Install Ollama (see https://ollama.ai for details)
ollama pull <model-name>

5. 配置 MCP 服务（可选）

• 将 MCP 服务信息添加到 mcp_config.json 文件中
• 示例：

{
  "mcpServers": {
    "weather": {
      "command": "python",
      "args": ["./mcp_server/mcp_server_weather.py"],
      "transport": "stdio"
    }
  }
}

如何运行

uv run main.py

• 图形界面将启动，你可以开始聊天并使用 MCP 工具。

主要文件

• ui/chat_window.py：主图形界面窗口，负责聊天、历史记录、设置和服务管理
• agent/chat_history.py：管理并保存／加载聊天记录
• worker.py：处理与大模型及 MCP 服务的异步通信
• agent/llm_ollama.py：集成 Ollama 大模型和 MCP 工具，并处理流式响应
• mcp_server/mcp_manager.py：管理并验证 MCP 服务配置文件

扩展 MCP 服务

1. 将新的 MCP 服务信息添加到 mcp_config.json
2. 实现并准备 MCP 服务可执行文件
3. 重启应用，并在图形界面中查看 MCP 服务列表

聊天记录

• 所有对话都会自动保存到 chat_history.json
• 你可以在图形界面中加载之前的聊天记录或开始新聊天

退出命令

• 在程序中输入 quit、exit 或 bye 即可退出

注意事项

• 即使未配置 MCP 服务，也可以进行基本的大模型聊天
• 请留意电脑的性能和内存使用情况，尤其是在使用大型大模型时
• MCP 服务可以使用 Python、Node.js 或其他语言实现，也支持外部 MCP 服务

许可证

MIT 许可证