关于 🚀 MCP-Ollama Server
MCP-Ollama Server 将 Model Context Protocol 接入通过 Ollama 运行的本地 LLM,让本地模型具备文件、日历等工具能力。它面向需要数据留在本地或处于离线、高安全环境的用户,采用可按需部署的模块化 Python 服务。
主要功能
- 01通过 Ollama 在本地完成所有计算
- 02为本地 LLM 提供工具调用能力
- 03模块化 Python 服务,可单独部署
- 04日历、文件系统、客户端等独立模块
- 05提供 uv 安装与运行方式
适用场景
- 01处理机密文件且不希望数据外发的场景
- 02在离线或隔离网络中使用本地模型
- 03让本地模型读取和整理项目文件
MCP 相关
项目将 MCP 与 Ollama 连接起来,client_mcp 模块可连接并调用文件系统等 MCP 服务。
配置
本地服务的配置在各客户端中通用,复制后粘贴到客户端的 MCP 配置文件即可。
我们还没有获取到这个服务的安装包或远程地址,请按项目 README 中的说明安装。
工具
本地服务需要在你的电脑上运行后才能读取工具,维护者暂未提供工具列表。
详细介绍
🚀 MCP-Ollama Server
📋 概述
MCP-Ollama Server 弥合了 Anthropic 的 Model Context Protocol (MCP) 与通过 Ollama 运行的本地大模型之间的鸿沟。这一集成让你本地部署的 AI 模型具备类似 Claude 的工具能力,包括文件系统访问、日历集成、网页浏览、电子邮件通信、GitHub 交互以及 AI 图像生成——同时保持完整的数据隐私。
与基于云的 AI 方案不同,MCP-Ollama Server:
- 将所有数据处理保留在本地基础设施上
- 无需与第三方共享敏感信息
- 提供模块化方式,让你只使用所需的组件
- 在隔离网络或高安全环境中实现企业级 AI 能力
✨ 核心功能
- 🔒 完整数据隐私:所有计算均通过 Ollama 在本地完成
- 🔧 为本地大模型提供工具调用:为 Ollama 模型扩展文件、日历及其他能力
- 🧩 模块化架构:独立的 Python 服务模块,可按需选择性部署
- 🔌 易于集成:通过简单的 API 与现有应用连接
- 🚀 性能优化:极低开销,保持 AI 交互的响应速度
- 📦 容器化部署:每个模块均支持 Docker(即将推出)
- 🧪 全面测试:完善的测试覆盖以确保可靠性
🚀 快速开始
前置条件
- 已安装 Python 3.8+
- 已在系统中配置 Ollama
- 用于克隆仓库的 Git
🧩 组件概览
MCP-Ollama Server 按专用模块组织,每个模块提供特定功能:
📅 日历模块
calendar/
├── README.md # Module-specific documentation
├── google_calendar.py # Google Calendar API integration
├── pyproject.toml # Dependencies and package info
└── uv.lock # Dependency lock file
日历模块让你的本地大模型能够:
- 创建、修改和删除日历事件
- 检查可用性与日程冲突
- 发送会议邀请
- 设置提醒与通知
🔄 客户端 MCP 模块
client_mcp/
├── README.md # Module-specific documentation
├── client.py # Main client implementation
├── pyproject.toml # Dependencies and package info
├── testing.txt # Test data
└── uv.lock # Dependency lock file
客户端模块提供:
- 与所有支持 MCP 的服务交互的统一接口
- 对话历史管理
- 用于改善响应的上下文处理
- 工具选择与路由逻辑
📁 文件系统模块
file_system/
├── README.md # Module-specific documentation
├── file_system.py # File system operations implementation
├── pyproject.toml # Dependencies and package info
└── uv.lock # Dependency lock file
文件系统模块让你的本地大模型能够:
- 安全地读写文件
- 列出目录内容
- 按特定模式搜索文件
- 解析不同文件格式(文本、CSV、JSON 等)
安装
# 1. First install uv if you haven't already
curl -LsSf https://astral.sh/uv/install.sh | sh
# 2. Clone the repository
git clone https://github.com/sethuram2003/mcp-ollama_server.git
cd mcp-ollama_server
# 3. Verify Ollama model is installed (replace 'llama3' with your preferred model)
ollama pull llama3
模块配置
- 📅 日历模块:
cd calendar
uv add pyproject.toml # Install calendar-specific dependencies
- 🔄 客户端 MCP 模块:
cd client_mcp
uv add pyproject.toml # Install calendar-specific dependencies
- 📁 文件系统模块:
cd file_system
uv add pyproject.toml # Install filesystem dependencies
用法
cd client_mcp
uv run client.py ../file_system/file_system.py
与 Agent 交互:
AI Agent 之间的对话
🏗️ 架构
MCP-Ollama Server 采用微服务架构模式,每项能力都实现为独立的服务:
关键组件:
- Ollama 集成层:连接到本地 Ollama 实例并路由相应的请求
- MCP 协议处理器:在标准 MCP 格式与 Ollama 的要求之间进行转换
- 服务模块:实现特定功能的独立模块
- 客户端库:为应用与系统交互提供统一接口
此架构带来了以下几项优势:
- 可扩展性:添加新模块而不影响现有模块
- 韧性:即使个别模块发生故障,系统仍能继续运行
- 灵活性:只部署你需要的组件
- 安全性:对每个模块的数据访问进行精细化控制
📚 文档
各模块专属文档
每个模块都包含自己的 README,其中有详细的实现说明:
🛠️ 使用场景
企业安全与合规
非常适合需要 AI 能力但面临严格数据主权要求的组织:
- 处理机密案件档案的律师事务所
- 分析患者数据的医疗保健机构
- 处理敏感交易的金融机构
开发者生产力
改造你的本地开发环境:
- 借助对项目文件的访问进行代码生成
- 基于代码库分析的自动化文档
- 与本地 git 仓库集成
个人知识管理
打造一个尊重你隐私的强大第二大脑:
- 处理个人文档和笔记
- 管理日历并优化日程
- 基于你的个人知识库生成内容
🤝 贡献
我们欢迎来自社区的贡献!你可以通过以下方式提供帮助:
- 复刻仓库:创建属于你自己的项目复刻
- 创建功能分支:
git checkout -b feature/amazing-feature - 进行修改:实现你的功能或错误修复
- 运行测试:确保你的修改通过所有测试
- 提交更改:
git commit -m 'Add some amazing feature' - 推送到分支:
git push origin feature/amazing-feature - 发起 Pull Request:提交你的修改以供审查
请阅读我们的贡献指南了解更多详情。
❓ 常见问题
问:这与使用基于云的 AI 助手有何不同?
答:MCP-Ollama Server 完全在你的本地基础设施上运行,确保完全的数据隐私,并消除对外部 API 的依赖。
问:支持哪些模型?
答:任何与 Ollama 兼容的模型都可以使用。为获得最佳效果,我们推荐 Llama 3、Mistral 或其他参数量至少为 7B 的近期开源模型。
问:我如何用新功能扩展系统?
答:遵循模块化架构模式来创建新的服务模块。详情请参阅我们的扩展指南。
问:系统要求是什么?
答:要求取决于你选择的 Ollama 模型。对于基本功能,我们建议至少 16GB 内存和一颗现代多核 CPU。
📄 许可证
本项目依据 LICENSE 文件中包含的条款进行许可。
🙏 致谢
MCP-Ollama Server - 将云端级 AI 能力带到你的本地环境
评论
一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。
