关于 Osmosis-MCP-4B
为 MCP 训练的开源小语言模型。与 Brave Search、Google Maps、AccuWeather 等 MCP 工具集成,支持 GUI 和 TUI 两种界面,提供本地推理能力。
主要功能
- 01Osmosis 小语言模型
- 02多 MCP 工具集成
- 03Web 搜索和地理位置服务
- 04天气数据查询
- 05Python 代码解释器
- 06GUI 和 TUI 界面
适用场景
- 01本地模型推理
- 02综合信息查询
- 03地理位置分析
- 04天气预报应用
MCP 相关
Osmosis-MCP-4B 是为 MCP 优化的开源模型,通过 MCP 协议连接多个工具服务,实现网络搜索、地图、天气等功能的集成应用。
详细介绍
Osmosis-MCP-4B
博客文章
前置需求
- Python 3.x
- uvx
- 访问模型服务(例如,通过 vLLM/lm studio 本地运行)
- API 密钥:
- Brave Search
- Google Maps
- AccuWeather
设置与安装
-
安装 LM studio 点击此处,并使用它通过 http 端点运行模型
- 在 discover 中查找并下载模型
- 选择要加载的模型并加载一个 osmosis 模型
- 启动已加载模型的网络服务
- 在 discover 中查找并下载模型
-
克隆仓库(如适用):
git clone https://github.com/Gulp-AI/Osmosis-MCP-4B-demo cd Osmosis-MCP-4B-demo -
安装依赖: 建议使用虚拟环境。
python -m venv .venv source .venv/bin/activate # 在 Windows 上:.venv\Scripts\activate pip install -r requirements.txt -
设置环境变量: 在项目根目录中创建
.env文件,并添加你的 API 密钥和模型服务器配置:BRAVE_API_KEY="your_brave_api_key" GOOGLE_MAPS_API_KEY="your_google_maps_api_key" ACCUWEATHER_API_KEY="your_accuweather_api_key" APP_STYLE="gui" # 或 "tui"如果未提供 API 密钥,该工具将不会被加载。 如果省略
APP_STYLE,应用程序默认为 GUI 模式。main.py脚本当前直接配置模型服务器 URL。确保http://localhost:1234/v1是你的 Qwen 模型服务器的正确端点(这是 lm studio 使用的端点)。 -
运行本地模型: 使用 lm studio 之类的工具来提供可用的端点。
环境变量
应用程序使用以下环境变量(从 .env 文件加载):
BRAVE_API_KEY:你的 Brave Search API 密钥。GOOGLE_MAPS_API_KEY:你的 Google Maps API 密钥。ACCUWEATHER_API_KEY:你的 AccuWeather API 密钥。APP_STYLE:'tui' 或 'gui'
可用工具(MCP 服务)
Agent 被配置为通过 MCP 使用以下工具:
- Time: 提供当前时间信息。
- Brave Search: 启用网络搜索功能。
- 需要:
BRAVE_API_KEY
- 需要:
- Fetch: 从 URL 获取内容。
- Google Maps: 提供基于位置的服务。
- 需要:
GOOGLE_MAPS_API_KEY
- 需要:
- Weather: 提供天气预报。
- 需要:
ACCUWEATHER_API_KEY
- 需要:
- Code Interpreter: 用于执行 Python 代码片段的内置工具。
这些服务需要正在运行且可访问,以便 Agent 利用其各自的功能。main.py 脚本提供了启动这些 MCP 服务的命令。
如何运行图形用户界面(GUI):
此模式启动基于网络的界面以与 Agent 交互。这是默认模式。
```bash
python main.py
```
网络 UI 将在启动时由 `WebUI` 组件提供的地址处可访问(在 `http://localhost:7860`)。
评论
支持 Markdown
一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。