Ollama Pydantic Project

Ollama Pydantic 项目

欢迎使用 Ollama Pydantic 项目！本项目演示如何将本地 Ollama 模型与 Pydantic Agent 框架结合，创建智能 Agent。该 Agent 连接到 MCP 服务以使用工具，并通过 Streamlit 提供友好的用户界面。

本项目是博客文章的一部分：构建 TypeScript MCP 服务：集成现有服务指南。访问博客，了解本项目背后的概念和实现细节。

概述

本项目的主要目标是展示：

• 本地 Ollama 模型集成：使用本地托管的 Ollama 模型生成响应。
• Pydantic Agent 框架：使用 Pydantic 创建 Agent，以进行数据验证和交互。
• MCP 服务连接：让 Agent 能够通过 MCP 服务使用工具。
• Streamlit UI：提供基于 Web 的聊天机器人界面，供用户交互。

前置条件

设置项目之前，请确保满足以下条件：

1. Python：安装 Python 3.8 或更高版本。可从 python.org 下载。
2. Ollama 模型：在本地安装并运行 Ollama 服务：
   • 从 Ollama 官方网站 下载 Ollama CLI。
   • 按照其网站上的说明安装 CLI。
   • 启动 Ollama 服务：

     ollama serve
     

   • 确保服务运行在 http://localhost:11434/v1。
3. MCP 服务：设置 MCP 服务以启用 Agent 工具。详情请参阅 MCP 服务示例。

设置说明

按照以下步骤设置项目：

1. 克隆仓库：

   git clone <repository-url>
   cd ollama-pydantic-project
   

2. 创建虚拟环境：

   python3 -m venv venv
   

3. 激活虚拟环境：

   • 在 macOS/Linux 上：

     source venv/bin/activate
     

   • 在 Windows 上：

     venv\Scripts\activate
     

4. 安装依赖项：

   pip install -r requirements.txt
   

5. 确保 Ollama 服务正在运行： 按照前置条件中的说明启动 Ollama 服务。

6. 运行应用程序： 启动 Streamlit 应用程序：

   streamlit run src/streamlit_app.py
   

使用方法

应用程序运行后，在浏览器中打开提供的 URL（通常为 http://localhost:8501）。在输入框中输入查询，即可与聊天机器人交互。Agent 将使用 Ollama 模型以及 MCP 服务提供的工具处理查询。

交互示例

以下示例展示了与 Agent 交互时聊天机器人界面的样子：

项目结构

项目组织结构如下：

ollama-pydantic-project/
├── src/
│   ├── streamlit_app.py        # Main Streamlit application
│   ├── agents/
│   │   ├── base_agent.py       # Abstract base class for agents
│   │   ├── ollama_agent.py     # Implementation of the Ollama agent
│   ├── utils/
│       ├── config.py           # Configuration settings
│       ├── logger.py           # Logger utility
├── requirements.txt            # Python dependencies
├── README.md                   # Project documentation
├── assets/
│   ├── ollama_agent_mcp_example.png  # Example interaction image
├── .gitignore                  # Git ignore file

功能

• Streamlit 聊天机器人：用户友好的聊天机器人界面。
• Ollama 模型集成：使用本地 Ollama 模型生成响应。
• MCP 服务工具：连接到 MCP 服务，增强 Agent 的能力。
• Pydantic 框架：确保数据验证和类型安全。

相关项目

本项目与另一个 GitHub 项目密切相关，该项目演示了如何设置 MCP 服务：Hello World MCP 服务。与该项目关联的博客文章 构建 TypeScript MCP 服务：集成现有服务指南 提供了更多背景信息和实现细节，可作为本项目的补充。

故障排除

• 如果 Ollama 服务出现问题，请确保它正在 http://localhost:11434/v1 上运行。
• 如果依赖项安装失败，请确保使用的是 Python 3.8 或更高版本，并且已激活虚拟环境。
• 如果遇到与 MCP 服务相关的问题，请参阅 MCP 服务示例。

许可证

本项目采用 MIT License 许可。您可以根据许可条款自由使用、修改和分发本项目。更多详情请参阅 LICENSE 文件。

贡献

欢迎贡献！欢迎提交问题或拉取请求。