Mcp Langchain Server

基于 MCP 风格的 LangChain + Ollama Python 项目，可实现：

完全免费并在本地运行

通过 Flask API 接收 MCP 风格的 { action, params }

将请求路由到本地 LLM（通过 Ollama）以获取答案

文件：

app.py ← Flask API（MCP 风格的服务）

│

├── app.py ← Flask API（MCP 风格的服务）-> Flask web server

├── mcp_agent.py ← LangChain 逻辑：解释操作 -> LangChain Agent

├── requirements.txt ← Python 依赖项

└── README.md ← 项目概览

基于 MCP 的 LangChain 服务

LangChain Agent 收到了正确的操作

它使用你的逻辑（来自 mcp_agent.py）执行了该操作

它向 Postman 返回了正确的时间

下一步： 使用其他操作值进行测试

向 mcp_agent.py 添加新函数

或将其与前端集成

添加更智能的任务，或连接到 UI！

Llama 模型

探索 https://ollama.com/library

对于小型项目 -> 使用 pip 和 requirements.txt，以及 PyCharm IDE

对于较大的项目，现在 -> 试试 uv + ruff。这是一个很棒的 Python 开发配置，值得在今后的开发中使用。试试 Zed IDE。

Ruff 是一个用 Rust 编写的高性能 Python 生态系统代码检查和格式化工具。

https://docs.astral.sh/uv/guides/scripts/#creating-a-python-script

uv init
uv add ...

运行 gemma:2b

ollama run gemma:2b

gemma:2b 只需约 2–3 GB RAM。

运行 mistral

ollama run mistral

mistral 只需约 4 GB RAM，并且仍能很好地完成一般任务。

运行 llama3

ollama run llama3

Ollama 可完全在你的机器上、以内存运行 llama3 等模型。

尽管经过了优化，LLaMA 3 仍至少需要约 6 GB 可用 RAM，理想情况下需要更多（建议系统 RAM 总量为 8–12 GB）。

列出已下载的模型：

ollama list

拉取其他模型：

ollama pull mistral

ollama pull codellama

停止正在运行的模型：

ollama stop

启动 MCP 服务：

python app.py

你需要安装最新版的 LangChain 及其 community 模块，具体如下：

pip install langchain-community

推荐的完整配置（安全起见）：

如果你将 LangChain 与 Ollama 搭配使用，最好确保已安装以下组件：

pip install langchain langchain-community langchain-core langchainhub

pip install ollama

gemma:2b、llama3 有知识截止日期

静态知识：这些模型使用截至某个时间点的数据进行训练（例如，许多模型的数据截至 2023 年年中）。

它们不了解训练截止日期之后发生的任何事情。

想在 LangChain/Ollama 配置中获取实时新闻？

你可以将本地模型与以下内容结合使用：

RAG（检索增强生成），通过 API（如 NewsAPI 或 Google News）获取实时新闻，

然后将这些信息作为上下文传递给 LLM，让它根据这些信息进行总结或回答。

使用本地 Ollama 模型集成 LangChain + News API。