mcpField
O
Ollama

Ollama

官方精选Agent-ready
ollama.comAI 与 Agent185.0kollama1 天前更新
代码仓库访问官网

关于 Ollama

Ollama 允许在本地计算机上轻松运行和管理开源大模型。支持模型下载、管理和交互，集成到终端工作流中，无需依赖远程 API。

主要功能

  1. 01下载并在本地运行开源大模型（如 Gemma、Llama）
  2. 02管理多个模型版本和变体
  3. 03通过命令行直接与模型交互
  4. 04集成到脚本和自动化工作流中

适用场景

  1. 01在本地开发环境测试和评估开源大模型
  2. 02构建离线 AI 应用，无需依赖云服务
  3. 03为 Agent 和编码工具提供本地推理能力

安装

选择你的系统或包管理器，复制命令到终端运行。

$
brew install ollama

安装完成后运行ollama --version确认安装成功。

命令示例

常用命令按使用顺序排列。

01
ollama serve
02
ollama run gemma3
03
ollama list

详细介绍

ollama

Ollama

开始使用开放模型进行构建。在本地或云端访问最新版本，充分保护隐私。

下载

macOS
curl -fsSL https://ollama.com/install.sh | sh

或手动下载

Windows
irm https://ollama.com/install.ps1 | iex

或手动下载

Linux
curl -fsSL https://ollama.com/install.sh | sh

手动安装说明

Docker

官方 Ollama Docker 镜像 ollama/ollama 可在 Docker Hub 获取。

库
社区

开始使用

ollama

系统会提示你运行模型，或将 Ollama 连接到现有的 Agent 或应用，例如 Claude Code、OpenClaw、OpenCode、Codex、Copilot 等。

编码

启动特定集成：

ollama launch claude

支持的集成包括 Claude Code、Codex、Copilot CLI、DeepSeek Harness、Droid 和 OpenCode。

AI 助手

使用 OpenClaw，将 Ollama 变成可在 WhatsApp、Telegram、Slack、Discord 等平台使用的个人 AI 助手：

ollama launch openclaw
与模型聊天

运行并与 Gemma 4 聊天：

ollama run gemma4

完整列表请参阅 ollama.com/library。

详情请参阅快速入门指南。

REST API

Ollama 提供用于运行和管理模型的 REST API。

curl http://localhost:11434/api/chat -d '{
  "model": "gemma4",
  "messages": [{
    "role": "user",
    "content": "Why is the sky blue?"
  }],
  "stream": false
}'

所有端点请参阅 API 文档。

Python
pip install ollama

from ollama import chat

response = chat(model='gemma4', messages=[
  {
    'role': 'user',
    'content': 'Why is the sky blue?',
  },
])
print(response.message.content)
JavaScript
npm i ollama

import ollama from "ollama";

const response = await ollama.chat({
  model: "gemma4",
  messages: [{ role: "user", content: "Why is the sky blue?" }],
});
console.log(response.message.content);

支持的后端

  • llama.cpp 项目由 Georgi Gerganov 创立。

文档

社区集成

想要添加你的项目？请提交拉取请求。

聊天界面
网页
桌面
  • Dify.AI - 大模型应用开发平台
  • AnythingLLM - 适用于 Mac、Windows 和 Linux 的一体化 AI 应用
  • Maid - 跨平台移动端和桌面客户端
  • Witsy - 适用于 Mac、Windows 和 Linux 的 AI 桌面应用
  • Cherry Studio - 多服务商桌面客户端
  • Ollama App - 适用于桌面和移动端的多平台客户端
  • PyGPT - 适用于 Linux、Windows 和 Mac 的 AI 桌面助手
  • Alpaca - 适用于 Linux 和 macOS 的 GTK4 客户端
  • SwiftChat - 跨平台，包括 iOS、Android 和 Apple Vision Pro
  • Enchanted - 原生 macOS 和 iOS 客户端
  • RWKV-Runner - 多模型桌面运行器
  • Ollama Grid Search - 评估和比较模型
  • macai - 适用于 Ollama 和 ChatGPT 的 macOS 客户端
  • AI Studio - 多服务商桌面 IDE
  • Reins - 参数调优，支持推理模型
  • ConfiChat - 注重隐私，可选加密
  • LLocal.in - Electron 桌面客户端
  • MindMac - 适用于 Mac 的 AI 聊天客户端
  • Msty - 多模型桌面客户端
  • BoltAI for Mac - 适用于 Mac 的 AI 聊天客户端
  • IntelliBar - 适用于 macOS 的 AI 驱动助手
  • Kerlig AI - 适用于 macOS 的 AI 写作助手
  • Hillnote - Markdown 优先的 AI 工作区
  • Perfect Memory AI - 基于屏幕和会议记录的个性化效率 AI
移动端

上文列出的 SwiftChat、Enchanted、Maid、Ollama App、Reins 和 ConfiChat 也支持移动平台。

代码编辑器与开发
库与 SDK
框架与 Agent
RAG 与知识库
  • RAGFlow - 基于深度文档理解的 RAG 引擎
  • R2R - 开源 RAG 引擎
  • MaxKB - 开箱即用的 RAG 聊天机器人
  • Minima - 本地部署或完全本地化的 RAG
  • Chipper - 带 Haystack RAG 的 AI 界面
  • ARGO - 在 Mac/Windows/Linux 上运行的 RAG 与深度研究工具
  • Archyve - 支持 RAG 的文档库
  • Casibase - 带 RAG 与 SSO 的 AI 知识库
  • BrainSoup - 带 RAG 与多 Agent 自动化的原生客户端
机器人与消息
终端与命令行
效率与应用
可观测性与监控
  • Opik - 调试、评估和监控大模型应用
  • OpenLIT - 面向 Ollama 与 GPU 的原生 OpenTelemetry 监控
  • Lunary - 大模型可观测性，提供分析与 PII 脱敏
  • Langfuse - 开源大模型可观测性
  • HoneyHive - 面向 Agent 的 AI 可观测性与评估
  • MLflow Tracing - 开源大模型可观测性
数据库与嵌入
  • pgai - PostgreSQL 作为向量数据库（指南）
  • MindsDB - 将 Ollama 连接到 200+ 数据平台
  • chromem-go - 适用于 Go 的可嵌入向量数据库（示例）
  • Kangaroo - AI 驱动的 SQL 客户端
基础设施与部署
云服务
包管理器

评论

支持 Markdown