localmodels

localmodels

localmodels 将本地运行的 Ollama 服务接入 MCP 接口（并提供配套 CLI）。列出已安装的模型、拉取或删除模型、查看模型详情，然后生成文本、聊天或创建嵌入——全部使用在你自己的机器上运行的模型。

无需 API 密钥或账户。服务地址取自 OLLAMA_HOST，默认值为 http://127.0.0.1:11434。如果值不包含协议，则会在前面加上 http://，并忽略末尾的斜杠。如果无法连接到 Ollama 服务，调用会返回底层连接错误，不会伪造空结果。

安装

npx @reneturcios/localmodels list
docker run -i ghcr.io/cloudcorprecords/localmodels

在容器中，需要将 OLLAMA_HOST 指向宿主机（例如使用主机网络），因为容器内的 127.0.0.1 指向容器自身。

CLI

localmodels list
localmodels show llama3.2
localmodels pull qwen2.5
localmodels delete old:model
localmodels copy llama3.2 my-llama
localmodels generate llama3.2 "Write a haiku about autumn"
localmodels chat llama3.2 "Hello!"
localmodels embed nomic-embed-text "some text to embed"
localmodels running
localmodels version
localmodels --version

退出代码：0 表示成功，1 表示服务或查找错误，2 表示用法错误。

MCP 服务

npx -y @reneturcios/localmodels mcp

{
  "mcpServers": {
    "localmodels": {
      "command": "npx",
      "args": ["-y", "@reneturcios/localmodels", "mcp"],
      "env": { "OLLAMA_HOST": "http://127.0.0.1:11434" }
    }
  }
}

env 块为可选项；不设置时会使用默认地址。

工具

工具	输入	上游路由
list_models	—	GET /api/tags
show_model	model	POST /api/show
pull_model	model	POST /api/pull（stream: false）
delete_model	model	DELETE /api/delete
copy_model	source、destination	POST /api/copy
generate_completion	model、prompt、system（可选）	POST /api/generate（stream: false）
chat_completion	model、messages（{role, content} 数组）	POST /api/chat（stream: false）
create_embedding	model、input	POST /api/embed
list_running_models	—	GET /api/ps
get_version	—	GET /api/version

开发

npm install
npm run build
npm test
npm run dev

测试完全使用模拟的 fetch 测试数据；无需运行或连接实际的 Ollama 服务。

许可证

MIT — 参见 LICENSE。