Local Model Suitability Mcp

本地模型适用性 MCP

云端推理成本高昂。凡是能在本地运行的，都应该在本地运行。

这个 MCP 服务会在每次调用云端 API 之前，告知你的 Agent 任务是否可以改由本地模型处理。条件允许时，路由到 Ollama、LM Studio 或 llama.cpp。只有在必要时才使用云端服务。

工具

check_local_viability

在每次调用云端推理之前调用此工具。如果判定结果为 LOCAL，则完全跳过云端调用，并将任务路由到本地模型。只有当此工具返回 CLOUD 时才使用云端服务。

输入：

字段	必填	描述
task	✅	你即将发送给云端模型的确切任务
quality_threshold	可选	PRODUCTION（默认）/ PROTOTYPE / BEST_EFFORT
data_sensitivity	可选	PUBLIC（默认）/ INTERNAL / CONFIDENTIAL

无论任务复杂度如何，CONFIDENTIAL 都会强制判定为 LOCAL — 数据绝不会离开本机。

响应：

{
  "verdict": "LOCAL",
  "confidence": "HIGH",
  "reason": "Simple text summarisation — no reasoning depth required. Any 7B+ local model handles this well.",
  "estimated_cost_saving": "$0.002-0.008 saved per call at claude-sonnet pricing",
  "recommended_local_models": ["llama3.2:8b", "mistral-7b", "phi3:medium"],
  "cloud_justified_reason": null,
  "analysis_type": "AI-powered cost routing — NOT a simple lookup"
}

数据来源

• AI 推理：Anthropic Claude（claude-sonnet）— 成本路由分析
• 无外部数据来源 — 纯 AI 推理

定价

方案	调用次数	价格
免费	20/月	$0
入门版	500 次调用套餐	$20
专业版	2,000 次调用套餐	$70

在 kordagencies.com 订阅

设置

{
  "mcpServers": {
    "local-model-suitability": {
      "command": "npx",
      "args": ["-y", "local-model-suitability-mcp"],
      "env": {
        "ANTHROPIC_API_KEY": "your-key",
        "API_KEY": "your-lms-api-key-for-paid-tier"
      }
    }
  }
}

免费套餐无需 API 密钥 — 按 IP 统计。

Harness 集成

Claude Code / Claude Desktop (.mcp.json)

{
  "mcpServers": {
    "local-model-suitability": {
      "type": "http",
      "url": "https://local-model-suitability-mcp-production.up.railway.app"
    }
  }
}

LangChain (Python)

from langchain_mcp_adapters.client import MultiServerMCPClient
client = MultiServerMCPClient({
    "local-model-suitability": {
        "url": "https://local-model-suitability-mcp-production.up.railway.app",
        "transport": "http"
    }
})
tools = await client.get_tools()

OpenAI Agents SDK (Python)

from agents import Agent, HostedMCPTool
agent = Agent(
    name="Assistant",
    tools=[HostedMCPTool(tool_config={
        "type": "mcp",
        "server_label": "local-model-suitability",
        "server_url": "https://local-model-suitability-mcp-production.up.railway.app",
        "require_approval": "never"
    })]
)

LangGraph

与上文的 LangChain 相同 — langchain-mcp-adapters 原生支持 LangGraph。

法律声明

结果仅用于成本优化指导，不构成技术建议。完整条款：kordagencies.com/terms.html