llm-oracle

llm-oracle

持续更新的目录和查询 API，用于查询大模型提供商的可用性和定价。

由 weiseer 构建。

功能

对于类似 “针对包含 N 个输入 token、预计输出 M 个 token 的提示词，目前可用的模型中哪个成本最低？” 的问题，Oracle 能在毫秒内给出答案，并附上其定价依据所用的来源 URL。

可将其用作：

• MCP 服务，为需要在推理时做路由决策的 AI Agent 提供支持
• HTTP JSON API，供任何需要最新大模型定价和可用性信息的工具调用
• 原始 catalog.json，可供审核、打包分发或贡献修复

原因

大模型定价每月都会变化。每个多模型应用都会重新构建相同的查询表。我们负责维护，你无需操心。

• 有引用来源：每条定价记录都链接到提供商的官方文档
• 有版本信息：每个响应都包含 as_of 时间戳，让你了解数据的新旧程度
• 开放：目录是公开的 JSON，采用 MIT 许可；客户端和服务端代码采用 Apache-2.0 许可
• 交叉核验：在数据重叠处，使用开源的 LiteLLM price file 核验来源数据

覆盖范围（v0）

5 家提供商，约 10 个模型。随着需求显现持续扩展。

• Anthropic：Claude Opus 4.7、Sonnet 4.6、Haiku 4.5
• OpenAI：GPT-5、GPT-4o
• Google：Gemini 2.5 Pro、Gemini 2.5 Flash
• DeepSeek：Reasoner、Chat
• Mistral：Large

快速开始

作为 MCP 服务（Claude Desktop、Cursor、Continue、Cline 等）

git clone https://github.com/weiseer/llm-oracle
cd llm-oracle

添加到 MCP 客户端配置中：

{
  "mcpServers": {
    "llm-oracle": {
      "command": "python",
      "args": ["/absolute/path/to/llm-oracle/mcp_server.py"]
    }
  }
}

现在 Agent 可以使用以下工具：

• list_models(provider?, capability?) → 列出模型，可按条件筛选
• get_model(model_id) → 获取单个模型的完整记录
• find_cheapest(input_tokens, output_tokens, required_capabilities?) → 按预估成本排序
• compare_models(model_ids[], input_tokens?, output_tokens?) → 并排比较
• check_availability(model_id) → 查询当前状态并附上引用来源

作为 HTTP API

# Free tier: 1,000 calls/day per IP, no key
curl https://oracle.weiseer.com/catalog.json
curl 'https://oracle.weiseer.com/cheapest?input_tokens=2000&output_tokens=500'
curl https://oracle.weiseer.com/models/claude-sonnet-4-6

作为原始 JSON

curl https://oracle.weiseer.com/catalog.json > my-local-catalog.json

定价

层级	调用次数	费用
免费	1,000/天	$0
Pro	100,000/月	$5 USDC/月
Scale	1,000,000/月	$20 USDC/月
原始目录	不限	$0（始终免费）

付费层级以 USDC 结算。发送邮件至 [email protected] 订阅；我们会签发 API 密钥并确认收款。（首批 3 位付费客户出现后，我们会将此流程自动化。）

架构

规范架构请参见 catalog.json。每个模型的字段包括 model_id、provider、family、context_window、max_output_tokens、input_price、output_price、cached_input_price、capabilities、availability_status、来源 URL 和时间戳。

更新频率

• 定价：每日通过 cron 更新；公开宣布价格变更时手动更新
• 可用性：在条件允许时，每 5 分钟轮询一次提供商状态页；否则每日进行冒烟测试

错误与异议

发现价格过时、能力标记有误或缺少模型？请提交 issue——请附上我们应跟踪的来源 URL。

遥测

托管服务会将每个请求作为单条事件（调用方、查询摘要、延迟、付费状态）记录到 weiseer 的只追加审计账本中。可自托管的 MCP 服务不会记录任何内容。

基于此项目构建

目录格式采用 MIT 许可。你可以打包分发、镜像或基于它进行构建。若重新分发数据，我们只要求你在显眼处引用 weiseer/llm-oracle。

服务端和 MCP 代码采用 Apache-2.0 许可。

路线图（根据实际需求探索，不预先规划）

这是 weiseer 战略待办事项中的 P-001——用于探索 organism 架构 v2 的市场传感器。我们会根据用户需求扩展；如果公开提供 4 周后调用次数仍不到 100 次，就会将其下线。不要期待这是一个打磨完善的商业产品；请期待坦诚的试验和每日更新。

我们可能会按观察到的需求顺序添加以下内容：

• 更多提供商（Cohere、xAI、AI21、Together、Replicate 托管服务、Bedrock、Azure 定价变体）
• 面向高调用量 Agent 买家的 x402 微支付（暂缓——参见有关协议安全性的 arXiv 2605.11781）
• 历史定价时间序列
• 各提供商的 SLA 和正常运行时间汇总
• 提供商存在差异时，按区域提供可用性信息
• 自托管模型成本估算器（附带注意事项）

联系方式

[email protected] · github.com/weiseer · weiseer.com