replicate

文档

• 参考文档：https://replicate.com/docs/llms.txt
• HTTP API 架构：https://api.replicate.com/openapi.json
• MCP 服务：https://mcp.replicate.com
• 请求文档页面时，设置 Accept: text/markdown 标头即可获取 Markdown 格式的响应。

工作流

以下是使用 Replicate API 运行模型的常见工作流：

1. 选择合适的模型 - 通过 API 搜索或询问用户
2. 获取模型元数据 - 通过 API 获取模型输入和输出架构
3. 创建预测 - 向 /v1/predictions 发送 POST 请求
4. 轮询结果 - 使用 GET 请求获取预测，直到状态为 "succeeded"
5. 返回输出 - 通常是生成内容的 URL

选择模型

• 使用搜索和集合 API 查找并比较合适的模型。不要通过 API 列出所有模型，因为这会返回海量结果。
• 集合由 Replicate 员工精选，因此经过了审核。
• 官方模型位于 "official" 集合中。
• 使用官方模型，因为它们：
  • 始终处于运行状态
  • API 接口稳定
  • 输出定价可预测
  • 由 Replicate 员工维护
• 如果必须使用社区模型，请注意其启动可能需要很长时间。
• 你可以创建始终运行的社区模型部署，但需要为模型运行时间付费。

运行模型

模型运行需要时间。通过 API 运行模型并获取其输出有三种方式：

1. 创建预测，从响应中保存其 id，并轮询直到完成。
2. 创建预测时设置 Prefer: wait 标头，以获取阻塞式同步响应。仅建议用于运行速度非常快的模型。
3. 创建预测时设置 HTTPS webhook URL，预测完成后 Replicate 会向该 URL 发送 POST 请求。

运行模型时请遵循以下指南：

• 使用 "POST /v1/predictions" 端点，因为它同时支持官方模型和社区模型。
• 每个模型都有自己的 OpenAPI 架构。务必获取并检查模型架构，确保设置的输入有效。即使是热门模型，其架构也会发生变化。
• 根据架构约束（最小值、最大值、枚举值）验证输入参数。不要生成违反约束的值。
• 不确定参数值时，请使用模型的默认示例，或省略可选参数。
• 除非有理由，否则不要设置可选输入。只使用必需输入，让模型使用默认值。
• 尽可能为文件输入使用 HTTPS URL。你也可以发送经过 Base64 编码的文件，但应避免这样做。
• 并发提交多个预测。不要等一个预测完成后才开始下一个。
• 输出文件 URL 会在 1 小时后过期。如果需要保留文件，请使用 Cloudflare R2 等服务备份。
• Webhook 是接收并存储预测输出的好方法。