run-models

ドキュメント

• リファレンス：https://replicate.com/docs/llms.txt
• OpenAPI スキーマ：https://api.replicate.com/openapi.json
• MCP サーバー：https://mcp.replicate.com
• モデルごとのドキュメント：https://replicate.com/{owner}/{model}/llms.txt
• Markdown 形式のレスポンスでドキュメントページを取得するには、Accept: text/markdown を指定してください。

ワークフロー

1. 適切なモデルを選ぶ - API で検索するか、ユーザーに尋ねます。
2. モデルのメタデータを取得する - API 経由で入力スキーマと出力スキーマを取得します。
3. 予測を作成する - /v1/predictions に POST します。
4. 結果をポーリングする - ステータスが "succeeded" になるまで予測を GET します。
5. 出力を返す - 通常は生成されたコンテンツの URL です。

出力を取得する 3 つの方法

1. 予測を作成し、レスポンスから ID を保存して、完了するまでポーリングします。
2. 予測の作成時に Prefer: wait ヘッダーを指定すると、ブロッキング型の同期レスポンスを取得できます。非常に高速なモデルの場合にのみ推奨されます。最大 60 秒です。
3. 予測の作成時に HTTPS の Webhook URL を指定すると、予測の完了時に Replicate がその URL に POST します。

ガイドライン

• 公式モデルとコミュニティモデルの両方に対応している POST /v1/predictions エンドポイントを使用してください。
• モデルごとに OpenAPI スキーマがあります。有効な入力を設定していることを確認するため、必ずモデルのスキーマを取得して確認してください。人気のモデルでもスキーマは変更されます。
• 入力パラメーターがスキーマの制約（minimum、maximum、enum の値）を満たしているか検証してください。制約に違反する値は生成しないでください。
• パラメーターの値が不明な場合は、モデルのデフォルト例を使うか、任意のパラメーターを省略してください。
• 理由がない限り、任意の入力は指定しないでください。必須の入力だけを指定し、モデルのデフォルトに任せてください。
• ファイル入力には、可能な限り HTTPS URL を使用してください。Base64 エンコードしたファイルを送信することもできますが、避けてください。
• 複数の予測を同時に開始してください。次の予測を始める前に、1 つの予測の完了を待たないでください。
• 出力ファイルの URL は 1 時間で期限切れになります。保持する必要がある場合は、Cloudflare R2 などのサービスを使ってバックアップしてください。
• Webhook は、予測の出力を受信して保存するための優れた方法です。

予測

• 予測は次の状態を経ます：starting -> processing -> succeeded / failed / canceled。
• 公式モデルは owner/name の形式です。コミュニティモデルには owner/name:version_id が必要です。
• POST /v1/predictions エンドポイントは、どちらにも対応しています。

Webhook

• 予測の作成時に、webhook に HTTPS URL を設定してください。完了すると、Replicate は予測オブジェクト全体を POST します。
• webhook_events_filter を使ってイベントを絞り込みます：start、output、logs、completed。
• Webhook-ID、Webhook-Timestamp、Webhook-Signature ヘッダーを使って Webhook の署名を検証してください。署名シークレットは GET /v1/webhooks/default/secret から取得できます。

予測の有効期間

• 実行時間が長すぎる予測を自動キャンセルするには、lifetime を設定してください（例：30s、5m、1h）。有効期間は作成時刻から計測されます。

ストリーミング

• ストリーミングに対応する言語モデルは、レスポンスに stream URL を含みます。SSE を使って出力を逐次受信してください。

ファイルの処理

• ファイル入力には HTTPS URL を優先してください。ある予測の出力 URL は、次のモデルのファイル入力としてそのまま渡せます。
• 出力ファイルの URL は 1 時間で期限切れになります。保持する必要がある場合は、すぐにダウンロードして保存してください。

複数モデルのワークフロー

• 出力 URL を次のモデルのファイル入力として渡し、モデルを連結します。
• 独立した予測をすべて並行して開始し、その後に結果を収集します。
• 出力 URL は 1 時間有効なため、パイプラインの各ステップで利用できます。