omni-budget について
OmniRouteで、APIキー単位または全体の支出上限、トークン割り当て、レート制限ポリシーを設定するスキルです。レート制限設定の取得と更新に使うAPIエンドポイントも提供します。
主な機能
- 01支出上限の設定
- 02トークン割り当ての設定
- 03APIキー単位または全体へのレート制限適用
- 04利用状況の確認
- 05API経由でのレート制限設定の更新
活用シーン
- 01APIキーの支出上限を設定
- 02全体のトークン割り当てを適用
- 03プロバイダーごとの利用状況を確認
インストール
コマンドをコピーしてターミナルで実行します。
$
npx skills add https:/ / github.com/ cheaper-inference/ omniroute --skill omni-budgetインストール後、Claude Code で/omni-budgetを入力して読み込まれたか確認します。
詳細
概要
API キーごと、またはグローバルに、利用上限、トークン割り当て量、レート制限ポリシーを設定します。現在の使用状況を確認し、プロバイダー全体でコスト管理を適用します。
認証
すべてのリクエストには、有効な Bearer トークンまたはセッション Cookie が必要です。POST /api/auth/login でトークンを取得するか、ローカル開発用に REQUIRE_API_KEY=false を設定してください。
エンドポイント
GET /api/rate-limit
レート制限の設定を取得します
curl http://localhost:20128/api/rate-limit \
-H "Authorization: Bearer $OMNIROUTE_TOKEN"
POST /api/rate-limit
レート制限の設定を更新します
curl -X POST http://localhost:20128/api/rate-limit \
-H "Authorization: Bearer $OMNIROUTE_TOKEN" \
-H "Content-Type: application/json" \
-d '{}'
ペイロード
リクエスト/レスポンスのスキーマの詳細については、GET /api/openapi/spec または docs/openapi.yaml の OpenAPI 仕様全体を参照してください。
コメント
Markdown 対応