mcpField
O
omni-budget

omni-budget

github.com/cheaper-inferenceクラウド・DevOps82.3k1.0k 回インストール今日更新
リポジトリ

omni-budget について

OmniRouteで、APIキー単位または全体の支出上限、トークン割り当て、レート制限ポリシーを設定するスキルです。レート制限設定の取得と更新に使うAPIエンドポイントも提供します。

主な機能

  1. 01支出上限の設定
  2. 02トークン割り当ての設定
  3. 03APIキー単位または全体へのレート制限適用
  4. 04利用状況の確認
  5. 05API経由でのレート制限設定の更新

活用シーン

  1. 01APIキーの支出上限を設定
  2. 02全体のトークン割り当てを適用
  3. 03プロバイダーごとの利用状況を確認

インストール

コマンドをコピーしてターミナルで実行します。

$npx skills add https://github.com/cheaper-inference/omniroute --skill omni-budget

インストール後、Claude Code で/omni-budgetを入力して読み込まれたか確認します。

詳細

概要

API キーごと、またはグローバルに、利用上限、トークン割り当て量、レート制限ポリシーを設定します。現在の使用状況を確認し、プロバイダー全体でコスト管理を適用します。

認証

すべてのリクエストには、有効な Bearer トークンまたはセッション Cookie が必要です。POST /api/auth/login でトークンを取得するか、ローカル開発用に REQUIRE_API_KEY=false を設定してください。

エンドポイント

GET /api/rate-limit

レート制限の設定を取得します

curl http://localhost:20128/api/rate-limit \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN"
POST /api/rate-limit

レート制限の設定を更新します

curl -X POST http://localhost:20128/api/rate-limit \
  -H "Authorization: Bearer $OMNIROUTE_TOKEN" \
  -H "Content-Type: application/json" \
  -d '{}'

ペイロード

リクエスト/レスポンスのスキーマの詳細については、GET /api/openapi/spec または docs/openapi.yaml の OpenAPI 仕様全体を参照してください。

コメント