omniroute について
omnirouteは、開発者やエージェント向けのローカル/リモートAIゲートウェイです。OpenAI互換REST APIで複数プロバイダーを扱い、自動フォールバック、トークン圧縮、プロトコルサービスを備えています。
主な機能
- 01OpenAI互換REST API
- 02モデル検索とプロバイダールーティング
- 03自動フォールバックとコンボ戦略
- 04ツール結果のトークン圧縮
- 05PIIマスキングとインジェクション検出
- 06MCPとA2Aの内蔵サービス
活用シーン
- 01単一APIで複数プロバイダーのモデルを呼び出す
- 02プロバイダーの制限や停止時に切り替える
- 03ツール結果のトークン使用量を減らす
- 04エージェントに永続的なコンテキストとガードレールを提供する
MCP 対応
MCPクライアント向けに37個のツールを備えたMCPサーバーを内蔵し、A2Aサービスも提供します。
インストール
コマンドをコピーしてターミナルで実行します。
$
npx skills add https:/ / github.com/ funcodingdev/ omniroute --skill omnirouteインストール後、Claude Code で/omnirouteを入力して読み込まれたか確認します。
詳細
OmniRoute
OpenAI 互換の REST API を提供するローカル/リモート AI ゲートウェイです。1 つのキーで 207 以上のプロバイダーを利用でき、自動フォールバック、RTK トークンセーバー、MCP サーバー、A2A エージェントを備えています。
セットアップ
export OMNIROUTE_URL="http://localhost:20128" # or VPS / tunnel URL
export OMNIROUTE_KEY="sk-..." # from Dashboard → API Keys
すべてのリクエストで、Authorization: Bearer ${OMNIROUTE_KEY} を指定して ${OMNIROUTE_URL}/v1/... にアクセスします。
確認方法:curl $OMNIROUTE_URL/api/health → {"ok":true}
モデルの検出
curl $OMNIROUTE_URL/v1/models # chat/LLM (default)
curl $OMNIROUTE_URL/v1/models/image # image-gen
curl $OMNIROUTE_URL/v1/models/tts # text-to-speech
curl $OMNIROUTE_URL/v1/models/embedding # embeddings
curl $OMNIROUTE_URL/v1/models/web # web search + fetch
curl $OMNIROUTE_URL/v1/models/stt # speech-to-text
リクエストの model フィールドには data[].id を使用してください。コンボは owned_by:"combo" として表示されます。
機能スキル
CLI スキル(omniroute バイナリ)
エラー
401→OMNIROUTE_KEYを設定/更新してください(ダッシュボード → API キー)400 Invalid model format→/v1/models/<kind>にmodelが存在することを確認してください503 Provider circuit open→ アップストリームプロバイダーが停止しています。Retry-After秒後に再試行してください429→ レート制限されています。Retry-Afterに従ってください
OpenAI 直接利用との違い
- 自動フォールバックコンボ(14 種類の戦略):プロバイダーによるレート制限が発生しても、コーディングを止めません
- RTK トークン節約:
tool_resultを 47 種類の専用フィルター(git-diff、test-jest、terraform-plan、docker-logs など)で圧縮し、トークンを 20~40%削減します - Caveman モード:簡潔なシステムプロンプトを任意で挿入します(LITE/FULL/ULTRA)。生成トークンを 15~25%削減します
- MCP + A2A サーバーを内蔵(両方のプロトコルを公開する唯一の AI ルーターです)
- 永続的なエージェントコンテキストのための、FTS5 + Qdrant によるメモリー
- 個人情報のマスキング、プロンプトインジェクションの検出、ビジョンポリシーに対応するガードレール
コメント
Markdown 対応