mcpField
O
olares-router

olares-router

github.com/beclabクラウド・DevOps5.3k55 回インストール今日更新
リポジトリ

olares-router について

olares-routerは、Olares管理者向けのコマンドラインスキルです。Routerのプロバイダー、モデル、ルート、キー、クォータ、利用状況を管理し、ローカルモデルアプリの診断や各種モデルタスクの実行も扱います。

主な機能

  1. 01クラウドプロバイダーとモデルの管理
  2. 02ルート、キー、クォータの設定
  3. 03利用状況と監査記録の確認
  4. 04ローカルモデルアプリの診断
  5. 05テキスト、マルチモーダル、音声機能の呼び出し

活用シーン

  1. 01クラウドプロバイダーを接続してモデルを利用可能にする
  2. 02キー、クォータ、モデル利用状況の確認
  3. 03応答しないローカルモデルのトラブルシューティング
  4. 04コマンドラインから翻訳、OCR、音声タスクを実行

インストール

コマンドをコピーしてターミナルで実行します。

$npx skills add https://github.com/beclab/olares --skill olares-router

インストール後、Claude Code で/olares-routerを入力して読み込まれたか確認します。

同梱ファイル

SKILL.md と一緒にインストールされる参考資料やスクリプト。

references/
olares-router-architecture.md
olares-router-call-audio.md
olares-router-call-media.md
olares-router-call-text.md
olares-router-call-translate.md
olares-router-calling.md
olares-router-console.md
olares-router-diagnosis.md
olares-router-external.md
olares-router-governance.md
olares-router-local-llm.md
olares-router-local-multimodal.md
olares-router-usage.md
olares-router-voice.md

詳細

router(Router と Model Console)

共通の入口: スイート内のルーティング、アクティブなプロファイルの選択、プラットフォームのエントリーポイント、認証の続行/停止ゲートについては、../olares-shared/SKILL.md を読み込んでください。ログイン、プロファイルの切り替え、トークンの保存、認証の復旧が実際に必要な場合に限り、認証リファレンスを読み込んでください。

正式な構文は olares-cli router <verb> --help で確認してください。

使用する場面

  • Olares からクラウドベンダーのモデルを利用できるようにする場合、または現在の状態を確認する場合。
  • このマシンで動作するモデルアプリケーションをインストール、設定、または診断する場合。
  • 呼び出し元が model フィールドに指定できる値(エイリアス、モデルのグループ、デフォルトカテゴリ)を判断する場合。
  • モデルを呼び出すソフトウェア用のキーやクォータを発行し、利用量を確認する場合。
  • コマンドラインからモデルに処理を依頼する場合:チャット、埋め込み、再ランキング、ウェブ検索とスクレイピング、翻訳、画像、動画、双方向の音声、OCR。

基本的な考え方: すべての呼び出しは Router を経由します。Router は Olares ごとに 1 つの AI ゲートウェイです。Router はプロバイダー、モデル、キー、クォータ、利用記録を管理しますが、モデル自体は実行しません。ローカルモデルは モデルアプリケーション 内で実行されます。独自の Model Console がモデルの重みをダウンロードし、エンジンを起動して、Router が転送する OpenAI 互換エンドポイントを提供します。そのため、ローカルモデルの状態は 1 つではなく 2 つです。プラットフォームはコンテナが起動しているかどうかを示し、アプリケーションはモデルが応答できるかどうかを示します。コンテナは、重みの読み込みが完了する何分も前に running と報告することがあります。一方を、もう一方の根拠として決して扱わないでください。アーキテクチャと識別情報では詳しく説明しています。初めて書き込みを行う前に読むことをお勧めします。

Router は router Market リスティングとして提供され、Olares 1.12.7 以降が必要なため、すべての動詞で Olares 1.12.7 以降が必要です。Router は管理者専用のアプリケーションです。非管理者プロファイルには入口が表示されないため、ここに記載されているすべての動詞は、未インストールであると報告します。何かが欠けていると判断する前に、olares-cli profile whoami でロールを、olares-cli market list --mine でアプリケーションを確認してください。

よく使う操作

タスク参照先最初のコマンド
モデルが応答することを確認するこのファイルolares-cli router call chat "hello"
このプロファイルで呼び出せるものを確認するこのファイルolares-cli router call models
Olares からクラウドベンダーのモデルを利用できるようにする外部プロバイダーの設定olares-cli router provider create --type openai --credentials-json @openai.json --validate
失敗した呼び出しが記録された内容を確認するこのファイルolares-cli router usage list --limit 5

呼び出しにキーは必要ありません。Router はプラットフォームから呼び出し元を取得するため、router call はアクティブなプロファイルとして実行されます。ベンダーの追加には 1 回ではなく 2 回の書き込みが必要です。provider create で認証情報を保存し、model import でモデルを呼び出し可能にします。どちらも省略できません。

変更を管理するレイヤー

目的該当する場所
ベンダーのホスト型モデルを使用するprovider create + model import、または独自のリストを公開するエンドポイントの場合は provider sync-models
このマシンでモデルを実行するピン留めされたモデルには olares-market の market install、エンジンのベースには market clone を使用します。アプリケーションの実行時に Router がプロバイダーを作成します
ローカルモデルが提供する内容や起動方法を変更するmodel spec edit <model> — アプリケーションが管理するモデルカードです。Router の行ではありません
Router がルーティングに使用するアドレス、認証情報、有効状態を変更するprovider update
インストールの失敗を修復するprovider get <app> の後に model progress --app <app> / model retry --app <app> を実行します
動作を停止したエンジンを再起動するmodel restart <model>。カードを変更せずに推論プロセスを再起動します
モデルアプリケーションを停止、再開、または GPU に割り当てるolares-market と olares-settings。Router の管理対象ではありません

source が olares のプロバイダーは Market アプリケーションに属します。そのアドレスとライフサイクルは Market が管理するため、provider delete では削除できません。削除するには olares-cli market uninstall <app> を実行します。

動詞インデックス

分類動詞該当時に読むページ
Router の場所と、あなたが誰なのか固有の動詞はありません。すべての動詞が解決し、解決できない場合はその旨を伝えますアーキテクチャとアイデンティティ
クラウドベンダーとそのモデルprovider list/get/types/create/update/delete/validate/credentials/history/rollback/sync-models、行が存在する前の provider validate --draft、model get/import/add/update/remove外部プロバイダーの設定
ローカル LLM アプリケーションprovider register、model status/progress/retry/restart、および olares-market の install / cloneローカル LLM アプリケーション
ローカルの埋め込み、音声、OCR、CLIP同じ動詞で、モードが異なりますローカルのマルチモーダルアプリケーション
ローカルモデルが自らをどのように宣言しているかmodel spec show/edit/file/set、model restartローカル LLM アプリケーション
設定されている内容model list、model get名前、デフォルト、アクセス制御
呼び出し元が送信できる名前route list/get/create/rename/enable/disable/delete/add/remove、route list --kind default で取得する default-* カテゴリ、モデル名を指定する route candidates/pin/unpin名前、デフォルト、アクセス制御
アクセス制御key issue/list/update/revoke/current、quota set/list/clear名前、デフォルト、アクセス制御
起きたことusage summary/list/export/retention/apps、audit list/get使用状況と監査
あらゆる呼び出しに必要なものと、失敗した理由call models、key current、call ocr呼び出しの仕様
言葉でモデルに尋ねるcall chat/responses/count-tokens/embed/rerank/search/scrapeテキストとウェブ
翻訳(トランスクリプト全体を含む)--detect、--languages、--transcript を指定する call translate翻訳
画像の生成や編集、またはクリップ、トラック、メッシュの生成call image/video/music/3d — 画像編集には --operation edit --image を使用します。music と 3d には --model が必要です。また、call music format/draft/alignment/cancel は music 固有のコマンドです画像、クリップ、トラック、メッシュ
音声の入力と出力call transcribe/listen/speak/clone/dialogue/vad/diarize/speaker-embed/enhance/align、call task get/result/list/cancel音声
呼び出し後も使える音声と、読み上げた内容call voice list/get/add/design/settings/delete、call history list/get/download/delete音声ライブラリと読み上げ履歴
1 つのアプリケーション内--app を指定する model status/progress/retry/restart、model diag gpu/config/endpointsModel Console
動作しない呼び出しやモデル上記のいずれか問題があるレイヤーの特定

命名

  • 曖昧さが生じる可能性がある場合、モデルはどこでも <provider>/<model> で指定します。--model、クォータ、キーの許可リストなどが該当します。router model list では両方の部分が表示されます。スラッシュを含まない名前はルート(エイリアス、グループ、または default-* カテゴリー)であり、実在する必要があります。
  • ローカルにインストールされたモデルアプリケーションはすべて Olares というプロバイダーになるため、ローカルモデルでは修飾名が一意になりません。<app_name>/<model> でそのうちの1つを指定できます。たとえば llamacppqwen3v3/qwen3-8b です。また、router model list の SERVED BY に表示されるアプリケーションの表示名でも指定できます。常に行を一意に指定できるのはモデル ID だけです。曖昧な参照は候補を提示して拒否され、いずれかに解決されることはありません。
  • プロバイダーは、タイトル、Olares アプリ名、または ID で指定します。モデルアプリケーションは Olares アプリ ID(llamacppqwen3627bggufv3)で指定します。これは provider register と、Model Console にアクセスする model 動詞の --app で使う値です。それ以外の場合、これらの動詞はモデル名を受け取り、どのアプリケーションがそのモデルを提供しているかを Router に問い合わせます。--app を指定すると Router を経由しないため、Router に問題がある場合でも操作を続けられます。
  • Router を呼び出すアプリケーションには、ここに行がありません。Olares はエッジでそのアプリケーションを保証し、呼び出しには appid(アプリ名をハッシュ化したもの、またはシステムアプリの場合は名前そのもの)が付与されます。そのため、登録も取り消しもできません。olares-cli market list --mine でここに表示されるかを確認し、usage --by caller_app で使用量を確認できます。制御する唯一の手段は quota set --caller-app です。

安全性とエスカレーション

  • 名前を指定した設定リクエストは、そこから必要となる一連の操作を許可するものです。プロバイダーの作成、モデルのインポート、検証について、1つずつ再確認する必要はありません。
  • ユーザーが指定していない対象に対して provider delete、key revoke、quota clear、route delete を実行する前には、再確認してください。いずれも、まだ依存している呼び出し元に影響します。route disable は元に戻せるうえ、所属情報も維持されます。route delete は名前を解放します。
  • ファイルまたは標準入力を使える場合、認証情報をシェル引数に絶対に含めないでください。--credentials-json はどちらにも対応しています。共有されるトランスクリプトに、平文の sk- キーを絶対に出力しないでください。key issue は意図的に、そのキーを一度だけ表示します。
  • usage retention --days は、新しい期間の範囲外にある呼び出しごとの行を即座に削除します。期間を短縮すると、元に戻せません。日ごとの合計は保持されるため、ユーザーから依頼されていない期間短縮の前には確認してください。
  • model spec edit --engine-args と model restart はどちらも、モデルを提供するプロセスを再起動します。重みの読み込みが完了するまで応答が停止し、大きなモデルでは数分かかります。model spec set より model spec edit を優先してください。前者はアプリケーションが提供しているカードに変更をマージし、Router のコピーも更新します。後者はアプリケーション側のドキュメントを置き換えるため、置き換え時に省略したフィールドは失われます。
  • エラーを先に読まず、タイムアウトした書き込みを絶対に再試行しないでください。 Router に冪等性キーがあるのは3つの音楽送信処理だけで、それ以外にはありません。そのため、2回目の試行は2回目のリクエストになります。key issue は別のキーを発行し、provider rollback は別のバージョンを追加し、router call は再度課金されます。エラーには、結果が不明であることと、再試行した場合にそのルートで何が起きるかが記載されています。多くは重複すると拒否されるため、安全に再試行でき、409 は最初の試行が成功した証拠になります。読み取りの失敗は通常、再実行できます。task result も同様です。同じ結果を2回取得すると、タスクのバインディングに対する compare-and-swap で2回目が失敗し、確定処理は一度だけ行われます。そのため、ここでの再試行では作業ではなくリクエストのコストがかかります。
  • 設定済みでも応答しないモデルは、設定変更ではなく診断の対象です。編集を始める前に、問題のあるレイヤーを特定するを参照して経路を確認してください。
  • 認証が継続的に失敗する場合は、共有認証ゲートで停止してください。また、対象のプロバイダー、モデル、アプリケーション、またはユーザーが曖昧な場合も停止してください。

コメント