olares-router について
olares-routerは、Olares管理者向けのコマンドラインスキルです。Routerのプロバイダー、モデル、ルート、キー、クォータ、利用状況を管理し、ローカルモデルアプリの診断や各種モデルタスクの実行も扱います。
主な機能
- 01クラウドプロバイダーとモデルの管理
- 02ルート、キー、クォータの設定
- 03利用状況と監査記録の確認
- 04ローカルモデルアプリの診断
- 05テキスト、マルチモーダル、音声機能の呼び出し
活用シーン
- 01クラウドプロバイダーを接続してモデルを利用可能にする
- 02キー、クォータ、モデル利用状況の確認
- 03応答しないローカルモデルのトラブルシューティング
- 04コマンドラインから翻訳、OCR、音声タスクを実行
インストール
コマンドをコピーしてターミナルで実行します。
npx skills add https:/ / github.com/ beclab/ olares --skill olares-routerインストール後、Claude Code で/olares-routerを入力して読み込まれたか確認します。
同梱ファイル
SKILL.md と一緒にインストールされる参考資料やスクリプト。
references/olares-router-architecture.mdolares-router-call-audio.mdolares-router-call-media.mdolares-router-call-text.mdolares-router-call-translate.mdolares-router-calling.mdolares-router-console.mdolares-router-diagnosis.mdolares-router-external.mdolares-router-governance.mdolares-router-local-llm.mdolares-router-local-multimodal.mdolares-router-usage.mdolares-router-voice.md詳細
router(Router と Model Console)
共通の入口: スイート内のルーティング、アクティブなプロファイルの選択、プラットフォームのエントリーポイント、認証の続行/停止ゲートについては、
../olares-shared/SKILL.mdを読み込んでください。ログイン、プロファイルの切り替え、トークンの保存、認証の復旧が実際に必要な場合に限り、認証リファレンスを読み込んでください。
正式な構文は olares-cli router <verb> --help で確認してください。
使用する場面
- Olares からクラウドベンダーのモデルを利用できるようにする場合、または現在の状態を確認する場合。
- このマシンで動作するモデルアプリケーションをインストール、設定、または診断する場合。
- 呼び出し元が
modelフィールドに指定できる値(エイリアス、モデルのグループ、デフォルトカテゴリ)を判断する場合。 - モデルを呼び出すソフトウェア用のキーやクォータを発行し、利用量を確認する場合。
- コマンドラインからモデルに処理を依頼する場合:チャット、埋め込み、再ランキング、ウェブ検索とスクレイピング、翻訳、画像、動画、双方向の音声、OCR。
基本的な考え方: すべての呼び出しは Router を経由します。Router は Olares ごとに 1 つの AI ゲートウェイです。Router はプロバイダー、モデル、キー、クォータ、利用記録を管理しますが、モデル自体は実行しません。ローカルモデルは モデルアプリケーション 内で実行されます。独自の Model Console がモデルの重みをダウンロードし、エンジンを起動して、Router が転送する OpenAI 互換エンドポイントを提供します。そのため、ローカルモデルの状態は 1 つではなく 2 つです。プラットフォームはコンテナが起動しているかどうかを示し、アプリケーションはモデルが応答できるかどうかを示します。コンテナは、重みの読み込みが完了する何分も前に
runningと報告することがあります。一方を、もう一方の根拠として決して扱わないでください。アーキテクチャと識別情報では詳しく説明しています。初めて書き込みを行う前に読むことをお勧めします。
Router は router Market リスティングとして提供され、Olares 1.12.7 以降が必要なため、すべての動詞で Olares 1.12.7 以降が必要です。Router は管理者専用のアプリケーションです。非管理者プロファイルには入口が表示されないため、ここに記載されているすべての動詞は、未インストールであると報告します。何かが欠けていると判断する前に、olares-cli profile whoami でロールを、olares-cli market list --mine でアプリケーションを確認してください。
よく使う操作
| タスク | 参照先 | 最初のコマンド |
|---|---|---|
| モデルが応答することを確認する | このファイル | olares-cli router call chat "hello" |
| このプロファイルで呼び出せるものを確認する | このファイル | olares-cli router call models |
| Olares からクラウドベンダーのモデルを利用できるようにする | 外部プロバイダーの設定 | olares-cli router provider create --type openai --credentials-json @openai.json --validate |
| 失敗した呼び出しが記録された内容を確認する | このファイル | olares-cli router usage list --limit 5 |
呼び出しにキーは必要ありません。Router はプラットフォームから呼び出し元を取得するため、router call はアクティブなプロファイルとして実行されます。ベンダーの追加には 1 回ではなく 2 回の書き込みが必要です。provider create で認証情報を保存し、model import でモデルを呼び出し可能にします。どちらも省略できません。
変更を管理するレイヤー
| 目的 | 該当する場所 |
|---|---|
| ベンダーのホスト型モデルを使用する | provider create + model import、または独自のリストを公開するエンドポイントの場合は provider sync-models |
| このマシンでモデルを実行する | ピン留めされたモデルには olares-market の market install、エンジンのベースには market clone を使用します。アプリケーションの実行時に Router がプロバイダーを作成します |
| ローカルモデルが提供する内容や起動方法を変更する | model spec edit <model> — アプリケーションが管理するモデルカードです。Router の行ではありません |
| Router がルーティングに使用するアドレス、認証情報、有効状態を変更する | provider update |
| インストールの失敗を修復する | provider get <app> の後に model progress --app <app> / model retry --app <app> を実行します |
| 動作を停止したエンジンを再起動する | model restart <model>。カードを変更せずに推論プロセスを再起動します |
| モデルアプリケーションを停止、再開、または GPU に割り当てる | olares-market と olares-settings。Router の管理対象ではありません |
source が olares のプロバイダーは Market アプリケーションに属します。そのアドレスとライフサイクルは Market が管理するため、provider delete では削除できません。削除するには olares-cli market uninstall <app> を実行します。
動詞インデックス
| 分類 | 動詞 | 該当時に読むページ |
|---|---|---|
| Router の場所と、あなたが誰なのか | 固有の動詞はありません。すべての動詞が解決し、解決できない場合はその旨を伝えます | アーキテクチャとアイデンティティ |
| クラウドベンダーとそのモデル | provider list/get/types/create/update/delete/validate/credentials/history/rollback/sync-models、行が存在する前の provider validate --draft、model get/import/add/update/remove | 外部プロバイダーの設定 |
| ローカル LLM アプリケーション | provider register、model status/progress/retry/restart、および olares-market の install / clone | ローカル LLM アプリケーション |
| ローカルの埋め込み、音声、OCR、CLIP | 同じ動詞で、モードが異なります | ローカルのマルチモーダルアプリケーション |
| ローカルモデルが自らをどのように宣言しているか | model spec show/edit/file/set、model restart | ローカル LLM アプリケーション |
| 設定されている内容 | model list、model get | 名前、デフォルト、アクセス制御 |
| 呼び出し元が送信できる名前 | route list/get/create/rename/enable/disable/delete/add/remove、route list --kind default で取得する default-* カテゴリ、モデル名を指定する route candidates/pin/unpin | 名前、デフォルト、アクセス制御 |
| アクセス制御 | key issue/list/update/revoke/current、quota set/list/clear | 名前、デフォルト、アクセス制御 |
| 起きたこと | usage summary/list/export/retention/apps、audit list/get | 使用状況と監査 |
| あらゆる呼び出しに必要なものと、失敗した理由 | call models、key current、call ocr | 呼び出しの仕様 |
| 言葉でモデルに尋ねる | call chat/responses/count-tokens/embed/rerank/search/scrape | テキストとウェブ |
| 翻訳(トランスクリプト全体を含む) | --detect、--languages、--transcript を指定する call translate | 翻訳 |
| 画像の生成や編集、またはクリップ、トラック、メッシュの生成 | call image/video/music/3d — 画像編集には --operation edit --image を使用します。music と 3d には --model が必要です。また、call music format/draft/alignment/cancel は music 固有のコマンドです | 画像、クリップ、トラック、メッシュ |
| 音声の入力と出力 | call transcribe/listen/speak/clone/dialogue/vad/diarize/speaker-embed/enhance/align、call task get/result/list/cancel | 音声 |
| 呼び出し後も使える音声と、読み上げた内容 | call voice list/get/add/design/settings/delete、call history list/get/download/delete | 音声ライブラリと読み上げ履歴 |
| 1 つのアプリケーション内 | --app を指定する model status/progress/retry/restart、model diag gpu/config/endpoints | Model Console |
| 動作しない呼び出しやモデル | 上記のいずれか | 問題があるレイヤーの特定 |
命名
- 曖昧さが生じる可能性がある場合、モデルはどこでも
<provider>/<model>で指定します。--model、クォータ、キーの許可リストなどが該当します。router model listでは両方の部分が表示されます。スラッシュを含まない名前はルート(エイリアス、グループ、またはdefault-*カテゴリー)であり、実在する必要があります。 - ローカルにインストールされたモデルアプリケーションはすべて
Olaresというプロバイダーになるため、ローカルモデルでは修飾名が一意になりません。<app_name>/<model>でそのうちの1つを指定できます。たとえばllamacppqwen3v3/qwen3-8bです。また、router model listのSERVED BYに表示されるアプリケーションの表示名でも指定できます。常に行を一意に指定できるのはモデル ID だけです。曖昧な参照は候補を提示して拒否され、いずれかに解決されることはありません。 - プロバイダーは、タイトル、Olares アプリ名、または ID で指定します。モデルアプリケーションは Olares アプリ ID(
llamacppqwen3627bggufv3)で指定します。これはprovider registerと、Model Console にアクセスするmodel動詞の--appで使う値です。それ以外の場合、これらの動詞はモデル名を受け取り、どのアプリケーションがそのモデルを提供しているかを Router に問い合わせます。--appを指定すると Router を経由しないため、Router に問題がある場合でも操作を続けられます。 - Router を呼び出すアプリケーションには、ここに行がありません。Olares はエッジでそのアプリケーションを保証し、呼び出しには
appid(アプリ名をハッシュ化したもの、またはシステムアプリの場合は名前そのもの)が付与されます。そのため、登録も取り消しもできません。olares-cli market list --mineでここに表示されるかを確認し、usage --by caller_appで使用量を確認できます。制御する唯一の手段はquota set --caller-appです。
安全性とエスカレーション
- 名前を指定した設定リクエストは、そこから必要となる一連の操作を許可するものです。プロバイダーの作成、モデルのインポート、検証について、1つずつ再確認する必要はありません。
- ユーザーが指定していない対象に対して
provider delete、key revoke、quota clear、route deleteを実行する前には、再確認してください。いずれも、まだ依存している呼び出し元に影響します。route disableは元に戻せるうえ、所属情報も維持されます。route deleteは名前を解放します。 - ファイルまたは標準入力を使える場合、認証情報をシェル引数に絶対に含めないでください。
--credentials-jsonはどちらにも対応しています。共有されるトランスクリプトに、平文のsk-キーを絶対に出力しないでください。key issueは意図的に、そのキーを一度だけ表示します。 usage retention --daysは、新しい期間の範囲外にある呼び出しごとの行を即座に削除します。期間を短縮すると、元に戻せません。日ごとの合計は保持されるため、ユーザーから依頼されていない期間短縮の前には確認してください。model spec edit --engine-argsとmodel restartはどちらも、モデルを提供するプロセスを再起動します。重みの読み込みが完了するまで応答が停止し、大きなモデルでは数分かかります。model spec setよりmodel spec editを優先してください。前者はアプリケーションが提供しているカードに変更をマージし、Router のコピーも更新します。後者はアプリケーション側のドキュメントを置き換えるため、置き換え時に省略したフィールドは失われます。- エラーを先に読まず、タイムアウトした書き込みを絶対に再試行しないでください。 Router に冪等性キーがあるのは3つの音楽送信処理だけで、それ以外にはありません。そのため、2回目の試行は2回目のリクエストになります。
key issueは別のキーを発行し、provider rollbackは別のバージョンを追加し、router callは再度課金されます。エラーには、結果が不明であることと、再試行した場合にそのルートで何が起きるかが記載されています。多くは重複すると拒否されるため、安全に再試行でき、409は最初の試行が成功した証拠になります。読み取りの失敗は通常、再実行できます。task resultも同様です。同じ結果を2回取得すると、タスクのバインディングに対する compare-and-swap で2回目が失敗し、確定処理は一度だけ行われます。そのため、ここでの再試行では作業ではなくリクエストのコストがかかります。 - 設定済みでも応答しないモデルは、設定変更ではなく診断の対象です。編集を始める前に、問題のあるレイヤーを特定するを参照して経路を確認してください。
- 認証が継続的に失敗する場合は、共有認証ゲートで停止してください。また、対象のプロバイダー、モデル、アプリケーション、またはユーザーが曖昧な場合も停止してください。