Onde Inference CLI

Onde Inference CLI

Onde Inferenceのコマンドラインインターフェイスです。

Swift · Flutter · React Native · Rust · Website

---

Onde Inferenceアカウントの管理、ローカルモデルのファインチューニング、GGUFへのエクスポートを、すべてターミナルから行えます。

インストール

お好みのツールを使ってonde-cliをインストールしてください。パッケージのドキュメントとインストール方法の一覧は、https://ondeinference.com/cliをご覧ください。

npm

npm install -g @ondeinference/cli

Homebrew

brew tap ondeinference/homebrew-tap && brew trust --tap ondeinference/homebrew-tap
brew install onde

pip / uv / uvx

pip install onde-cli
# or
uv tool install onde-cli
uv run onde --tui
# or with
uvx --from onde-cli onde --tui

.NET tool

dotnet tool install --global Onde.Cli

Dart pub global

dart pub global activate onde_cli

Dartパッケージは薄いランチャーです。初回実行時に適切なネイティブバイナリを~/.onde/cliにダウンロードし、以降はローカルのコピーを再利用します。

ビルド済みバイナリ

GitHub Releasesからリリースをダウンロードしてください：

# macOS Apple Silicon
curl -Lo onde https://github.com/ondeinference/onde-cli/releases/latest/download/onde-macos-arm64
chmod +x onde && mv onde /usr/local/bin/onde

プラットフォーム	ファイル
macOS Apple Silicon	onde-macos-arm64
macOS Intel	onde-macos-amd64
Linux x64	onde-linux-amd64
Linux arm64	onde-linux-arm64
Windows x64	onde-win-amd64.exe
Windows arm64	onde-win-arm64.exe

---

使い方

onde --tui

TUIが起動します。ondeだけを実行すると、使い方を表示して終了します。その場で新規登録またはサインインできます。

キー	動作
Tab	フィールド間を移動します
Enter	送信またはサインアウトします
Ctrl+L	サインイン画面に移動します
Ctrl+N	新規アカウント画面に移動します
Ctrl+C	終了します

MCP サーバー

TUIの代わりに、ondeをstdio経由のModel Context Protocolサーバーとして実行します：

onde --mcp

これにより、Ondeのアカウント操作とモデルカタログ操作がMCPツールとして公開されます。ツールはlogin、me、apps_list、app_create、app_rename、models_list、model_register、model_assign、hf_searchで、構造化JSONを返します。stdoutはJSON-RPCチャネルです。ツールは非対話形式で実行され、TUIでのサインイン（またはloginツール）で取得したトークンを再利用します。任意のMCPクライアントから、コマンドonde --mcpを指定してください。

---

ファインチューニング

onde には、Qwen2、Qwen2.5、Qwen3 モデル向けの LoRA ファインチューニングパイプラインが含まれています。ローカルで実行され、Apple Silicon では Metal、それ以外では CPU を使用します。クラウドのセットアップも、Python 環境も必要ありません。

手順はシンプルです。safetensors のベースモデルをダウンロードし、LoRA でファインチューニングして、アダプターをベースの重みにマージし、Onde SDK で使用するために GGUF にエクスポートします。

推論時にモデルが実際に何をしているのかを手短におさらいしたい場合は、Onde のフォワードパスに関する短い解説をご覧ください。

トレーニングデータ形式

各行に、Qwen のチャットテンプレートに沿った会話を1つ、完全な形で記述してください。

{"text": "<|im_start|>system\nYou are a helpful assistant.<|im_end|>\n<|im_start|>user\nWhat is LoRA?<|im_end|>\n<|im_start|>assistant\nLoRA adds small trainable matrices to frozen layers, letting you fine-tune large models without updating all the weights.<|im_end|>"}

ファイルは任意の場所に保存してください。TUI から直接指定できます。

実行方法

onde --tui
  → Models tab (Tab from Apps)
  → Select a safetensors model (↑↓, Enter)
  → Press f

ファインチューニングできるのは safetensors モデルのみです。GGUF モデルはすでに量子化されているため、重みを微分できません。

実行内容を設定します。

フィールド	デフォルト	説明
トレーニングデータ	~/.onde/finetune/train.jsonl	JSONL ファイルへのパス
LoRA ランク	8	値が大きいほど容量が増え、より多くのメモリを使用します
エポック数	3	データセット全体を学習する回数
学習率	0.0001	AdamW のデフォルト値

Enter を押すと開始します。正常に実行されている場合、通常はエポック2までに損失が下がり始めます。横ばいのままであれば、0.0003 を試してください。

トレーニング後

0.6B モデルでランク 8 の場合、アダプターのサイズは約 1.5 MB です。ファインチューニング完了画面で、次の操作ができます。

• m でアダプターをベースモデルにマージ
• g でマージ済みモデルを GGUF にエクスポート

生成された GGUF は、デバイス上での AI 推論に使用するため、Onde SDK に直接読み込めます。

対応するベースモデル

モデル	サイズ	説明
Qwen/Qwen3-0.6B	~1.2 GB	最も小さく、トレーニングも最速です
Qwen/Qwen2.5-1.5B-Instruct	~3.0 GB	インストラクションチューニングに適したデフォルトモデルです
Qwen/Qwen3-1.7B	~3.4 GB	新しい小型の Qwen3 モデルです
Qwen/Qwen3-4B	~8.0 GB	品質が最も高く、macOS により適しています

Models タブで / を使うと、これらのモデルを検索できます。

---

デバッグ

ログは ~/.cache/onde/debug.log に書き込まれます。

pub.dev 経由でインストールした場合、ランチャーのキャッシュは ~/.onde/cli にあります。

---

ライセンス

MIT および Apache 2.0 のデュアルライセンスです。

著作権

© 2026 Splitfire AB（Onde Inference）。