Lemonade

🍋 Lemonade：驚くほど高速なローカル AI

ダウンロード | ドキュメント | Discord

Lemonade は、クラウド API と同等の機能を、完全無料かつプライベートに利用できるローカル AI サーバーです。お使いの NPU や GPU で、チャット、コーディング、音声、画像生成に最新モデルを利用できます。

Lemonade には 2 つの形態があります。

• Lemonade Server は、標準の OpenAI、Anthropic、Ollama API を使用して、数百種類の優れたアプリに接続できるサービスをインストールします。
• Embeddable Lemonade は、独自のアプリケーションに組み込めるポータブルなバイナリです。ユーザーの PC に合わせて自動最適化されるマルチモーダルなローカル AI をアプリに追加できます。

このプロジェクトは、あらゆる PC 向けにコミュニティが開発しており、Ryzen AI、Radeon、Strix Halo 搭載 PC の性能を最大限に引き出すため、AMD のエンジニアが最適化を行っています。

はじめに

1. インストール：Windows · Linux · macOS · Docker · ソース
2. モデルを入手：モデルマネージャーでモデルを探してダウンロードします
3. 生成：チャット、画像生成、音声生成などの組み込みインターフェースでモデルを試します
4. モバイル：レモネードを持ち歩きましょう：iOS · Android · ソース
5. 接続：お気に入りのアプリでLemonadeを使います：

                  

ここにアプリを掲載したいですか？ マーケットプレイスにPRを送ってください！

## 対応プラットフォーム

プラットフォーム	ビルド

CLI の使用

Gemma を実行してチャットするには：

lemonade run Gemma-4-E2B-it-GGUF

Lemonade モデルでコーディングするには：

lemonade launch claude

マルチモーダル：

# image gen
lemonade run SDXL-Turbo

# speech gen
lemonade run kokoro-v1

# transcription
lemonade run Whisper-Large-v3-Turbo

利用可能なモデルの確認とダウンロード：

lemonade list

lemonade pull Gemma-4-E2B-it-GGUF

環境に依存しない名前付けとアクティブ／スタンバイのフェイルオーバーに使うモデルエイリアスの管理：

lemonade alias add production-llm Gemma-4-E2B-it-GGUF
lemonade alias list

# Instant active-standby failover to a different model target
lemonade alias add production-llm Qwen3-0.6B-GGUF
lemonade alias remove production-llm

PC で利用できるバックエンドの確認：

lemonade backends

ハイブリッド構成では、Lemonade はローカルモデルに加えて、OpenAI 互換の任意のクラウドプロバイダー（Fireworks、OpenAI、OpenRouter、Together、…）へのルーティングもできます。クラウドオフロードを参照してください。(試験的機能です。)

モデルライブラリ

Lemonade は、CPU、GPU、NPU に対応する幅広い LLM（GGUF、FLM、ONNX）、whisper、stable diffusion などのモデルをサポートしています。

lemonade pull または組み込みのモデルマネージャーを使ってモデルをダウンロードできます。カスタム GGUF/ONNX モデルは Hugging Face または ModelScope から取得でき、今後の更新に備えて取得元が保持されます。

収録モデルカタログを見る →

サポートされる構成

Lemonade は LLM、音声、TTS、画像生成向けに複数の推論エンジンをサポートしており、それぞれに独自のバックエンドとハードウェア要件があります。

モダリティ	エンジン	バックエンド	デバイス	OS
テキスト生成	llamacpp	system	x86_64/ARM64 CPU、GPU	Linux
		metal	Apple Silicon GPU	macOS
		cuda	NVIDIA GPU（Turing 以降）**	Windows、Linux
		vulkan	x86_64 CPU、AMD iGPU、AMD dGPU、ARM64 CPU/GPU（Linux）	Windows、Linux
		rocm	ROCm 対応 AMD GPU	Windows、Linux
		cpu	x86_64 CPU、ARM64 CPU（Linux）	Windows、Linux
	llamacpp-hrx	hrx†	AMD GPU（gfx1100、gfx1151）	Linux
	flm	npu	XDNA2 NPU	Windows、Linux
	ryzenai-llm	npu	XDNA2 NPU	Windows
	vllm	rocm†	Strix Halo iGPU（gfx1151）	Linux
	ds4	rocm‡	AMD Strix Halo 向けのビルド済み ds4	Linux
音声テキスト変換	whispercpp	npu	XDNA2 NPU	Windows
		metal	Apple Silicon GPU	macOS
		vulkan	x86_64 CPU	Windows、Linux
		rocm	ROCm 対応 AMD iGPU/dGPU ファミリー*	Windows、Linux
		cpu	x86_64 CPU	Windows、Linux
	moonshine	cpu	x86_64/arm64 CPU	Windows、Linux、macOS
テキスト音声変換	kokoro	metal	Apple Silicon GPU	macOS
		cpu	x86_64 CPU	Windows、Linux
	openmoss	cuda†	NVIDIA GPU	Windows、Linux
		vulkan†	Vulkan 対応 GPU	Windows、Linux
音声生成	thinksound	cuda†	NVIDIA GPU	Windows、Linux
		vulkan†	Vulkan 対応 GPU	Windows、Linux
		rocm†	ROCm 対応 AMD iGPU/dGPU ファミリー（TheRock 経由の ROCm）	Windows、Linux
	acestep	cuda†	NVIDIA GPU	Windows、Linux
		vulkan†	Vulkan 対応 GPU	Windows、Linux
		rocm†	ROCm 対応 AMD iGPU/dGPU ファミリー（TheRock 経由の ROCm）	Windows、Linux
画像生成	sd-cpp	metal	Apple Silicon GPU	macOS
		cuda	NVIDIA GPU（Turing 以降）**	Windows、Linux
		vulkan	Vulkan 対応 GPU	Windows、Linux
		rocm	ROCm 対応 AMD iGPU/dGPU ファミリー*	Windows、Linux
		cpu	x86_64 CPU	Windows、Linux
	thenoise	rocm	ROCm 対応 AMD ファミリー	Windows、Linux
3D 生成	trellis	cuda†	NVIDIA GPU	Windows、Linux
		vulkan†	Vulkan 対応 GPU	Windows、Linux
		rocm†	ROCm 対応 AMD iGPU/dGPU ファミリー（TheRock 経由の ROCm）	Windows、Linux
テキスト分類	onnxruntime	cpu†	x86_64 CPU	Windows
		cpu†	x86_64/arm64 CPU	Linux
		cpu†	arm64 CPU	macOS

† 実験的なバックエンド、‡ ゲストバックエンドです。[バックエンドのティアとフォーマット](./docs/api/lemonade.md#backend-tiers-and-formats)を参照してください。

お使いのマシンでサポートされているレシピ／バックエンドを正確に確認するには、次を実行してください。

lemonade backends

* サポートされている AMD ROCm プラットフォームを表示

アーキテクチャ	プラットフォームのサポート	GPU モデル
gfx1151 (STX Halo)	Windows, Ubuntu	Ryzen AI MAX+ Pro 395
gfx120X (RDNA4)	Windows, Ubuntu	Radeon AI PRO R9700, RX 9070 XT/GRE/9070, RX 9060 XT
gfx110X (RDNA3)	Windows, Ubuntu	Radeon PRO W7900/W7800/W7700/V710, RX 7900 XTX/XT/GRE, RX 7800 XT, RX 7700 XT

** サポートされている NVIDIA CUDA プラットフォームを表示

コンピュート能力	アーキテクチャ	GPU モデル
sm_75	Turing	RTX 20-series, GTX 16-series, T4
sm_80 / sm_86	Ampere	RTX 30-series, A100, A40
sm_89	Ada Lovelace	RTX 40-series, L40, L4
sm_90	Hopper	H100, H200
sm_100 / sm_120	Blackwell	RTX 50-series, B100, B200

プロジェクトのロードマップ

Lemonade のロードマップは、複数のワーキンググループによって策定されています。各グループの目標とロードマップについては、こちらのランディングページをご覧ください。

アプリケーションへの Embeddable Lemonade の統合

Embeddable Lemonade は、Lemonade のバイナリ版です。これを独自のアプリにバンドルすると、ポータブルで自動最適化されるマルチモーダルなローカル AI スタックを提供できます。これにより、Lemonade のインストーラー、ブランディング、テレメトリーを一切使わずに、ユーザーがアプリに集中できるようになります。

Embeddable Lemonade ガイドをご覧ください。

Lemonade Server をアプリケーションに接続する

ベース URL として http://localhost:13305/v1 を使用するように設定すれば、OpenAI 互換のクライアントライブラリを利用できます。以下の表に、各言語で利用できる公式および人気の OpenAI クライアントを示します。

お好みの言語を自由にお選びください。

Python	C++	Java	C#	Node.js	Go	Ruby	Rust	PHP
openai-python	openai-cpp	openai-java	openai-dotnet	openai-node	go-openai	ruby-openai	async-openai	openai-php

Python クライアントの例

from openai import OpenAI

# Initialize the client to use Lemonade Server
client = OpenAI(
    base_url="http://localhost:13305/api/v1",
    api_key="lemonade"  # required but unused
)

# Create a chat completion
completion = client.chat.completions.create(
    model="Gemma-4-E2B-it-GGUF",  # or any other available model
    messages=[
        {"role": "user", "content": "What is the capital of France?"}
    ]
)

# Print the response
print(completion.choices[0].message.content)

利用可能な APIと、独自のアプリケーションに Lemonade を組み込む方法について詳しくご覧ください。

FAQ

よくある質問については、FAQ ガイドをご覧ください。

貢献

Lemonade はローカル AI コミュニティによって構築されています。このプロジェクトへの貢献をご希望の場合は、貢献ガイドをご確認ください。

メンテナー

このプロジェクトは多くのメンテナーが参加するコミュニティプロジェクトです。各メンテナーの担当分野については、こちらのメンテナー一覧をご覧ください。Issueを作成するか、Discordに参加してお問い合わせください。このプロジェクトはAMDの支援を受けています。

コード署名ポリシー

SignPath.ioが無料のコード署名を提供し、証明書はSignPath Foundationが提供しています。

• コミッターとレビュー担当者：このリポジトリのメンテナー
• 承認者：オーナー

プライバシーポリシー：このプログラムは、ユーザーまたはインストール担当者・運用担当者から明示的に要求されない限り、ネットワーク接続された他のシステムに情報を転送しません。ユーザーがモデルのダウンロードまたはレジストリの検索を要求した場合、ユーザーまたはパッケージ作成者が選択したモデルソースに応じて、Lemonade がHugging Face Hub（プライバシーポリシーをご覧ください）またはModelScopeに接続することがあります。

ライセンスとクレジット

このプロジェクトは以下のとおりです。

• オープンソースコミュニティへの愛を込めて、C++（サーバー）と React（アプリ）で構築されています。
• 優れたツールを基盤としています。
  • ggml/llama.cpp
  • ggml/whisper.cpp
  • ggml/stable-diffusion.cpp
  • kokoros
  • OnnxRuntime GenAI
  • Hugging Face Hub
  • ModelScope
  • OpenAI API
  • IRON/MLIR-AIE
  • など
• Apache 2.0 Licenseの下でライセンスされています。
  • プロジェクトの一部は、LICENSEに記載されているとおりのライセンスが適用されます。