Atomic Chat

Atomic Chat

エージェント向けのローカル AI アプリと推論エンジンです。オープンウェイトの LLM をローカルで実行できます。プライベートに、お使いのマシン上で。

         

はじめに · Hugging Face · Discord · X / Twitter · バグ報告

---

📦 ダウンロード

デスクトップ

   

Linux パッケージ — Atomic Chat リポジトリから提供され、パッケージマネージャーで更新されます（インストール方法）

   

モバイル

 

---

🔌 API として使う

Atomic Chat は http://localhost:1337/v1 で OpenAI 互換サーバーを実行します — OpenAI SDK と置き換えてそのまま使えます。アプリでモデルを読み込んだら、任意のクライアントの接続先に設定します：

curl http://localhost:1337/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "<model-id-loaded-in-atomic-chat>",
    "messages": [{ "role": "user", "content": "Say hello in one word" }]
  }'

from openai import OpenAI

# Atomic Chat is OpenAI API-compatible — only the base_url changes.
client = OpenAI(base_url="http://localhost:1337/v1", api_key="not-needed")

resp = client.chat.completions.create(
    model="<model-id-loaded-in-atomic-chat>",
    messages=[{"role": "user", "content": "Say hello in one word"}],
)
print(resp.choices[0].message.content)

デフォルトでは 127.0.0.1 にバインドされます。LAN 上に公開するには host: 0.0.0.0 を設定してください。OpenAI API に対応する任意のエージェント、CLI、IDE プラグインで使用できます — 詳しくは下記の起動方法をご覧ください。

---

✨ 機能

ローカルモデル

• HuggingFace のオープンウェイト LLM をローカルで実行できます — Llama、Gemma、Qwen、Mistral、Phi など
• Multi-Token Prediction（MTP）による投機的デコード — 対応モデルでスループットが 30～70％向上し、Gemma 4 では最大 3 倍
• DFlash ブロック拡散デコード — Qwen 3.6、Gemma 4、Kimi K2.5 で最大 6 倍高速化
• Flash Attention の切り替え（on ／ off ／ auto）
• Chain-of-thought モデルの推論コンテキストを自動追跡
• コンテキストウィンドウの自動拡張と、オーバーフロー通知
• Apple Silicon（MLX）上の Gemma 4 向け EAGLE-3 投機的デコード
• Qwen 3.5 ／ 3.6 および DeepSeek V4 向けの MLX 上の MTP
• llama.cpp の TurboQuant KV キャッシュ（turbo3 ／ turbo4） — macOS だけでなく、Windows と Linux にも対応：KV キャッシュの使用量を最大約 4.3 倍削減し、CPU と GPU（CUDA ／ Vulkan）に対応
• MLX-VLM の TurboQuant KV キャッシュ — RHT 対応の高速パスによりメモリ使用量を削減

クラウドモデル

• 組み込みプロバイダー：OpenAI、Anthropic、Mistral、Groq、MiniMax、Qwen、Moonshot
• 独自のキーを使用し、チャットごとにモデルを切り替え、ローカルモデルとクラウドモデルを自由に組み合わせられます

ツールと連携

• ワンクリックでエージェントを起動 — Integrations タブから、Atomic Agent、Claude Code、Codex CLI、Cline、OpenCode、Droid、Goose、OpenHands、Copilot CLI、Kilo Code、Zed、ZCode などのエージェントをワンクリックで起動できます
• アーティファクト — HTML／CSS／JS コードのライブプレビューパネル。コピー、ダウンロード、印刷に対応
• 複数の MCP サーバーに接続 — 独自のツール、ファイルアクセス、ウェブ検索を利用できます
• アシスタントごとのシステムプロンプトを設定できるカスタムアシスタント
• サイドバーに会話ツリービューを表示できるプロジェクト

ローカル API

• http://localhost:1337/v1 で OpenAI 互換サーバーを提供 — OpenAI SDK のドロップイン置き換えとして利用できます
• OpenAI API に対応するあらゆるエージェント、CLI、IDE プラグインで動作します
• デフォルトでは 127.0.0.1 にバインドされます。LAN 上に公開するには host: 0.0.0.0 を設定します

プライバシー

• 必要に応じてすべてをローカルで実行できます — デフォルトではローカルサーバーはループバック接続のみを受け付けます
• 会話とキーはお使いのマシン内に保持されます

---

⚙️ 推論エンジン

内部では 3 つのエンジンが動作し、すべて http://localhost:1337/v1 の 1 つの OpenAI 互換 API を通じて利用できます。

• atomic-llama-cpp-turboquant — TurboQuant KV キャッシュ最適化（turbo3 ／ turbo4）を備えた、当社の llama.cpp フォークです。量子化推論をより高速かつ省メモリで実行できます。3 つすべてのデスクトップ OS — macOS、Windows、Linux — で、2 つ目のプロバイダー（「Atomic Llama.cpp Turboquant」）として選択できるようになりました。CPU と GPU（CUDA ／ Vulkan）に対応しています。
• 上流版 llama.cpp — 公式の ggml-org ビルドです。幅広いハードウェア対応と MTP サポートを備え、Windows と Linux のデフォルトエンジンです。
• MLX-VLM — Apple Silicon ネイティブの視覚言語モデル向けエンジンです。Neural Engine とユニファイドメモリ上で動作します。対応モデルでは、M シリーズチップ上で llama.cpp より高速です。

各バックエンドで利用できる投機的デコード機能：

• MTP（Multi-Token Prediction） — ドラフトモデルが先のトークンを予測し、フルモデルが 1 回の処理で検証します。macOS と Windows で利用できます。
• DFlash — Qwen 3.6、Gemma 4、Kimi K2.5 などに対応するブロック拡散投機的デコードです。Apple Silicon 専用で、MTP と同時には有効化できません。
• Flash Attention — Settings → on ／ off ／ auto。

http://localhost:1337/v1 に接続するツールは、内部でどのバックエンドが動作しているかを意識する必要はありません。クライアントを再設定せずにエンジンを切り替えられます。

各エンジンは atomic-chat-core によって制御されています。これは Atomic Chat のコア部分で、独立したリポジトリで管理されています。推論そのものは行わず、エンジンを管理します。バックエンドのダウンロードと起動、モデルの管理、ローカルエンジンとクラウドプロバイダー間のリクエスト振り分け、:1337 での OpenAI 互換 API の提供を担います。デスクトップアプリには指定バージョンのコアが同梱されています。コアは CLI（atomic-chat-core serve …）またはライブラリとして単独で実行することもできます。

---

🚀 起動できるツール

Atomic Chat は http://localhost:1337/v1 で OpenAI 互換サーバーを実行するため、OpenAI API に対応するあらゆるエージェント、CLI、IDE プラグイン、アプリで、ローカルモデルを利用できます。追加の連携コードは必要ありません。ベース URL に Atomic Chat を指定するだけで完了です。

独自のセットアップドキュメントで、すでに標準サポートを提供しているプロジェクトをいくつか紹介します。

ツール	概要	セットアップ
OpenCode	オープンソースの TUI コーディングエージェントです。opencode.json で Atomic Chat をローカルプロバイダーとして追加できます。	セットアップガイド →
Goose	拡張性の高いオープンソース AI エージェントです（CLI、デスクトップ、API）。	セットアップガイド →
nanobot	チャットチャンネル、MCP、WebUI を備えた超軽量のパーソナル AI エージェントです。	リポジトリ →
nanoclaw	Atomic Chat を MCP ツールとして呼び出す、コンテナー化されたエージェントランタイムです。	スキルガイド →
OpenClaude	クラウドモデルとローカルモデルに対応する、オープンソースのコーディングエージェント CLI です。対応プロバイダーとして Atomic Chat が記載されています。	プロバイダー一覧 →
Kilo Code	VS Code、JetBrains、CLI 向けのオープンソース AI コーディングエージェントです。Atomic Chat プロバイダーを標準でサポートし、自動検出にも対応しています。	セットアップガイド →
Hermes Desktop	Hermes Agent 用のネイティブデスクトップコンパニオンです。http://localhost:1337/v1 を指定した Atomic Chat ローカルプリセットが含まれています。	リポジトリ →
Hermes Workspace	Nous Research の Hermes を基盤とする、ローカル優先のエージェントワークスペースです。推論バックエンドとして Atomic Chat を使用します。	リポジトリ →

Atomic Chat 上で動作するものを作成しましたか？プルリクエストを作成してください。ここに追加します。

---

🛠️ ソースからビルド

前提条件

• Node.js ≥ 20.0.0
• Yarn ≥ 4.5.3
• Make ≥ 3.81
• Rust（Tauri 用）
• （Apple Silicon）MetalToolchain xcodebuild -downloadComponent MetalToolchain

Make で実行

git clone https://github.com/AtomicBot-ai/Atomic-Chat
cd Atomic-Chat
make dev

依存関係のインストール、コアコンポーネントのビルド、アプリの起動まで、すべて実行します。

利用可能な make ターゲット：

• make dev — 開発環境をすべてセットアップして起動
• make build — 本番用ビルド
• make test — テストと lint を実行
• make clean — すべて削除して最初からやり直す

手動コマンド

yarn install
yarn build:tauri:plugin:api
yarn build:core
yarn build:extensions
yarn dev

---

💻 システム要件

• macOS：13.6 以降（3B モデルには 8GB RAM、7B には 16GB、13B には 32GB）
• Windows：10/11 x64（RAM の推奨容量は macOS と同じ）
• Linux：x86_64、glibc ≥ 2.35（Ubuntu 22.04 以降、Debian 12 以降、Fedora 40 以降、Arch、Mint、Pop!_OS。RAM の推奨容量は macOS と同じ）。オプション：GPU アクセラレーション用の Vulkan ローダー（vulkan-1 パッケージ、または mesa-vulkan-drivers／NVIDIA 独自ドライバー）。
• iOS：App Store からダウンロード
• Android：Google Play からダウンロード

---

🐧 Linux での実行

Atomic Chat のパッケージリポジトリからインストールすると、パッケージマネージャーがシステムの他のパッケージと一緒に更新します。パッケージをインストールすると、アプリは /opt/atomic-chat に配置され、atomic-chat コマンド、メニュー項目、システムの WebKitGTK が利用できるようになります。内蔵アップデーターは無効になります。arm64 では、同梱の llama.cpp エンジンが glibc 2.38 以降を基準にビルドされているため、glibc 2.38 以降が必要です。リポジトリと rpm パッケージは、packaging/atomic-chat.asc にある Atomic Chat packages key で署名されています。フィンガープリントは 1047 F119 58C6 442D D472 E497 E4C3 D361 FB7F F123 です。

Debian、Ubuntu — x86-64 では Debian 12 以降／Ubuntu 22.04 以降、arm64 では Debian 13 以降／Ubuntu 24.04 以降：

curl -fsSL https://atomic-chat-packages.fsn1.your-objectstorage.com/atomic-chat.gpg | sudo tee /usr/share/keyrings/atomic-chat-app.gpg >/dev/null
echo "deb [signed-by=/usr/share/keyrings/atomic-chat-app.gpg] https://atomic-chat-packages.fsn1.your-objectstorage.com/deb stable main" \
  | sudo tee /etc/apt/sources.list.d/atomic-chat-app.list
sudo apt update && sudo apt install atomic-chat

Fedora 40 以降（x86-64、aarch64）:

sudo curl -fsSL -o /etc/yum.repos.d/atomic-chat-app.repo https://atomic-chat-packages.fsn1.your-objectstorage.com/rpm/atomic-chat.repo
sudo dnf install atomic-chat

Arch Linux（x86-64、aarch64）：yay -S atomic-chat-bin を実行するか、その他の AUR ヘルパーを使用してください。

アプリメニューから Atomic Chat を起動するか、atomic-chat を実行してください。

sudo apt upgrade、sudo dnf upgrade、または yay -Syu で更新できます。sudo apt remove atomic-chat、sudo dnf remove atomic-chat、または sudo pacman -R atomic-chat-bin を実行すると、チャットやモデルを残したままアプリを削除できます。リポジトリには直近の 3 リリースが保持されます。各リリースの .deb および .rpm ファイルはリリースページにも掲載されています。

または、インストーラーも root 権限も不要で、自動更新される自己完結型の .AppImage を実行してください。

chmod +x Atomic.Chat_*_amd64.AppImage
./Atomic.Chat_*_amd64.AppImage

初回起動時に FUSE について確認された場合：sudo apt install fuse libfuse2（Debian／Ubuntu）または sudo dnf install fuse fuse-libs（Fedora）を実行してください。GPU アクセラレーション（Vulkan）は初回起動時に自動検出されます。Linux で実行できるのは GGUF モデルのみです。

トレイのある環境（Omarchy、Waybar の tray モジュール、KDE）では、ウィンドウを閉じても Atomic Chat と :1337 のローカル API はトレイで動作し続けます。終了するには、トレイメニューの 終了 を使用してください。アプリを再度起動すると、ウィンドウが再表示されます。トレイのない環境（インジケーター拡張機能のない GNOME）では、通常どおりウィンドウを閉じるとアプリが終了します。

ウィンドウルール（Hyprland、Sway）。 Wayland のアプリ ID（Hyprland では class）chat.atomic.app に一致させてください（例：^chat\.atomic\.app$）。X11／XWayland では、ウィンドウクラスは引き続き Atomic-Chat です。

パッケージング。 更新を管理するディストリビューションパッケージ（AUR、pacman リポジトリ、Flatpak）は、.AppImage の隣（または展開済み AppImage の場合は usr/bin/Atomic-Chat の隣）に空の atomic-chat-package-managed ファイルを配置するか、ATOMIC_CHAT_PACKAGE_MANAGED=1 を指定してアプリを起動してください。ファイルの使用をおすすめします。「起動時に実行」エントリーは AppImage またはバイナリを直接実行するため、ランチャースクリプトで設定した変数を認識できません。これにより、内蔵アップデーターは更新を確認、提示、インストールしなくなり、設定画面ではパッケージマネージャーを利用するよう案内されます。

---

🧯 トラブルシューティング

問題が発生した場合：

1. エラーログとシステム仕様をコピーします
2. GitHub で issue を作成します
3. または、Discord でサポートを求めてください

---

👥 コントリビューター

Atomic Chat は少人数のコアチームと140 名以上のコントリビューターによって開発されています。初期からプロジェクトを形作ってきたすべての人が含まれています。次の両方のリポジトリでプルリクエストを歓迎します。

• Atomic-Chat（このリポジトリ）— デスクトップアプリとモバイルアプリ：UI、チャット、アシスタント、プロジェクト、MCP、インテグレーション、設定。始めるにはCONTRIBUTING.mdをご覧ください。
• atomic-chat-core — エンジン（llama.cpp、MLX、Foundation Models）を管理するコア：バックエンドとモデル管理、クラウドプロバイダー、ルーター、OpenAI 互換サーバー。始めるにはAGENTS.mdをご覧ください。

変更をどちらに加えるべきか分からない場合は、いずれかのリポジトリで issue を作成してください。適切な場所をご案内します。

---

⭐ スター履歴

---

📄 ライセンス

Apache 2.0 — 詳細は LICENSE をご覧ください。

🙏 謝辞

多くの先人たちの成果の上に築かれています。

• llama.cpp
• MLX-VLM
• Tauri
• Scalar

---

🌱 ルーツ

Atomic Chat は、Menlo Research による Jan のフォークとして始まりました。優れたオープンソースのローカル AI アプリです。基盤を築いてくれた Jan チームと貢献者の皆さんに感謝しています。その後、Atomic Chat は独自の方向性、エンジン、ロードマップを持つまでに成長しましたが、その始まりに敬意を表します。🙏

---

_{© 2026 Atomic Chat · ❤️を込めて開発 · atomic.chat}