Installation and Setup Guide について
チャット画面や統合テスト環境を用意する開発者向けの Gradio 製 LLM チャットアプリです。Ollama または Together.ai を設定でき、Llama-Stack で推論環境を構成します。
主な機能
- 01Gradio チャット画面
- 02Ollama または Together.ai 対応
- 03Llama-Stack による推論環境の構成
- 04Tavily Search API キーの設定
活用シーン
- 01ローカルの Ollama でチャットアプリを実行
- 02Together.ai API によるモデル推論
設定
ローカルサーバーの設定はどのクライアントでも共通です。コピーしてクライアントの MCP 設定ファイルに貼り付けてください。
このサーバーのパッケージやリモートエンドポイントはまだ取得できていません。プロジェクトの README の手順に従ってください。
ツール
ローカルサーバーのツールはマシン上で起動して初めて取得できます。メンテナーはまだツール一覧を提供していません。
詳細
インストールとセットアップガイド
このドキュメントでは、開発環境をセットアップしてアプリケーションを実行する手順を説明します。
スクリーンショット

前提条件
開始する前に、必要なツールがすべてシステムにインストールされていることを確認してください。
インストール手順
1. Ollama のインストールと実行(Together.ai API を使用する場合はスキップしてください)
Ollama は、モデルの推論機能を提供するために必要です。
- https://ollama.com/ から Ollama をダウンロードしてインストールします
- 次のコマンドで Ollama サービスを起動します:
ollama serveollama pull llama3.2:3b
2. LLama-Stack のセットアップ
LLama-Stack を使用して推論環境を管理します。
uvパッケージマネージャーをインストールします- 仮想環境(venv)をセットアップします
- 仮想環境内で次のコマンドを実行します:
またはINFERENCE_MODEL=llama3.2:3b llama stack build --template ollama --image-type venv --runINFERENCE_MODEL=meta-llama/Llama-3.3-70B-Instruct llama stack build --template together --image-type venv --run
3. プロジェクトのセットアップ
このリポジトリをクローンし、必要な依存関係をインストールします:
-
リポジトリをクローンします:
git clone [https://github.com/ricardoborges/chatlab.git] cd [chatlab] -
仮想環境を作成し、依存関係をインストールします:
uv venv uv pip install -r myproject.toml
4. アプリケーションの実行
Ollama のローカルサービスを起動しない場合は、TogetherAI アカウントを作成してください。API キーをまだお持ちでない場合は、まず Together から取得します。
API キーの取得方法: https://docs.google.com/document/d/1Vg998IjRW_uujAPnHdQ9jQWvtmkZFt74FldW2MblxPY/edit?tab=t.0
次の環境変数を .env ファイルに設定する必要があります:
TAVILY_SEARCH_API_KEY= TOGETHER_API_KEY=
または、この設定は無視して main.py で DEFAULT_STACK="Ollama" を設定してください(ローカルの Ollama サービスを実行する場合)。
次のコマンドで Gradio アプリケーションを起動します:
gradio main.py
このコマンドを実行すると、アプリケーションのインターフェースがブラウザーで利用できるようになります。
トラブルシューティング
インストール中に問題が発生した場合は、次の点を確認してください:
- Ollama サービスが実行中であること
- 仮想環境が正しく有効化されていること
- すべての依存関係が正常にインストールされていること
追加リソース
LLama-Stack の詳細については、公式ドキュメントを参照してください。
コメント
AI アプリケーションが外部のツールやデータソースに統一的な方法で接続するためのオープンなプロトコルです。クライアントはモデルとの対話を担い、MCP サーバーはツール・リソース・プロンプトテンプレートを提供します。標準メッセージでやり取りするため、1 つのサーバーを複数のクライアントで再利用できます。