mcpField
O
ollama-setup

ollama-setup

github.com/jeremylongshoreクラウド・DevOps2.9k69 回インストール2 日前に更新
リポジトリ

ollama-setup について

自分のハードウェアで LLM 推論を実行したい開発者向けの、Ollama セットアップスキルです。システム資源の評価、モデルの推奨、インストール案内を行い、Python、Node.js、REST 経由のアプリ連携を支援します。

主な機能

  1. 01OS とハードウェアの評価
  2. 02RAM に応じたモデルの推奨
  3. 03macOS、Linux、Docker へのインストール
  4. 04Python、Node.js、REST 連携の案内
  5. 05ローカル推論と API の検証

活用シーン

  1. 01開発用ワークステーションへの Ollama 導入
  2. 02オフラインの Ubuntu サーバーでのモデル提供
  3. 03Docker ベースの CI パイプラインでの Ollama 利用

インストール

コマンドをコピーしてターミナルで実行します。

$npx skills add https://github.com/jeremylongshore/tons-of-skills-marketplace --skill ollama-setup

インストール後、Claude Code で/ollama-setupを入力して読み込まれたか確認します。

同梱ファイル

SKILL.md と一緒にインストールされる参考資料やスクリプト。

references/
errors.md
examples.md
skill-workflow.md

詳細

Ollama のセットアップ

概要

ローカルでの LLM のデプロイに向けて Ollama を自動設定し、ホスト型 API のコストをなくして、オフラインで AI 推論を実行できるようにします。このスキルでは、システムの評価、利用可能なハードウェア（RAM、GPU）に基づくモデルの選択、macOS／Linux／Docker へのインストール、Python、Node.js、REST API クライアントとの統合を行います。

前提条件

  • macOS 12 以降、Linux（Ubuntu 20.04 以降、Fedora 36 以降）、または Docker ランタイム
  • 7B パラメータのモデルには最低 8 GB の RAM、13B モデルには 16 GB、70B モデルには 32 GB 以上
  • 任意：推論を高速化する NVIDIA GPU と CUDA ドライバー（nvidia-smi で確認）
  • 任意：macOS で Metal による高速推論を行うための Apple Silicon（M1/M2/M3）
  • ディスク容量：モデルサイズ（量子化済みの重み）に応じて 4～40 GB
  • パッケージマネージャー：brew（macOS）、curl（Linux）、または docker（コンテナー化）

手順

  1. uname -s、free -h（Linux）または vm_stat（macOS）、および nvidia-smi（GPU がある場合）を使って、ホストのオペレーティングシステムと利用可能なハードウェアを検出します
  2. 利用可能な RAM に基づいて適切なモデルを選択します：
    • 8 GB：llama3.2:7b（4 GB）、mistral:7b（4 GB）、phi3:14b（8 GB）
    • 16 GB：codellama:13b（7 GB）、mixtral:8x7b（量子化時 26 GB）
    • 32 GB 以上：llama3.2:70b（40 GB）、codellama:34b（20 GB）
  3. プラットフォームに適した方法で Ollama をインストールします：
    • macOS：brew install ollama && brew services start ollama
    • Linux：curl -fsSL https://ollama.com/install.sh | sh && sudo systemctl start ollama
    • Docker：docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
  4. 推奨モデルを取得します：ollama pull llama3.2
  5. 利用可能なモデルの一覧表示（ollama list）とテスト用プロンプトの実行（ollama run llama3.2 "Say hello"）を行い、インストールを確認します
  6. REST API にアクセスできることを確認します：curl http://localhost:11434/api/tags
  7. 適切なクライアントライブラリ（Python の ollama、Node.js の ollama、または生の HTTP）を使って、対象アプリケーションとの連携を設定します
  8. NVIDIA または Apple Silicon のハードウェアが検出された場合は、GPU アクセラレーションを設定します
  9. デフォルト以外の保存先が必要な場合は、モデルの永続化とキャッシュディレクトリを設定します
  10. 選択したモデルのエンドツーエンドの推論レイテンシーとスループットを検証します

コードスニペットを含む詳細なワークフローについては、${CLAUDE_SKILL_DIR}/references/skill-workflow.md を参照してください。

出力

  • Ollama のインストールが確認され、システムサービスまたは Docker コンテナーとして実行中
  • 選択したモデルがローカルに取得・キャッシュされ、推論機能を確認済み
  • http://localhost:11434 の REST API エンドポイントにアクセス可能
  • 対象言語（Python、Node.js、または cURL）用の連携コードスニペット
  • ハードウェア評価レポート：OS、RAM、GPU の有無、推奨モデル
  • パフォーマンスのベースライン：選択したモデルのローカルハードウェアでの 1 秒あたりのトークン数

エラー処理

エラー原因解決策
ollama: command not foundインストールが不完全、または PATH が更新されていないインストールスクリプトを再実行します。シェルセッションを再起動し、/usr/local/bin/ollama が存在することを確認します
モデルの取得がタイムアウトで失敗するネットワーク接続の問題、または Ollama レジストリにアクセスできないインターネット接続を確認します。社内プロキシ経由の場合は ollama pull --insecure で再試行します
推論中にメモリ不足になるモデルサイズが利用可能な RAM を超えているより小さな量子化モデル（例：13B ではなく 7B）に切り替えます。メモリを大量に使用するアプリケーションを終了します
GPU が検出されないCUDA ドライバーがない、またはバージョンに互換性がないCUDA toolkit >= 11.8 をインストールします。nvidia-smi で確認し、ドライバーのインストール後に Ollama サービスを再起動します
ポート 11434 がすでに使用中別のサービスが Ollama のデフォルトポートを使用している競合するサービスを停止するか、環境変数 OLLAMA_HOST=0.0.0.0:11435 を設定します

その他のエラーケースについては、${CLAUDE_SKILL_DIR}/references/errors.md を参照してください。

例

シナリオ 1：開発者ワークステーションのセットアップ -- 16 GB の RAM を搭載した macOS M2 マシンに Ollama をインストールします。コード生成タスク向けに codellama:13b をプルします。ollama Python パッケージを使用して、Python FastAPI アプリケーションと統合します。予想スループット：Apple Silicon で 1 秒あたり 30～50 トークンです。

シナリオ 2：エアギャップサーバーへのデプロイ -- 事前にダウンロードしたバイナリを使って、オフラインの Ubuntu サーバーに Ollama をインストールします。モデルの重みを USB 経由で転送します。自動再起動する systemd サービスとして設定します。内部チームで使用するため、REST API 経由で llama3.2:7b を提供します。

シナリオ 3：Docker ベースの CI パイプライン -- 自動コードレビュー用の CI/CD パイプラインの一部として、Docker コンテナー内で Ollama を実行します。mistral:7b をプルし、ポート 11434 で API を公開して、分析用のコード差分を送信する Node.js テストハーネスと統合します。

リソース

コメント

Markdown 対応