mcpField
L
local-llm-ops

local-llm-ops

github.com/bobmatnycクラウド・DevOps78453 回インストール15 週間前に更新
リポジトリ

local-llm-ops について

Apple Silicon でローカル LLM を使う人向けの Ollama ツールチェーンガイドです。セットアップスクリプト、コマンドラインのチャット起動、ベンチマーク、診断機能を紹介します。

主な機能

  1. 01Ollama のセットアップスクリプト
  2. 02複数のコマンドラインチャット起動方法
  3. 03コーディング・創作・分析モード
  4. 04ベンチマークのワークフロー
  5. 05トラブルシューティング用診断

活用シーン

  1. 01ローカル Ollama 環境のセットアップ
  2. 02選択したモデルでチャットを起動
  3. 03モデルのベンチマーク結果を比較
  4. 04サービスや設定の問題を診断

インストール

コマンドをコピーしてターミナルで実行します。

$npx skills add https://github.com/bobmatnyc/claude-mpm-skills --skill local-llm-ops

インストール後、Claude Code で/local-llm-opsを入力して読み込まれたか確認します。

同梱ファイルmetadata.json

詳細

Local LLM Ops (Ollama)

概要

localLLM リポジトリは、Apple Silicon 向けの完全なローカル LLM ツールチェーンを提供します。セットアップスクリプト、高機能な CLI チャットランチャー、ベンチマーク、診断機能が含まれています。運用手順は、Ollama をインストールし、サービスが実行中であることを確認してから、venv を初期化し、モデルを取得して、チャットまたはベンチマークを起動する流れです。

クイックスタート

./setup_chatbot.sh
./chatllm

モデルが存在しない場合：

ollama pull mistral

セットアップチェックリスト

  1. Ollama をインストールします：brew install ollama
  2. サービスを起動します：brew services start ollama
  3. セットアップを実行します：./setup_chatbot.sh
  4. サービスを確認します：curl http://localhost:11434/api/version

チャットランチャー

  • ./chatllm（メインランチャー）
  • ./chat または ./chat.py（代替ランチャー）
  • エイリアス：./install_aliases.sh を実行してから、llm、llm-code、llm-fast

タスクモード：

./chat -t coding -m codellama:70b
./chat -t creative -m llama3.1:70b
./chat -t analytical

ベンチマークのワークフロー

ベンチマークは scripts/run_benchmarks.sh でスクリプト化されています：

./scripts/run_benchmarks.sh

これは bench_ollama.py を以下の設定で実行します：

  • benchmarks/prompts.yaml
  • benchmarks/models.yaml
  • 複数回の実行と最大トークン数の制限

診断

セットアップに失敗した場合は、組み込みの診断スクリプトを実行します：

./diagnose.sh

よくある対処法：

  • ./setup_chatbot.sh を再実行します
  • ollama が PATH に含まれていることを確認します
  • 少なくとも 1 つのモデルを取得します：ollama pull mistral

運用上の注意

  • 仮想環境は .venv にあります
  • チャット設定とセッションは ~/.localllm/ に保存されます
  • Ollama API は http://localhost:11434 で実行されます

関連スキル

  • toolchains/universal/infrastructure/docker

コメント

Markdown 対応