grepai-ollama-setup

GrepAI 向け Ollama のセットアップ

このスキルでは、GrepAI のローカル埋め込みプロバイダーとして Ollama をインストールし、設定する方法を説明します。Ollama を使うと、コードがマシンの外に出ることのない、完全にプライベートなコード検索が可能になります。

このスキルを使用する場面

• ローカルでプライベートな埋め込みを使って GrepAI をセットアップする
• Ollama を初めてインストールする
• 埋め込みモデルを選択してダウンロードする
• Ollama の接続問題をトラブルシューティングする

Ollama を使う理由

メリット	説明
🔒 プライバシー	コードがマシンの外に出ることはありません
💰 無料	API の費用はかかりません
⚡ 高速	ローカルで処理するため、ネットワーク遅延がありません
🔌 オフライン	インターネット接続なしで動作します

インストール

macOS（Homebrew）

# Install Ollama
brew install ollama

# Start the Ollama service
ollama serve

macOS（直接ダウンロード）

1. ollama.com からダウンロードします
2. .dmg を開き、アプリケーションにドラッグします
3. アプリケーションから Ollama を起動します

Linux

# One-line installer
curl -fsSL https://ollama.com/install.sh | sh

# Start the service
ollama serve

Windows

1. ollama.com からインストーラーをダウンロードします
2. インストーラーを実行します
3. Ollama はサービスとして自動的に起動します

埋め込みモデルのダウンロード

GrepAI でコードをベクトルに変換するには、埋め込みモデルが必要です。

推奨モデル：nomic-embed-text

# Download the recommended model (768 dimensions)
ollama pull nomic-embed-text

仕様：

• 次元数：768
• サイズ：約274 MB
• 性能：コード検索に最適です
• 言語：英語向けに最適化されています

その他のモデル

# Multilingual support (better for non-English code/comments)
ollama pull nomic-embed-text-v2-moe

# Larger, more accurate
ollama pull bge-m3

# Maximum quality
ollama pull mxbai-embed-large

モデル	次元数	サイズ	最適な用途
nomic-embed-text	768	274 MB	一般的なコード検索
nomic-embed-text-v2-moe	768	500 MB	多言語のコードベース
bge-m3	1024	1.2 GB	大規模なコードベース
mxbai-embed-large	1024	670 MB	最大限の精度

インストールの確認

Ollama の実行状態を確認する

# Check if Ollama server is responding
curl http://localhost:11434/api/tags

# Expected output: JSON with available models

ダウンロード済みモデルを一覧表示する

ollama list

# Output:
# NAME                     ID           SIZE    MODIFIED
# nomic-embed-text:latest  abc123...    274 MB  2 hours ago

埋め込み生成をテストする

# Quick test (should return embedding vector)
curl http://localhost:11434/api/embeddings -d '{
  "model": "nomic-embed-text",
  "prompt": "function hello() { return world; }"
}'

Ollama 用に GrepAI を設定する

Ollama のインストール後、GrepAI が Ollama を使用するように設定します。

# .grepai/config.yaml
embedder:
  provider: ollama
  model: nomic-embed-text
  endpoint: http://localhost:11434

grepai init を実行したときのデフォルト設定なので、nomic-embed-text を使用する場合は変更不要です。

Ollama の実行

フォアグラウンド（開発時）

# Run in current terminal (see logs)
ollama serve

バックグラウンド（macOS/Linux）

# Using nohup
nohup ollama serve &

# Or as a systemd service (Linux)
sudo systemctl enable ollama
sudo systemctl start ollama

ステータスの確認

# Check if running
pgrep -f ollama

# Or test the API
curl -s http://localhost:11434/api/tags | head -1

リソースに関する考慮事項

メモリ使用量

埋め込みモデルは RAM に読み込まれます。

• nomic-embed-text：RAM 約500 MB
• bge-m3：RAM 約1.5 GB
• mxbai-embed-large：RAM 約1 GB

CPU と GPU

Ollama はデフォルトで CPU を使用します。埋め込み生成を高速化するには、以下の方法があります。

• macOS： Metal（Apple Silicon）を自動的に使用します
• Linux/Windows： NVIDIA GPU をサポートするには CUDA をインストールします

よくある問題

❌ 問題： localhost:11434 への接続が connection refused になる ✅ 解決策： Ollama を起動します。

ollama serve

❌ 問題： モデルが見つからない ✅ 解決策： 先にモデルを取得します。

ollama pull nomic-embed-text

❌ 問題： 埋め込み生成が遅い ✅ 解決策：

• より小さいモデルを使用します
• Ollama が GPU を使用していることを確認します（ollama ps を確認）
• メモリを大量に消費する他のアプリケーションを終了します

❌ 問題： メモリ不足 ✅ 解決策： より小さいモデルを使用するか、システム RAM を増やします

ベストプラクティス

1. GrepAI より先に Ollama を起動する： ollama serve が実行中であることを確認します
2. 推奨モデルを使用する： nomic-embed-text は最適なバランスを提供します
3. Ollama を起動したままにする： バックグラウンドサービスとして実行し続けます
4. 定期的に更新する： 更新するには ollama pull nomic-embed-text を実行します

出力形式

セットアップが正常に完了すると、次のようになります。

✅ Ollama Setup Complete

   Ollama Version: 0.1.x
   Endpoint: http://localhost:11434
   Model: nomic-embed-text (768 dimensions)
   Status: Running

   GrepAI is ready to use with local embeddings.
   Your code will never leave your machine.