AgentDB Vector Search

AgentDB ベクトル検索

このスキルでできること

AgentDB の高性能ベクトルデータベースを使用して、ベクトルベースのセマンティック検索を実装します。従来のソリューションより150倍～12,500倍高速な処理を実現します。HNSW インデックス、量子化、サブミリ秒の検索（<100µs）に対応しています。

前提条件

• Node.js 18+
• AgentDB v1.0.7+（agentic-flow 経由またはスタンドアロン）
• OpenAI API キー（埋め込み用）またはカスタム埋め込みモデル

CLI でのクイックスタート

ベクトルデータベースを初期化する

# Initialize with default dimensions (1536 for OpenAI ada-002)
npx agentdb@latest init ./vectors.db

# Custom dimensions for different embedding models
npx agentdb@latest init ./vectors.db --dimension 768  # sentence-transformers
npx agentdb@latest init ./vectors.db --dimension 384  # all-MiniLM-L6-v2

# Use preset configurations
npx agentdb@latest init ./vectors.db --preset small   # <10K vectors
npx agentdb@latest init ./vectors.db --preset medium  # 10K-100K vectors
npx agentdb@latest init ./vectors.db --preset large   # >100K vectors

# In-memory database for testing
npx agentdb@latest init ./vectors.db --in-memory

ベクトルデータベースにクエリを実行する

# Basic similarity search
npx agentdb@latest query ./vectors.db "[0.1,0.2,0.3,...]"

# Top-k results
npx agentdb@latest query ./vectors.db "[0.1,0.2,0.3]" -k 10

# With similarity threshold (cosine similarity)
npx agentdb@latest query ./vectors.db "0.1 0.2 0.3" -t 0.75 -m cosine

# Different distance metrics
npx agentdb@latest query ./vectors.db "[...]" -m euclidean  # L2 distance
npx agentdb@latest query ./vectors.db "[...]" -m dot        # Dot product

# JSON output for automation
npx agentdb@latest query ./vectors.db "[...]" -f json -k 5

# Verbose output with distances
npx agentdb@latest query ./vectors.db "[...]" -v

ベクトルをインポート／エクスポートする

# Export vectors to JSON
npx agentdb@latest export ./vectors.db ./backup.json

# Import vectors from JSON
npx agentdb@latest import ./backup.json

# Get database statistics
npx agentdb@latest stats ./vectors.db

API でのクイックスタート

import { createAgentDBAdapter, computeEmbedding } from 'agentic-flow/reasoningbank';

// Initialize with vector search optimizations
const adapter = await createAgentDBAdapter({
  dbPath: '.agentdb/vectors.db',
  enableLearning: false,       // Vector search only
  enableReasoning: true,       // Enable semantic matching
  quantizationType: 'binary',  // 32x memory reduction
  cacheSize: 1000,             // Fast retrieval
});

// Store document with embedding
const text = "The quantum computer achieved 100 qubits";
const embedding = await computeEmbedding(text);

await adapter.insertPattern({
  id: '',
  type: 'document',
  domain: 'technology',
  pattern_data: JSON.stringify({
    embedding,
    text,
    metadata: { category: "quantum", date: "2025-01-15" }
  }),
  confidence: 1.0,
  usage_count: 0,
  success_count: 0,
  created_at: Date.now(),
  last_used: Date.now(),
});

// Semantic search with MMR (Maximal Marginal Relevance)
const queryEmbedding = await computeEmbedding("quantum computing advances");
const results = await adapter.retrieveWithReasoning(queryEmbedding, {
  domain: 'technology',
  k: 10,
  useMMR: true,              // Diverse results
  synthesizeContext: true,    // Rich context
});

主な機能

1. ベクトルストレージ

// Store with automatic embedding
await db.storeWithEmbedding({
  content: "Your document text",
  metadata: { source: "docs", page: 42 }
});

2. 類似性検索

// Find similar documents
const similar = await db.findSimilar("quantum computing", {
  limit: 5,
  minScore: 0.75
});

3. ハイブリッド検索（ベクトル＋メタデータ）

// Combine vector similarity with metadata filtering
const results = await db.hybridSearch({
  query: "machine learning models",
  filters: {
    category: "research",
    date: { $gte: "2024-01-01" }
  },
  limit: 20
});

高度な使い方

RAG（検索拡張生成）

// Build RAG pipeline
async function ragQuery(question: string) {
  // 1. Get relevant context
  const context = await db.searchSimilar(
    await embed(question),
    { limit: 5, threshold: 0.7 }
  );

  // 2. Generate answer with context
  const prompt = `Context: ${context.map(c => c.text).join('\n')}
Question: ${question}`;

  return await llm.generate(prompt);
}

バッチ処理

// Efficient batch storage
await db.batchStore(documents.map(doc => ({
  text: doc.content,
  embedding: doc.vector,
  metadata: doc.meta
})));

MCP サーバーとの統合

# Start AgentDB MCP server for Claude Code
npx agentdb@latest mcp

# Add to Claude Code (one-time setup)
claude mcp add agentdb npx agentdb@latest mcp

# Now use MCP tools in Claude Code:
# - agentdb_query: Semantic vector search
# - agentdb_store: Store documents with embeddings
# - agentdb_stats: Database statistics

パフォーマンスベンチマーク

# Run comprehensive benchmarks
npx agentdb@latest benchmark

# Results:
# ✅ Pattern Search: 150x faster (100µs vs 15ms)
# ✅ Batch Insert: 500x faster (2ms vs 1s for 100 vectors)
# ✅ Large-scale Query: 12,500x faster (8ms vs 100s at 1M vectors)
# ✅ Memory Efficiency: 4-32x reduction with quantization

量子化オプション

AgentDB では、メモリー効率を高めるために複数の量子化方式を利用できます。

バイナリ量子化（32倍圧縮）

const adapter = await createAgentDBAdapter({
  quantizationType: 'binary',  // 768-dim → 96 bytes
});

スカラー量子化（4倍圧縮）

const adapter = await createAgentDBAdapter({
  quantizationType: 'scalar',  // 768-dim → 768 bytes
});

積量子化（8～16倍圧縮）

const adapter = await createAgentDBAdapter({
  quantizationType: 'product',  // 768-dim → 48-96 bytes
});

距離指標

# Cosine similarity (default, best for most use cases)
npx agentdb@latest query ./db.sqlite "[...]" -m cosine

# Euclidean distance (L2 norm)
npx agentdb@latest query ./db.sqlite "[...]" -m euclidean

# Dot product (for normalized vectors)
npx agentdb@latest query ./db.sqlite "[...]" -m dot

高度な機能

HNSW インデックス

• O(log n) の検索計算量
• サブミリ秒での取得（<100µs）
• インデックスを自動構築

キャッシュ

• インメモリーに1,000件のパターンをキャッシュ
• パターン取得は<1ms
• キャッシュを自動で無効化

MMR（最大限界関連性）

• 多様な結果セット
• 冗長性を回避
• 関連性と多様性のバランスを調整

パフォーマンスのヒント

1. HNSW インデックスを有効にする：AgentDB では自動的に有効になり、10～100倍高速化します
2. 量子化を使用する：バイナリ（32倍）、スカラー（4倍）、積（8～16倍）でメモリーを削減します
3. バッチ処理を使用する：一括挿入で500倍高速化します
4. 次元数を一致させる：1536（OpenAI）、768（sentence-transformers）、384（MiniLM）
5. 類似度のしきい値：品質を重視する場合は0.7から始め、用途に応じて調整します
6. キャッシュを有効にする：頻繁なクエリ向けに1,000件のパターンをキャッシュします

トラブルシューティング

問題：検索パフォーマンスが遅い

# Check if HNSW indexing is enabled (automatic)
npx agentdb@latest stats ./vectors.db

# Expected: <100µs search time

問題：メモリー使用量が多い

# Enable binary quantization (32x reduction)
# Use in adapter: quantizationType: 'binary'

問題：関連性が低い

# Adjust similarity threshold
npx agentdb@latest query ./db.sqlite "[...]" -t 0.8  # Higher threshold

# Or use MMR for diverse results
# Use in adapter: useMMR: true

問題：次元数が正しくない

# Check embedding model dimensions:
# - OpenAI ada-002: 1536
# - sentence-transformers: 768
# - all-MiniLM-L6-v2: 384

npx agentdb@latest init ./db.sqlite --dimension 768

データベース統計情報

# Get comprehensive stats
npx agentdb@latest stats ./vectors.db

# Shows:
# - Total patterns/vectors
# - Database size
# - Average confidence
# - Domains distribution
# - Index status

パフォーマンス特性

• ベクトル検索：<100µs（HNSW インデックス）
• パターン取得：<1ms（キャッシュ使用時）
• バッチ挿入：ベクトル100件で2ms
• メモリー効率：量子化により4～32倍削減
• スケーラビリティ：100万件以上のベクトルを効率的に処理
• レイテンシ：ほとんどの処理でサブミリ秒

詳細情報

• GitHub：https://github.com/ruvnet/agentic-flow/tree/main/packages/agentdb
• ドキュメント：node_modules/agentic-flow/docs/AGENTDB_INTEGRATION.md
• MCP 統合：Claude Code 用の npx agentdb@latest mcp
• ウェブサイト：https://agentdb.ruv.io
• CLI のヘルプ：npx agentdb@latest --help
• コマンドのヘルプ：npx agentdb@latest help <command>