Kortexio Memory

試してみる（3つのコマンド） · エンジン · ドキュメント · Mem0 / Zep / Letta との比較

llama.cpp / vLLM サーバー向けのセルフホスト可能なメモリーゲートウェイです。

エンジンの前段に、OpenAI 互換の /v1 URL を1つ置きます。クライアントが送信するのは新しいメッセージだけです。 ゲートウェイはセッションメモリーを開いて、編集し、差分を確認できる Markdownとして保持します。ベクトルデータベースも、クライアントの書き換えも不要です。

3つのコマンドで試す

git clone https://github.com/Kortexio/ContextMemory.git && cd ContextMemory
docker compose -f docker-compose.yml -f docker-compose.llamacpp.yml up --build -d   # CPU; GPU: docker-compose.vllm.yml
./scripts/aha-chat.sh                                                             # Windows: .\scripts\aha-chat.ps1

aha-chat は同じセッションで2つのリクエストを送信します。2つ目のリクエストに含まれるのは、新しい質問だけです。

==> Turn 1: "Remember this for later: our staging database host is postgres-staging-01."
==> Turn 2: "What is our staging database host?"   (no history in the request body)
AHA OK — the client sent no history; the gateway remembered 'postgres-staging-01'.

同じチェックを、プッシュのたびに CI で実際の llama-server に対して実行します（e2e-llamacpp）。初回起動時に約2 GBの GGUF がダウンロードされます。別のモデルを選ぶには LLAMACPP_HF_MODEL を指定してください（エンジン）。管理 UI：http://localhost:5200。

ContextMemory とは？

ContextMemory は、Kortexioを支えるオープンソースのエージェント型メモリーゲートウェイです。

アプリ（または Cursor/Claude）は通常のチャット API と引き続き通信します。ゲートウェイは次の処理を行います。

1. テナントを認証し、セッション Wiki と履歴を付加します
2. ツールが有効な場合、エージェント型ツールループ（Wiki 検索、サンドボックス、MCP など）を実行します
3. 破壊的な操作の前にスキル、ガードレール、バリデーターを適用し、必要に応じてHITLを行います
4. 標準的な OpenAI 形式の chat.completions レスポンスを返します（ストリーミングにも対応）

Your client (OpenAI SDK / Cursor MCP / curl)
        │
        ▼  POST /v1/chat/completions
┌────────────────────────────────────────────┐
│  ContextMemory (.NET 9)                    │
│  Auth · session wiki · Global Wiki tool    │
│  Agentic loop · skills · guardrails · HITL │
│  LLM backend (per app — BYO engine)        │
└───────┬──────────────────┬─────────────────┘
        ▼                  ▼
 sandbox-runtime      mcp-runtime / MCP servers
 (shell/python/node)  (HTTP + stdio, OAuth)
 or Azure ACA sessions

対応範囲について：これはゲートウェイ＋サーバーサイドのハーネスであり、クライアントエージェントのフレームワーク（LangGraph/CrewAI）でも、エージェント OS（Letta）でもありません。OpenAI クライアントはそのまま使い、ループはサーバー上で実行します。

LLM エンジン：ContextMemory は、特定の推論スタックを同梱したり、それに固定したりしません</strong。テナントごとに、Ollama、vLLM、LM Studio、ExLlamaSharp、OpenAI、Azure 互換、LiteLLM、カスタムなど、任意の OpenAI 互換 /v1 ホストを選べます。Compose には llama.cpp と vLLM のオーバーライドが含まれています。Admin → Config → LLM で、アプリごとにエンジンを切り替えられます。

docker run --rm -p 5100:8080 \
  -v contextmemory-data:/app/data \
  -e ContextMemory__MasterKey=cm_master_dev_key_change_me \
  -e ContextMemory__Apps__demo-dev__ApiKey=cm_live_dev_key_change_me \
  -e ContextMemory__Apps__demo-dev__LlmBackend=openai-compatible \
  -e ContextMemory__Apps__demo-dev__LlmModel=local-model \
  -e ContextMemory__Apps__demo-dev__LlmEndpoint=http://host.docker.internal:8080 \
  --add-host=host.docker.internal:host-gateway \
  ghcr.io/kortexio/contextmemory:latest

git clone https://github.com/Kortexio/ContextMemory.git
cd ContextMemory/mcp-server && npm install && node print-mcp-config.mjs

curl -X POST http://localhost:5100/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "X-App-Id: demo-dev" -H "X-User-Id: user-42" -H "X-Session-Id: sess-abc" \
  -H "Authorization: Bearer cm_live_dev_key_change_me" \
  -d '{"model":"local-model","messages":[{"role":"user","content":"Hello"}]}'