self-hosted-ai

Sovereign AI MCP

ソブリンAIブログをAIエージェントに公開するMCPサーバーです。このブログは、NVIDIA DGX Spark（GB10/SM121A）上でセルフホスト型AIを運用する実践的なエンジニアリング記録です。

稼働中のエンドポイント： https://mcp.sovgrid.org/self-hosted-ai トランスポート： Streamable HTTP（FastMCP） 認証： なし（無料枠、IPあたり60 req/min）

利用する理由

ニッチなハードウェア（GB10、SM121A、ARM64上のSGLang）に関するトレーニングデータは乏しく、古くなっています。このMCPを使うと、エージェントは実際のセットアップ、修正、ベンチマークを記録した180件以上の記事に、構造化された形で直接アクセスできます。同様の構成で開発やデバッグを行う場合、エージェントは幻覚を生成する代わりに、検証済みで最新バージョンに対応した情報を取得できます。

記事には、GB10向けのSGLangとvLLMのパッチ、ARM64上のvoxtralとTTSパイプライン、KVキャッシュと量子化のトレードオフ、ポッドキャスト品質の音声生成、MCPサーバー設計、ナレッジベース構築、そしてセキュリティを強化した欧州のVPSですべてを運用するための実務的な内容が含まれています。

ツール

ツール	目的
search_blog(query, tag?, sort?, n?)	TF-IDFによる全文検索です。任意のtagフィルターを指定でき、sortは関連度またはdate_descで並べ替えます。queryが空の場合は新しい記事を一覧表示します。品質スコア、スタイル、スラッグ、抜粋を含む、ランク付けされたSearchResult項目を返します。
list_articles(tag?, sort?, limit?, offset?)	TF-IDFの処理負荷なしで、ページネーションを使って記事を直接一覧表示します。タグで絞り込み、date_desc、date_asc、title_asc、quality_descで並べ替えられます。ArticleSummary項目を返します。
list_tags(sort?)	記事数とともに、コーパス全体のトピックタグを一覧表示します。count_desc（デフォルト）またはalphaで並べ替えられます。search_blogで絞り込む前に、トピックの全体像を把握するために利用してください。
get_article(slug)	スラッグを指定して、記事本文全体とフロントマターを取得します。タグ、品質スコア、公開日とともに、Markdown形式のコンテンツを返します。
diagnose_sglang(error_message)	GB10/SM121A上のSGLang向けに厳選されたルールセットと、実行時エラーのパターンを照合します。セットアップ記事へのリンクとともに、該当する修正方法を返します。

すべてのツールは読み取り専用で、冪等性があり、ToolAnnotationsを宣言しているため、MCPクライアントは再試行ポリシーと信頼性のシグナルを適切に判断できます。入力にはPydanticのAnnotated[type, Field(description=...)]を使用しているため、イントロスペクションを通じてパラメーターのドキュメントをエージェントに提供できます。出力は型付きのBaseModel形式であり、スキーマは実体のあるもので、空のdictではありません。

クイックスタート

Claude Codeを使う

claude mcp add sovereign-ai --transport http https://mcp.sovgrid.org/self-hosted-ai

確認します：

claude mcp list | grep sovereign-ai

Cline／Continue／その他のMCPクライアントを使う

クライアントのMCPサーバー設定に追加します：

{
  "sovereign-ai": {
    "type": "http",
    "url": "https://mcp.sovgrid.org/self-hosted-ai"
  }
}

ローカルで実行する

ソースから実行（uv）

git clone https://github.com/cipherfoxie/sovereign-mcp.git
cd sovereign-mcp
uv sync
uv run uvicorn src.main:app --host 127.0.0.1 --port 8002

Docker

git clone https://github.com/cipherfoxie/sovereign-mcp.git
cd sovereign-mcp
docker build -t sovereign-mcp .
docker run -p 8002:8002 sovereign-mcp

リポジトリには、サーバーが起動し、すぐに MCP のイントロスペクションに適切に応答できるよう、プレースホルダーの data/knowledge-base.json（記事数ゼロ、有効なスキーマ）が用意されています。実際のコンテンツを登録するには、sovgrid.org のブログソースから scripts/generate_knowledge_base.py を使って生成するか、src/knowledge.py のスキーマに合わせて独自の KB を作成してください。または、ライブエンドポイント https://mcp.sovgrid.org/self-hosted-ai をそのままご利用ください。

同じ KB パターン（Markdown と JSON インデックスを使用し、ベクトルストアは不使用）の手順については、プレーンテキストと LLM でセルフホスト可能なナレッジベースを構築するで説明しています。

アーキテクチャ

• /self-hosted-ai パスで Streamable HTTP トランスポートを使用する FastMCP 1.27+
• TransportSecuritySettings による DNS リバインディング対策：Host: mcp.sovgrid.org（またはヘルスチェック用の localhost）を含むリクエストのみを許可します
• /health にある ヘルスエンドポイントは、記事数と KB の生成タイムスタンプを返します
• ナレッジベースは、ブログの Markdown コンテンツから生成されたフラットな JSON ファイルです。起動時に読み込まれ、search_blog では TF-IDF によって検索されます

サーバーはステートレスです。ブログのコンテンツはすべてすでに公開されており（CC BY-SA 4.0）、PII、認証トークン、シークレットは含まれていません。

運用

本番環境へのデプロイは、プライバシーを重視したヨーロッパの VPS 上で Docker を使用して実行され、TLS 対応の Caddy が前段に配置されています。サーバーログはプライバシーに配慮した分析パイプラインに送られます（Caddy の JSON アクセスログを使用し、クライアント側のトラッキングや JS ピクセルは使用しません）。

ライセンス

• サーバーコード： MIT。詳細は LICENSE をご覧ください
• ブログコンテンツ（ツールが返す内容）：CC BY-SA 4.0。詳細は creativecommons.org/licenses/by-sa/4.0/ をご覧ください

お問い合わせ

• ブログ：sovgrid.org
• Nostr：[email protected]（NIP-05）— npub1ndrjgfcwkc0y4753zyj3p7qjf795pvjq2dn4m7y7f72vmu7t0nrs6y363u
• バグ報告・ご質問：issue を作成