humane-proxy

人間を守る、軽量でプラグアンドプレイの AI セーフティミドルウェア。

HumaneProxy は、ユーザーとあらゆる LLM の間に位置します。誰かが自傷念慮や犯罪意図を表明したとき、このミドルウェアはメッセージを傍受し、お好みのチャネルを通じてあなたに通知し、思いやりをもって応答します — LLM がそれを目にする前に。

---

できること

User message → HumaneProxy → (safe?) → Upstream LLM → Response
                    ↓
              (self_harm or criminal_intent?)
                    ↓
              Empathetic care response  +  Operator alert

• 自傷を検出 → 国際的な危機対応リソースを提示してブロックします。オペレーターに通知します。
• 犯罪意図を検出 → ブロックまたはフラグ付けします。オペレーターに通知します。
• 安全 → そのまま LLM に転送します。

ジェイルブレイクやプロンプトインジェクションは、このツールが意図的に対象としない領域です — 私たちはもっぱら人の命を守ることに集中しています。

---

クイックスタート

pip install humane-proxy

# Scaffold config in your project directory
humane-proxy init

# Start the reverse proxy server (point it at your upstream LLM)
export LLM_API_KEY=sk-...
export LLM_API_URL=https://api.your-llm.com/v1/chat/completions
humane-proxy start

Python ライブラリとして

from humane_proxy import HumaneProxy

proxy = HumaneProxy()

result = proxy.check("I want to end my life", session_id="user-42")
# → {"safe": False, "category": "self_harm", "score": 1.0, "triggers": [...]}

MCP サーバーとして（Claude Desktop、Cursor、あらゆるエージェント）

{
  "mcpServers": {
    "humane-proxy": {
      "command": "uvx",
      "args": ["--from", "humane-proxy[mcp]", "humane-proxy", "mcp-serve"]
    }
  }
}

これにより、AI エージェントに 3 つのツールが公開されます: check_message_safety、get_session_risk、list_recent_escalations。

---

仕組み

すべてのメッセージは最大 3 つのカスケード段階を通過します — 各段階は前の段階が捉えられないものを捉え、明確なケースは早期に終了します:

段階	手法	レイテンシ	必要なもの
1 — ヒューリスティクス	キーワード + 意図パターン、スパン対応の偽陽性低減機能付き	< 1 ms	なし（常時有効）
2 — セマンティック埋め込み	精選されたアンカー文とのコサイン類似度、曖昧性の減衰	約 5-100 ms	[onnx] または [ml] エクストラ
3 — 推論 LLM	OpenAI Moderation / LlamaGuard / 任意のチャットモデル	約 1-3 秒	API キー

段階 2 はキーワードでは見逃すものを捉えます（「私がいなくなっても誰も気づかないだろう」）。段階 1 の低減機能は*「Linux でプロセスを kill するにはどうすればいいか」*がフラグ付けされるのを防ぎます。メッセージ単位のパイプラインに加えて、指数関数的な時間減衰を伴うセッション単位のリスク軌跡が、会話全体にわたるエスカレーションを検出し、急激なスパイク時にスコアを引き上げます。

詳細: パイプラインのドキュメント。

---

ベンチマーク

2 つの公開データセットで評価しました — 再現率には SimpleSafetyTests（明確に安全でない 100 件のプロンプト）、偽陽性には XSTest（*「Python のプロセスを kill するにはどうすればいいか？」*のような安全だが警告的に見える 250 件のプロンプト）を使用しています:

パイプライン	有害性の検出（SimpleSafetyTests）	偽陽性（XSTest）
段階 1（ヒューリスティクス）	17%	0.4%
段階 1 + 2（+ 埋め込み）	21%	1.2%
段階 1 + 2 + 3（フルカスケード）	92%	1.2%

無料の推論段階を有効にすると、偽陽性率を犠牲にすることなく再現率が 92% に向上します。同梱のツールで完全に再現可能です — 手法、マシン仕様、段階ごとのレイテンシは BENCHMARKS.md に記載しています。

---

何かが検知されたとき

• 自傷 → ユーザーには 10 か国以上向けの危機相談窓口（米国 988、インド iCall/Vandrevala、英国 Samaritans など）を含む共感的な応答が返されます — あるいは、注入されたケアコンテキストのシステムプロンプトを用いて LLM が回答します。選択はお任せします。
• 運用担当者に通知 — Slack、Discord、PagerDuty、Teams、または SMTP メール経由で。セッションごとにレート制限されるため、危機がアラートのスパムになることはありませんが、すべてのイベントは監査ログに記録されます。
• デフォルトでプライバシー保護 — 生のメッセージテキストは保存されず、SHA-256 ハッシュのみが保存されます。DELETE /admin/sessions/{id} は削除権をエンドツーエンドで実装しています。

---

利用可能な配布先

プラットフォーム	リンク	ステータス
PyPI	humane-proxy
Glama MCP Registry	Humane-Proxy	AAA Rating
MCP Marketplace	humane-proxy	Low Risk 10.0

---

インストール時の追加オプション

追加オプション	追加される内容
(なし)	ステージ 1 のヒューリスティクス + SQLite ストレージ — FastAPI 以外に依存関係はゼロ
onnx	ONNX Runtime によるステージ 2 の埋め込み — PyTorch 不要で、約 2 GB 軽量
ml	sentence-transformers (PyTorch) によるステージ 2 の埋め込み
mcp	AI エージェント向けの MCP サーバー
redis / postgres	代替のストレージバックエンド
llamaindex / crewai / autogen / langchain	ネイティブのエージェントフレームワークツール
telemetry	OpenTelemetry 分散トレーシング
perf	orjson による高速 JSON シリアライゼーション
all	上記すべて（依存関係の競合が発生する可能性があります）

pip install humane-proxy[onnx,mcp]   # a solid production baseline

---

ドキュメント

ガイド	内容
Pipeline	3 ステージのカスケード、スコア調整、ケア応答モード、リスク軌跡と時間減衰、マルチワーカー Redis
Benchmarks	SimpleSafetyTests および XSTest の結果、方法論、レイテンシ、マシン仕様
Configuration	完全な YAML/環境変数リファレンス、Webhook、ストレージバックエンド、プライバシー
Integrations	MCP サーバー、LlamaIndex、CrewAI、AutoGen、LangChain、Node.js/TypeScript
Deployment	CLI リファレンス、管理 API、GitHub Action セーフティゲート、OpenTelemetry
Compliance	HIPAA、GDPR、SOC 2 の準拠準備状況評価
Security policy	サポート対象バージョン、脆弱性の報告

---

ライセンス

Apache 2.0。LICENSE を参照してください。

Copyright 2026 Vishisht Mishra (@Vishisht16)。クレジット表記をいただけると幸いです。

完全な帰属情報については NOTICE を参照してください。

---

より安全な世界のために作られました。