Compliant Llm

Compliant LLM は、AI システムのコンプライアンスとセキュリティを確保するための包括的なツールキットです。

情報セキュリティ、コンプライアンス、生成 AI の各チームは、Compliant LLM を使用して、AI エージェントが社内ポリシーや NIST、ISO、HIPAA、GDPR などのフレームワークに準拠し、安全であることを確認しています。

複数の LLM プロバイダーに対応しており、プロンプト、エージェント、MCP サーバー、生成 AI モデルのテストに使用できます。

詳細については、ドキュメントをご覧ください。

🎯 主な機能

• 🎯 セキュリティテスト：プロンプトインジェクション、ジェイルブレイク、コンテキスト操作を含む8種類以上の攻撃手法に対してテストします
• 📊 コンプライアンス分析：NIST、ISO、OWASP、GDPR、HIPAA などのコンプライアンスフレームワークに照らして、AI システムの準拠状況を確認します
• 🤖 プロバイダーのサポート：LiteLLM を介して複数の LLM プロバイダーを利用できます
• 📈 ビジュアルダッシュボード：テスト結果を分析するためのインタラクティブな UI
• ⚡ エンドツーエンドテスト：AI システムをエンドツーエンドでテストします
• 📄 詳細なレポート：実行可能なインサイトを含む包括的なレポート

⚙️ インストールと実行

# install
pip install compliant-llm

# run the dashboard
compliant-llm dashboard

LLM プロバイダーを設定して攻撃を実行します

サポート

お問い合わせ：[email protected]

ミーティング：🔗 予約枠を探す

コミュニティ：💬 Discord、X、LinkedIn

セルフホストまたはホスト型クラウド：デモを予約

🔗 予約枠を確保

対応プロバイダー

• OpenAI
• Anthropic
• Gemini
• Mistral
• Groq
• Deepseek
• Azure
• vLLM Ollama
• Ollama
• Nvidia Nim
• Meta Llama

ロードマップ

• アプリケーション全体のペネトレーションテスト
• コンプライアンスに準拠し、ログを記録する MCP サーバー
• さまざまなコンプライアンスフレームワークへの対応 - NIST、HIPAA、GDPR、EU AI Act など
• マルチモーダルテスト
• CI/CD
• アクセス制御のチェック
• 各種コントロール向けのコントロールパネル
• 内部監査とドキュメント

⭐️ スターを付ける

🤝 貢献者

開発者	貢献者
compliant-llm を使って開発する人。	compliant-llm をより良くする人。
（プロジェクトのどこかで import compliant-llm を使っている）	（このリポジトリに PR を作成する）

コミュニティからの貢献を歓迎します！バグ修正、機能の追加、ドキュメントの改善など、皆さんのご協力は大切です。

1. リポジトリをフォークします
2. フィーチャーブランチを作成します（git checkout -b feature/AmazingFeature）
3. 変更をコミットします（git commit -m 'Add some AmazingFeature'）
4. ブランチにプッシュします（git push origin feature/AmazingFeature）
5. プルリクエストを作成します

🔒 セキュリティとプライバシー

データセキュリティとプライバシーを重視しています。詳しくは、セキュリティとプライバシーのページをご覧ください。詳細情報

テレメトリー

Compliant LLM は、製品の改善を目的として匿名化された使用統計を収集します。 個人情報や個人を特定できる情報は収集しません。

export DISABLE_COMPLIANT_LLM_TELEMETRY=true を設定すると、オプトアウトできます。

📝 引用

@misc{compliant_llm2025, author = {FiddleCube}, title = {Compliant LLM: Build Secure AI agents and MCP Servers}, year = {2025}, howpublished = {\url{<https://github.com/fiddlecube/compliant-llm}}>, }