llm-app-patterns

🤖 LLM アプリケーションパターン

明示的な検索、ツール、プライバシー、検証の境界を備えた、LLM アプリケーションのアーキテクチャと統合のスケッチ。

詳細ガイド

このスキルを実行する前に、詳細ガイドをお読みください。詳細ガイドには完全な手順と参考資料が記載されています。その安全性、前提条件、検証要件は必須のものとして扱ってください。限定的な作業では関連するセクションを読み込み、エンドツーエンドの作業ではガイド全体をお読みください。

このスキルを使用する場面

次の場合にこのスキルを使用してください:

• LLM を活用したアプリケーションを設計する場合
• RAG(Retrieval-Augmented Generation)を実装する場合
• ツールを備えた AI エージェントを構築する場合
• LLMOps のモニタリングを設定する場合
• エージェントアーキテクチャを選択する場合

---

入力、実例、検証

プロバイダー/SDK のバージョン、許可されたデータとツール、リクエスト/レスポンスのスキーマ、レイテンシ/コストの予算、期待されるタスクの結果を記録してください。上記のコードはすべて統合のスケッチです。llm、データベース、パーサー、プロバイダーレスポンスのアダプターはプロジェクトが所有するものであり、明示的に実装する必要があります。モデルが提供する Python、式、あいまいなツール名を決して実行せず、スキーマと認可のチェック後に、正確に登録されたツールのみをディスパッチしてください。呼び出しごとのデッドラインとループ制限の両方を適用してください。

例: プランナーはまずステップ A と B を実行し、その後 A の後に残りの作業を C に置き換えます。エグゼキューターは A の次に C を実行しなければならず、決して B を実行してはいけません。パーサーのステップでは、実際の直前の出力にパーサーを適用する必要があります。同じプロンプトを持つ 2 つのテナントは異なるキャッシュを生成する必要があり、キャッシュの読み取りには明示的な再利用ポリシーが必要です。これらは回帰テストのアサーションです。モックが成功しても、実際のプロバイダーの動作を証明するものではありません。

リミッターのスケッチは単一プロセスかつプロセスローカルです。分散デプロイメントには共有のアトミックな制限とデッドラインが必要です。再試行安全な操作のみを再試行し、プロバイダーの再試行ガイドラインに従ってください。副作用の後のタイムアウトは、何も起こらなかったことを意味するものではありません。Tenacity の再試行述語を参照してください。

制限事項

• 検索されたソースのリストは、各回答の主張が裏付けられていることを証明するものではありません。主張とソースの対応、および棄権の動作を検証してください。
• プロンプトのテキストと JSON 形式の出力は認可の境界ではありません。権限はアプリケーションで適用してください。
• プロバイダーのフェイルオーバーは、出力品質、ツールのスキーマ、コスト、データの所在地を変化させる可能性があります。事前に承認された互換性のあるフォールバックのみを使用してください。
• キャッシュはテナントのアクセス、データ/プロンプトのリビジョン、削除ポリシーを尊重する必要があります。temperature をゼロにしても出力が決定論的になるわけではありません。
• モデル/SDK の例は、完全なサービス、ベンチマーク、本番環境対応の証明ではありません。