llm-app-patterns

🤖 大模型应用模式

大模型应用的架构与集成草图，明确划定了检索、工具、隐私与验证边界。

详细指南

在执行本技能之前，请先阅读详细指南。其中保留了完整的流程与参考资料。将其中的安全性、前置条件和验证要求视为强制要求。对于聚焦的工作，加载相关章节；对于端到端的工作，请完整阅读该指南。

何时使用本技能

在以下情况下使用本技能：

• 设计由大模型驱动的应用
• 实现 RAG（检索增强生成）
• 构建带工具的 AI Agent
• 搭建 LLMOps 监控
• 在 Agent 架构之间做选择

---

输入、示例与验证

记录提供商/SDK 版本、已授权的数据与工具、请求/响应 schema、延迟/成本预算以及预期任务结果。上面的所有代码都是集成草图：llm、数据库、解析器以及提供商响应适配器均归项目所有，必须显式实现。绝不要执行模型提供的 Python、表达式或模糊工具名；只有在完成 schema 与授权检查后，才分派完全精确注册的工具。除循环次数限制外，还要对每次调用施加截止时间。

示例：规划器先排队执行步骤 A 和 B，然后在 A 之后将剩余工作替换为 C。执行器必须运行 A 再运行 C，绝不能运行过期的 B。解析器步骤必须将解析器应用于实际的前一步输出。两个使用相同提示词的租户必须生成不同的缓存键，且缓存读取/写入需要明确的复用策略。这些都是具体的回归断言；即便 mock 成功，也仍不能证明真实提供商的行为。

限流器草图是单线程且进程本地的。分布式部署需要共享的原子限制与截止时间。只对可安全重试的操作进行重试，并遵循提供商的的重试指引；产生副作用后发生的超时不能作为什么都没发生的证据。参见 Tenacity 重试谓词。

局限性

• 检索到的来源列表并不能证明答案中的每一项主张都得到了支持；请验证主张与来源之间的证据以及弃答行为。
• 提示词文本和 JSON 形态的输出并非授权边界。请在应用中强制执行权限。
• 提供商故障转移可能改变输出质量、工具 schema、成本和数据驻留；只能使用预先批准的兼容回退方案。
• 缓存必须尊重租户访问权限、数据/提示词修订以及删除策略；温度为零并不能使输出具有确定性。
• 模型/SDK 示例并不是完整的服务、基准测试或生产就绪证明。