context-engineering

上下文工程

上下文窗口的容量有限。放入其中的信息及其顺序，决定了每次输出的质量。上下文工程是有意设计上下文窗口信息架构的实践。

上下文预算

每个上下文窗口都有 token 预算。请有意识地分配：

• 系统提示词：基础指令（通常占预算的 5-20%）
• 检索上下文：为当前任务提取的文档、数据和信息
• 对话历史：对话中之前的轮次
• 用户输入：当前请求
• 工作空间：为模型生成回复预留的空间 这些内容会争夺空间。检索的上下文越多，对话历史可用的空间就越少。系统提示词越长，其他内容可用的空间就越少。

上下文中的信息架构

顺序很重要。模型对不同位置的信息关注程度不同：

• 开头：关注度高。请把最重要的指令放在这里。
• 中间：关注度较低。长上下文中，这里的信息容易丢失。
• 结尾：关注度高。最新的信息（用户输入）自然会放在这里。
• 任务附近：紧挨用户问题之前的信息，比上下文中更早出现的信息更受关注。

上下文选择

不应将所有内容都放入上下文。请设计选择标准：

• 相关性：这条信息是否有助于回答当前问题？
• 时效性：这是否是当前最新的信息？
• 具体性：这条信息是否足够具体、实用，还是过于笼统？
• 冗余性：上下文中的其他位置是否已经涵盖了这条信息？
• 权威性：这条信息是否来自可靠来源？

上下文策略

• 检索增强生成（RAG）：动态地将相关文档提取到上下文中
• 摘要：将较早的上下文压缩成摘要，以释放空间
• 优先保留历史：保留近期且重要的对话轮次，舍弃不太重要的轮次
• 结构化上下文：使用清晰的标题和章节组织信息，便于模型浏览
• 上下文缓存：预先计算并缓存常用的上下文块

上下文质量信号

如何判断上下文工程是否有效：

• 输出相关性：输出是否利用所提供的上下文回答了实际问题？
• 幻觉率：模型是否因上下文不足而编造内容？
• 上下文利用率：模型是否确实使用了所提供的上下文，还是忽略了它？
• 一致性：提供相同上下文时，输出是否保持一致？

设计产物

• 上下文预算分配文档
• 上下文窗口的信息架构图
• 各功能的上下文选择标准
• 检索策略规范
• 上下文质量监控指标