Context(上下文)
定义
模型当前任务的"短时记忆缓冲区"。Context 是每次请求时打包发送给模型的所有信息,包括用户问题、历史对话、系统设定、工具返回数据等。
包含内容
- 用户刚刚问的问题
- 之前的对话记录
- 系统设定(System Prompt)
- 工具返回的数据
- 附加文档或知识片段
工程本质
- 模型本身没有持久记忆
- 平台将历史对话打包进 Context,使模型"看起来"记得之前的内容
- 每次请求都是独立计算,Context 是模型获取"记忆"的唯一途径
与 Context Window 的关系
- [[Context-Window]] 是 Context 的容量上限
- Context 不能超过 Context Window 的大小
- Context 越长,成本越高,噪声越多,注意力分散风险越大
工程意义
- 理解 Context 机制是设计 AI 应用的基础
- 合理管理 Context 内容可提升模型输出质量
- Context 管理是 Prompt Engineering 的重要组成部分