Context(上下文)

Context(上下文)

Context(上下文)

定义

模型当前任务的"短时记忆缓冲区"。Context 是每次请求时打包发送给模型的所有信息,包括用户问题、历史对话、系统设定、工具返回数据等。

包含内容

  • 用户刚刚问的问题
  • 之前的对话记录
  • 系统设定(System Prompt)
  • 工具返回的数据
  • 附加文档或知识片段

工程本质

  • 模型本身没有持久记忆
  • 平台将历史对话打包进 Context,使模型"看起来"记得之前的内容
  • 每次请求都是独立计算,Context 是模型获取"记忆"的唯一途径

与 Context Window 的关系

  • [[Context-Window]] 是 Context 的容量上限
  • Context 不能超过 Context Window 的大小
  • Context 越长,成本越高,噪声越多,注意力分散风险越大

工程意义

  • 理解 Context 机制是设计 AI 应用的基础
  • 合理管理 Context 内容可提升模型输出质量
  • Context 管理是 Prompt Engineering 的重要组成部分
分享到