轨迹偏离(Trajectory Drift)
轨迹偏离是Agent在生产环境中的核心问题之一。Agent在执行长序列任务时,往往会因为中间某一步的微小错误,导致后续步骤完全跑偏。
对策
- 反思机制(Self-Reflection):在关键节点强制Agent进行自我审查:“我现在的进度是否符合最初的目标?”
- 过程评估:通过[[AgentOps]]的过程评估维度,检查Agent的思考过程是否符合逻辑。
与[[大模型不是真理机器-而是论证机器]]的关系
轨迹偏离是大模型"论证"本质在工程层面的体现,需要通过系统工程手段来控制和规避。