标签: SRE

0

大模型接口返回 200,不代表任务成功:LLM 应用的韧性工程

传统后端服务里,错误通常有清晰信号:连接超时、HTTP 500、字段校验失败或数据库事务回滚。大模型应用增加了一类更麻烦的状态——调用在技术上完全成功,模型也输出了合法文本甚至合法 JSON,但内容不可用、事实错误、遗漏约束,或者生成了会让后续工具执行危险动作的参数。