幻觉债务（Hallucination Debt）

幻觉债务（Hallucination Debt）是指由AI生成的代码中，因包含难以察觉的逻辑错误或"幻觉"而积累的潜在风险。这些错误在日常运行中可能表现完美，但在极端负载或遇到未知边界条件时，一旦崩溃将造成灾难性后果。

核心特征

• 隐蔽性：错误难以通过常规测试发现
• 累积性：随着AI生成代码量的增加，风险不断累积
• 不可理解性：生成代码的人类作者无法理解其内部逻辑
• 延迟爆发：问题可能在系统运行很久后才暴露

与相关概念的关系

• [[黑盒困境]] — 幻觉债务的直接后果，用户无法理解AI生成代码的内部逻辑
• [[AI生成代码的隐性成本]] — 幻觉债务是隐性成本的重要组成部分
• [[verification-and-rework-cost]] — 验证和修复幻觉债务所需的额外成本
• [[Vibe Coding]] — 幻觉债务是Vibe Coding范式带来的系统性风险

风险场景

• 低空经济飞行器调度系统中的隐蔽逻辑漏洞
• 工业传感器数据分析中的错误结论
• 金融交易系统中的边界条件处理失误
• 医疗诊断辅助系统中的数据解读偏差

应对策略

• 建立AI生成代码的审计和验证流程
• 培养"阅读代码、审查代码"的高级技能
• 对关键系统进行人工审查和边界测试
• 保持对AI生成内容的批判性思维