概率模型 (Probabilistic Model)

大语言模型的核心数学基础。模型基于概率分布 $P(w_n | w_1, \dots, w_{n-1})$ 预测下一个词，本质决定了无法100%准确。

与AI幻觉的关系

• 根本原因：只要是概率，就有出错的可能——哪怕是0.01%，在海量应用中也会酿成灾难。
• 学术界的核心论据：[[gary-marcus|Gary Marcus]]等学者认为，概率模型的数学本质决定了[[ai-hallucination|AI幻觉]]无法根除，只能缓解。
• 与[[大模型作为论证机器]]的关联：概率模型追求"可信度"（最连贯的文本序列）而非"真实性"（符合现实），这与"大模型是论证机器"的观点高度一致。

相关页面

• [[ai-hallucination]] — AI幻觉概念
• [[gary-marcus]] — 主要倡导者
• [[大模型作为论证机器]] — 认知本质
• [[思维链]] — 缓解策略