Metropolis-Hastings算法

Metropolis-Hastings算法是马尔可夫链蒙特卡洛（MCMC）的经典算法，由尼古拉斯·梅特罗波利斯于1953年提出基础版本，后由W.K. Hastings在1970年推广。它通过"有记忆的探险家"策略，实现了在复杂高维分布上的高效采样。

核心机制

1. 提议步骤：从当前位置随机向周围迈出一步，提出一个新的候选点
2. 接受-拒绝步骤：
   • 如果新位置的概率密度更高，百分之百接受
   • 如果新位置的概率密度更低，以一定概率接受（允许"退步"）

数学保证

算法的正确性由**细致平稳条件（Detailed Balance）**保证，确保马尔可夫链的平稳分布等于目标分布。这使得探险家在经历足够长时间的漫游后，在各个区域停留的时间比例完美等于该区域真实的概率分布密度。

意义

Metropolis-Hastings算法标志着MCMC时代的到来，使计算机学会了"顺藤摸瓜"，自动聚焦于高概率区域进行密集采样，同时偶尔探索低概率区域以防陷入局部死胡同。它使计算复杂贝叶斯网络后验分布等高维积分难题迎刃而解。

关联

• [[马尔可夫链蒙特卡洛]] — 所属方法类别
• [[蒙特卡洛方法]] — 基础方法
• [[细致平稳条件]] — 数学保证
• [[尼古拉斯-梅特罗波利斯]] — 提出者