高级计量经济分析及Stata应用 课件 第12章 贝叶斯估计.pptx

贝叶斯估计上海师范大学商学院

贝叶斯估计

授课大纲12.1贝叶斯估计原理12.2贝叶斯估计命令12.3贝叶斯线性回归12.4MH算法的贝叶斯模型2025/4/143

12.1贝叶斯估计原理12.1.1贝叶斯定理12.1.2蒙特卡罗积分的贝叶斯计算12.1.3马尔可夫链蒙特卡罗方法12.1.4Metropolis–Hastings算法12.1.5后验预测

12.1.1贝叶斯定理

对于随机向量（参数）与随机向量（样本数据），根据贝叶斯定理可知：(12.1)其中，是考虑样本数据之后的条件分布密度（即后验分布）；为参数的先验分布密度；是随机向量（参数）与随机向量（样本数据）的联合分布；为给定时的密度函数；为y的边缘分布密度。2025/4/145

12.1.1贝叶斯定理在联合分布中将随机参数积分，就可以得到随机向量的边缘分布密度：（12.2）2025/4/146

12.1.1贝叶斯定理在贝叶斯分析中，一般把后验分布记为，而把y的密度函数记为。在贝叶斯公式（12.2）中分母为边缘分布，不包含，可以将其视为常数，因此后验分布与该公式的分子成正比：（12.3）2025/4/147

12.1.2蒙特卡罗积分的贝叶斯计算

给定后验分布的样本，我们可以使用蒙特卡罗积分来近似积分。设为后验分布的独立样本。原始积分可近似为：。此外，如果g是一个标量函数，在一些温和的条件下，中心极限定理成立：式中可通过样本方差进行近似。2025/4/148

12.1.3马尔可夫链蒙特卡罗方法

每个MCMC方法都设计为从转换内核生成值，以便从该内核收敛到预先指定的目标分布。它使用目标分布为链的平稳或平衡分布。根据定义，马尔科夫链是目标分布域中的任何值或状态序列，每个价值只取决于它的直接前身。MCMC方法在模拟方面有很大不同效率和计算复杂性。对于设计良好的MCMC，链越长，性能越好，使样本更接近平稳分布。2025/4/149

12.1.4Metropolis–Hastings算法

MH算法用于在一般公式内的后验分布抽样。它需要指定提议的概率分布q（?）和在后部的区域内的起始状态，即。该算法生成一个马尔可夫链。这样，在每个步骤t:1）根据当前状态生成提议状态，2）根据适当定义的接受概率接受或拒绝生成提议状态。2025/4/1410

12.1.4Metropolis–Hastings算法对于:（1）生成建议状态：（2）计算接受率，其中，（3）绘制（0,1）区间上的均匀分布随机变量u。（4）设如果；其他则。2025/4/1411

12.1.4Metropolis–Hastings算法我们将迭代步骤1到4称为MH更新。通过设计，使用这种MH算法的任何马尔可夫链都可以保证作为其平稳分布。衡量MCMC