《贝叶斯统计》ppt课件

《《贝叶斯统计》ppt课件》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、MCMC方法一、贝叶斯统计的框架分析困难:后验分布是复杂的、高维的分布解决方法:马尔可夫链蒙特卡罗（MCMC）方法后验分布先验信息似然函数目前，MCMC已经成为一种处理复杂统计问题的特别流行的工具，尤其在经常需要复杂的高维积分运算的贝叶斯分析领域更是如此。在那里，高维积分运算主要是用来求取普通方法无法得到的后验分布密度。如果合理的定义和实施，MCMC总能得到一条或几条收敛的马尔可夫链，该马尔可夫链的极限分布就是所需的后验分布二、MCMC方法（一）预备知识二、MCMC方法二、MCMC方法（二）基本思想二、MCMC方法（三）常用MCMC算法Gibbs抽样（吉布斯

2、采样算法）二、MCMC方法二、MCMC方法立即更新的Gibbs抽样每次迭带的时候的一些元素已经被跟新了，如果在更新其他的元素时不使用这些更新后的元素会造成一定程度的浪费。事实上，Gibbs抽样可通过在每一步都利用近似得到的其他元素的值来获得更好的效果。这种方法改进了练的混合，换句话说，链能更加迅速，更加详尽的搜索目标分布的支撑空间。立即更新的Gibbs抽样描述如下：（1）选择初始值。（2）逐个生成。（3）增加m,返回第（2）步。二、MCMC方法Metropolis-Hastings抽样二、MCMC方法二、MCMC方法二、MCMC方法二、MCMC方法三、MCM

3、C方法的收敛性诊断要多久链才可以不依赖于其初始值以及需要多久该链能完全挖掘目标分布函数支撑的信息。在一个序列中观测值之间要隔多远才可以看作是近似独立的。该链是否近似达到其平稳分布。观察样本路径观察自相关性图方差比收敛性诊断诊断方法（1）观察样本路径产生多条马尔可夫链，观察样本路径（对多个初始值产生多个马尔可夫链）样本路径是一个描述迭代数对应的实现图。样本路径有时也称为历史图。如果链的混合不是很好，那么在很多次迭代中它会取相同或者相近的数值。一个好的链能够快速地远离初始值，无论以何值开始。历史迭代图不收敛收敛(2)观察自相关性图自相关性图用于描述序列在不同迭代

4、延迟下的相关性，延迟i的自相关性是指相距i步的两迭代之间的相关性。具有较差的性质的链随着迭代延迟的增加会表现出较慢的自相关衰弱。四、WinBUGS软件包四、WinBUGS软件包BayesBayes统计推断Bayes统计推断概述参数的Bayes点估计Bayes区间估计Bayes假设检验一Bayes统计推断概述所研究的问题有一个确定的总体，其总体分布未知或部分未知，通过从该总体中抽取的样本（观测数据）作出与未知分布有关的某种结论。目的：利用问题的基本假定及包含在观测数据中的信息，作出尽量精确和可靠的结论。一Bayes统计推断概述Bayes推断二参数的Bayes点

5、估计样本分布f(x

6、θ)中未知参数为θ；其中x=(x1,x2,…,xn)T；设θ的先验分布为π(θ)。有Bayes公式，θ的后验分布：这个后验分布h(θ

7、x)是进行θ的Bayes点估计的出发点。二参数的Bayes点估计（1）最大后验估计设θ∈Θ，使后验分布h(θ

8、x)达到最大值的点称为θ的最大后验估计，即：二参数的Bayes点估计（2）后验均值估计（后验期望估计）后验分布h(θ

9、x)的均值称为θ的后验均值估计（或后验期望估计），记为，即：二参数的Bayes点估计（3）后验中位数估计若是后验分布h(θ

10、x)的中位数，则称为θ的后验中位数估计。即若则后验分布中位

11、数估计二参数的Bayes点估计以上三种估计统称θ的Bayes估计，记为或简记为。它们皆是样本观察值x=(x1,x2,…,xn)T的函数，即在一般场合下，这三种估计是不同的，当后验分布h(θ

12、x)对称时，这三种估计是相等的。三Bayes区间估计经典区间估计参数θ是未知常数（非随机变量），其置信度为1-α的区间估计[θL,θU]满足理解为进行了大量重复试验，随机区间[θL,θU]包含常数θ的概率为1-α（θL,Θu样本x的函数，是随机变量）。三Bayes区间估计经典统计学中，对给定的样本容量n，若进行多次反复的抽样，得到了众多个不同的区间，其中每个区间，要么包含

13、θ的真值，要么不包含θ的真值。三Bayes区间估计Bayes区间估计参数θ是随机变量，其后验分布h(θ

14、x)（x是样本观测值），θ的可信度为1-α的区间估计满足即在得到样本观测值x的条件下，随机变量θ落入区间[θL,θU]的概率是1-α（θL,θU）样本观测值x的函数，是确定的量）。三Bayes区间估计经典统计学认为，参数可以有一个取值范围，但本身不具有随机性，因此未知参数不是一个随机变量，仅是一个未知数而已。这是经典统计方法与Bayes统计方法的根本区别之一。三Bayes区间估计Beyas等尾可信区间θL=后验分布h(θ

15、x)的α/2分位数；θU=1-α/

16、2分位数。等尾可信区间常被采用，但不是最优的，最优可