《贝叶斯估计》PPT课件

《《贝叶斯估计》PPT课件》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、贝叶斯估计BayesEstimation数理统计课题组例子：某人打靶，打了5枪，枪枪中靶，问：此人枪法如何？某人打靶，打了500枪，枪枪中靶，问：此人枪法如何？经典方法：极大似然估计：100%但是:……几个学派（1）经典学派：频率学派，抽样学派带头人：Pearson、Fisher、Neyman观点：概率就是频率参数就是参数联合分布密度：p(x1,x2,..xn;)几个学派（2）Bayesian学派：带头人：Bayes,Laplace,Jeffreys,Robbins观点：频率不只是概率存在主观概率，和实体概率可转化参数作为随机变

2、量条件分布：p(x1,x2,..xn

3、)几个学派（3）信念学派：带头人：Fisher观点：概率是频率主观不是概率，而是信念度参数不是随机变量，仅是普通变量似然函数：L(

4、x1,x2,..xn)批评1：置信区间置信区间：解释：区间[u1,u2]覆盖u的概率不是u位于区间的概率缺点：u不是变量批评2：评价方法假设检验、参数估计等都是多次重复的结果；想知道：一次实验发生的可能性Bayesian方法Bayesian公式先验分布密度：q(y)条件分布密度：p(x

5、y)似然度后验分布密度：h(y

6、x)后验综合先验与样本信息思路：1、未知

7、参数视为随机变量：数据的不可设计性与经验的不能穷尽性？2、取样本x1…xn，求联合分布密度p(x1,x2,..xn;)，是参数3、联合分布密度－>条件分布密度p(x1,x2,..xn

8、)，是随机变量4、确定的先验分布()5、利用Bayesian公式求后验分布密度6、使用后验分布做推断（参数估计、假设检验）例1：两点分布b(1,p)的1.联合分布：2.先验分布：3.后验分布：4.后验期望估计：2、先验分布的共轭分布选取法后验分布和先验分布是同一个类型优点：易于解释、继续试验已知：，选使得与先验分布同类型若p(x

9、)服

10、从正态分布，选正态分布若p(x

11、)服从两点分布，选Beta分布若p(x

12、)服从指数分布，选逆Gamma分布Bayes统计推断问题参数估计：点估计区间估计估计的损失损失函数：风险：平均损失一致最小风险：对于任意产生的样本x1…xn,都是最小分析估计。Bayesian平均风险：后验风险：Bayesian风险与后验风险后验分析最小＝>Bayesian风险最小两种常用损失函数：平方损失：最小Bayesian风险估计：后验期望点损失：最大后验密度估计例子：　正态分布X1…Xn服从正态分布N(，2)，2已知，的先验分布是N(，

13、2)求的Bayes估计.求得后验分布还是正态分布求得例：某圆形产品内径X（单位：mm）服从正态分布N(，0.4),有先验分布N(2，0.22),现在测量X=1.8,n=5MLE=1.8bayes=(1.8*5/0.4+2*0.2^(-2))/(5/0.4+0.2^(-2))=1.93置信区间估计：方法:是随机变量，可求其后验分布步骤:1.积分求后验分布2.根据后验分布求置信区间例子：　两点分布X1…Xn服从两点分布，概率，则服从二项分布求的估计设先验分布是beta(a,b)求得后验分布：求得E(

14、r)=(a+r)

15、/(a+b+n)2.Neyman-Pearson范式不用贝叶斯方法规避了先验概率的决定对两个假设区别对待，一个成为原假设H0(nullhypotheses)，另一个成为备择假设H1(alternativehypotheses)由此导致在有些场合下选择原假设的困难Neyman-Pearson引理(lemma)方差已知的正态置信区间和假设检验的对偶关系：引理置信区间和假设检验的对偶关系：引理B广义似然比检验：方差未知正态总体的均值检验多项分布的广义似然比检验Pearson卡方统计量和似然比Handy-Weinberg均衡在参数估计的例

16、子中引入了Handy-Weinberg均衡BacterialClump泊松散布度检验(dispersiontest)泊松散布度检验(dispersiontest)泊松散布度检验：数方法：Mann-Whitney检验00.10.20.30.40.50.60.70.80.9100.511.522.533.5a=2,b=2a=0.5,b=0.5a=2,b=5a=5,b=2LdPgSjVnYq$t*w-A1D4G8JbNeQhTlWoZr%u(y+B2E6H9KcOfRjUmXp!s&v)z0C4F7IaMdPgSkVnZq$t*x-A1D

17、5G8KbNeQiTlWo#r%v(y+B3E6H9LcOfRjUmYp!s&w)z0C4F7JaMdPhSkVnZq$u*x-A2D5G8KbNfQiTlXo#r%v(y0B3E6I9LcOgRjVmYp!t&w)z1C4G7JaM