(20)贝叶斯网络和HMM

《(20)贝叶斯网络和HMM》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、概率图模型初步：从贝叶斯定理到HMM模型Julyedu.com@妖僧老冯几个听课建议在线课程，听什么？听BigIdeas，细节课后复习，只听课就能完全掌握不可能。误区：数学公式不是bigideas，而是bigideas的描述方法之一，好的课程会在数学公式之前先介绍motivation（动机）。学习过程听课:宏观掌握思路，清楚问题是什么，为什么要这么做。复习：掌握技术性细节。实现：通过编程实践，测试自己对算法的理解。布道：把知识讲给别人听。LectureOutline概率复习BayesianNe

2、ts（剧透：会出现动态规划）Applications:NaïveBaysMarkovChain（剧透：会出现矩阵的特征值）HiddenMarkovModelRestrictedBoltzmannmachine（不讲）概率复习3Axioms0≤?(?)≤1?????=1;??????=0??+??−??????=?(????)概率复习?(?????)???≝?(?)概率复习??,?=???????,?,?=概率复习独立???=?????⊥?LectureOutline概率复习Baye

3、sianNets（剧透：会出现动态规划）Applications:NaïveBaysMarkovChain（剧透：会出现矩阵的特征值）HiddenMarkovModel概率图模型：动机维度灾难问题dbinaryvariables,2d-1terms!终极目标：如何对一个联合概率分布有效表示。因为知道了联合分布，就知道了所有信息。维度灾难举例：3个变量的联合分布DirectedGraphicalModels有向无环图关键结论：p?1,?2,..??=ς???

4、???????(??)xisin

5、dependentwithitsnon-decendentsgivenitsparents.给定某变量的父节点，该变量和非后代变量条件独立。p?1,?2,..??=ς???

6、???????(??)AnotherExample给一个概率图，要立刻写出联合分布原始联合分布vs分解(factorized)分布利用概率图进行推断（inference）Giventhegraph,whatisp(s=1)?BruteForceapproachBruteForceapproachBruteForceapproachForR

7、=0:1forC=0:1forw=0:1prob=prob+SmartApproach:变量消除／动态规划SmartApproach:变量消除／动态规划逼近算法：Gibbs采样回去复习lecture13.－－－你现在就明白gibbs是干啥的了。概率图应用一：朴素贝叶斯概率图应用一：朴素贝叶斯P(y=1

8、x1,x2,x3,..xn)p(x,x,x,..xn

9、y=1)p(y=1)=123(alwaystrue)p(x,x,..xn)12（Naïvebayes）＝概率图应用二：Markovmodel一个例子P(x2

10、)=?矩阵的特征值矩阵的幂Claim：1是马科夫矩阵的一个特征值应用3：HMM应用3：HMMThegoal感谢大家么么哒！记得报名其他班啊。机器学习算法班48/31julyedu.com