资源描述：
《Fisher判别法距离判别法Bayes判别法逐步判别法.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。
1、2021/9/61§4.1判别分析的基本理论§4.2距离判别§4.3Bayes判别§4.4Fisher判别§4.5逐步判别§4.6判别分析方法步骤及框图§4.7判别分析的上机实现§4.8判别分析应用的几个例子第四章判别分析2021/9/62目录上页下页返回结束第四章判别分析回归模型普及性的基础在于用它去预测和解释度量(metric)变量。但是对于非度量(nonmetric)变量，多元回归不适合解决此类问题。本章介绍的判别分析来解决被解释变量是非度量变量的情形。判别分析在识别一个个体所属类别的情况下有着广泛的应用。202
2、1/9/63目录上页下页返回结束§4.1判别分析的基本理论判别分析的假设条件判别分析最基本的要求是,分组类型在两组以上；在第一阶段工作是每组案例的规模必须至少在一个以上。解释变量必须是可测量的，才能够计算其平均值和方差，使其能合理地应用于统计函数。2021/9/64目录上页下页返回结束§4.1判别分析的基本理论判别分析的假设之一，是每一个判别变量（解释变量）不能是其他判别变量的线性组合。即不存在多重共线性问题。判别分析的假设之二，是各组变量的协方差矩阵相等。判别分析最简单和最常用的形式是采用线性判别函数，它们是判别变量
3、的简单线性组合。在各组协方差矩阵相等的假设条件下，可以使用很简单的公式来计算判别函数和进行显著性检验。判别分析的假设之三，是各判别变量之间具有多元正态分布，即每个变量对于所有其他变量的固定值有正态分布。在这种条件下可以精确计算显著性检验值和分组归属的概率。当违背该假设时，计算的概率将非常不准确。Fisher判别法距离判别法Bayes判别法逐步判别法……训练样本训练集检测样本检测集判别准则判别效率学习检测评价2021/9/66§4.2距离判别目录上页下页返回结束4.2.1两总体情况2021/9/67§4.2距离判别目
4、录上页下页返回结束2021/9/68§4.2距离判别目录上页下页返回结束2021/9/69§4.2距离判别目录上页下页返回结束2021/9/610§4.2距离判别目录上页下页返回结束2021/9/611§4.2距离判别目录上页下页返回结束4.2.2多总体情况1.协差阵相同。2021/9/612§4.2距离判别目录上页下页返回结束2.协差阵不相同。2021/9/613§4.2距离判别目录上页下页返回结束2021/9/614§4.2距离判别目录上页下页返回结束办公室新来了一个雇员小王，小王是好人还是坏人大家都在猜测。按人们
5、主观意识，一个人是好人或坏人的概率均为0.5。坏人总是要做坏事，好人总是做好事，偶尔也会做一件坏事，一般好人做好事的概率为0.9，坏人做好事的概率为0.2，一天，小王做了一件好事，小王是好人的概率有多大，你现在把小王判为何种人。。一、标准的Bayes判别§4.3贝叶斯判别法二、考虑错判损失的Bayes判别分析设有总体，具有概率密度函数。并且根据以往的统计分析，知道出现的概率为。又D1，D2，┅，Dk是R(p)的一个分划，判别法则为：当样品X落入Di时，则判关键的问题是寻找D1，D2，┅，Dk分划，这个分划应该使平均错判
6、率最小。【定义】（平均错判损失函数）用P(j/i)表示将来自总体Gi的样品错判到总体Gj的条件概率。C(j/i)表示相应错判所造成的损失。则平均错判损失为：使ECM最小的分划，是Bayes判别分析的解。§4.4Fisher线性判别法Fisher判别的基本思想将m组n维的数据投影到某一个方向，使得投影后的组与组之间尽可能地分开。平面上两类数据训练样本的散点图（两组数据样本在平面上存在一个合理的分界线L）x1x2L:c1x1+c2x2－c=0令：F(x1,x2)=c1x1+c2x2F(x1,x2):判别函数c：判别值G1G
7、2Fisher线性判别法Discriminantanalysis已知：数据属性有n个，每个数据点为n维向量X：已知总体数据分为两类：G1和G2，总体G1有p个样本点，总体G2有q个样本点。属性（分量）12…n总体G1(i=1,…,p)1X1(1)x11(1)x12(1)…x1n(1)……………iXi(1)xi1(1)xi2(1)…xin(1)……………pXp(1)xp1(1)xp2(1)…xpn(1)总体G2(i=1,…,q)1X1(2)x11(2)x12(2)…x1n(2)……………iXi(2)xi1(2)xi2(2
8、)…xin(2)……………qXq(2)xq1(2)xq2(2)…xqn(2)目标：求解在n维空间中总体G1和总体G2的最优分界平面。定义线性判别函数为：其中Ci(i=1,2,…,n)为常数（待定系数）。若判别值为C，对于任何未知数据点X(x1,x2,…,xn)，代入判别函数，依据F(x1,x2,…,xn)与C值的比较，可以判别点X
