模式识别-线性判别函数.ppt

《模式识别-线性判别函数.ppt》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、模式识别PatternClassification第六章:线性判别函数线性判别函数原理利用判别函数将特征空间划分为若干个决策区域，然后根据待识别样本位于的决策区域来进行判类是模式识别的重要方法之一3模式识别，第六章线性判别函数判别函数的概念判别函数即是直接用来进行模式分类的准则函数例如在Bayes决策方法中，对c类模式有：这里的即可视为模式分类的准则函数判别函数4模式识别，第六章线性判别函数在特征空间中，判别函数还具有特殊的几何意义和性质5模式识别，第六章线性判别函数对图（a）所示的两类模式，可以用一条直线（界面）将其分开，设直线方程为：

2、则可令判别函数则对类模式有对类模式有6模式识别，第六章线性判别函数可用判别函数进行模式分类，即当待识样本X到来时若，则判X属于类若，则判X属于类7模式识别，第六章线性判别函数对图（b）所示的两类模式，用直线已不能将两类模式分开，分界线为二次曲线，判别函数为此时分界面仍具有如下性质：若，则判X属于类若，则判X属于类8模式识别，第六章线性判别函数判界面由所决定的界面称为判别面，对判别面上（决策面）任一点均有判别面正面、反面的区域称为判别面的正面，的区域称为判别界的反面9模式识别，第六章线性判别函数问题判别函数的形式（线性、非线性）？根据先验知

3、识决定判别函数中的系数？由已知类别的学习样本确定多类问题？化解为多个二类问题10模式识别，第六章线性判别函数及其几何性质定义d维特征空间中，若判别函数具有如下形式：其中：权向量阀值11模式识别，第六章线性判别函数及其几何性质则称满足上述定义的函数为线性判别函数由线性判别函数决定的判别面（决策面）方程为：12模式识别，第六章线性判别函数及其几何性质若令则线性判别函数可写为，此时决策面为过原点的超平面13模式识别，第六章线性判别函数及其几何性质线性可分d维空间中的模式类如果能用线性判别函数将其分开，则称模式类为线性可分的线性可分线性不可分14

4、模式识别，第六章线性判别函数及其几何性质线性判别函数的几何性质15模式识别，第六章线性判别函数及其几何性质下面以二维二类情况为例，分析线性判别函数的几何性质设、为判别面上的任意两点，则有即：g(X)=0WX1X216模式识别，第六章线性判别函数及其几何性质性质一：权向量w与判别面上任一向量正交，即w决定了判别界的方向17模式识别，第六章线性判别函数及其几何性质设x为特征空间中的任一向量，则有：其中：18模式识别，第六章线性判别函数及其几何性质将其代入中有：由于为判别界上的点,故19模式识别，第六章线性判别函数及其几何性质因此有：性质二：是

5、以为单位的X到判决面的距离。若Ｘ在判别面的正面，则g(x)>0,若Ｘ在判别面的反面，则g(x)<0，判别界上g(x)=0。20模式识别，第六章线性判别函数及其几何性质对于原点x=0，则性质三：线性判别函数中的阀值W0表征了原点到判别界的距离。若W0>0，则原点位于判别界的正面；反之原点位于判别界反面。21模式识别，第六章多类情况下的线性判别函数问题：多类情况下，如何用线性判别函数进行分类？解决方案：化为多个二类问题来解决！分三种情况来讨论22模式识别，第六章多类情况下的线性判别函数情况一每个模式类均可用一个单独的线性判别界与其余模式类分开

6、23模式识别，第六章多类情况下的线性判别函数共需c个判别函数，且具有如下性质：24模式识别，第六章多类情况下的线性判别函数当待识样本到来时，若，且　　对所有的j，，则判该方法实质上是在特征空间中划分出c个区域，并根据待识样本落入的区域来决定属于哪一类模式。但该方法存在失效区或不定区，如图中阴影部分，即存在多于一个的判别函数大于０，或所有的判别函数都小于０。25模式识别，第六章多类情况下的线性判别函数情况二线性判别界只能将模式类两两分开26模式识别，第六章多类情况下的线性判别函数则需个判别函数具有如下性质：显然，应有：27模式识别，第六章多

7、类情况下的线性判别函数识别过程为：当待识样本Ｘ到来时，若对所有的j均有则判该方法仍然存在不定区，对不定区待识样本，采用拒识策略28模式识别，第六章多类情况下的线性判别函数情况三不考虑二类问题的线性判别函数，采用Ｃ个线性判别函数将Ｃ个模式分开。判别函数为：识别准则为：对所有的，若则判29模式识别，第六章多类情况下的线性判别函数该方法实际上是将特征空间划分为R1,……，Rc共C个判别区域，当模式在Ri中时,具有最大的函数值如果Ri与Rj相邻，则决策面是方程的一部分该方法不存在不定区30模式识别，第六章多类情况下的线性判别函数R1R2R3R4g

8、1(X)g4(X)g3(X)g2(X)31模式识别，第六章小结由上述分析可得，应用线性判别函数的方法实际上是如何应用学习样本来确定线性判别函数参数的方法由于多类问题可化为多个二类问题来处理，故