模式识别总结.doc

《模式识别总结.doc》由会员上传分享，免费在线阅读，更多相关内容在应用文档-天天文库。

1、模式识别重点总结目录第一章导论1.1模式，模式识别和模式的概念1.2模式识别的大体过程1.3模式识别的框架结构1.4模式识别系统的构成1.5特征提取和特征选择(结合后边章节)第二章贝叶斯决策(计算题)2.1最小错误率贝叶斯决策2.2最小风险贝叶斯决策第三章参监督学习与无监督学习3.1监督学习与无监督学习(根据例子判断)第四章线性判别函数4.1线性判别4.2多类问题(简答题)4.3解向量与解区4.4线性概率第五章分类器的设计5.1正规化，训练样本，修正式5.2感知器法5.3Fisher分类准则第六章最近邻和Ｋ近邻（思想）6.1最近邻法6.2K-近邻法第七章聚类（

2、聚类结果影响的因素）7.1聚类分析及其概念7.2相似性度量7.3聚类准则函数7.4聚类算法第一章导论1.1模式，模式识别和模式的概念模式：通常，我们把通过对具体的个别事物进行观测所得到的具有时间和空间分布的信息成为模式。模式类：我们把模式所属的类别或同一类中模式的总体成为模式类（或简称类）。模式识别：是使机器具有这样一种能力：确定一个样本类型的属性，也就是把某一个样本归属于多个类型中的某一个类型。1.2模式识别的大体过程1.3模式识别的框架结构A)有已知样本：监督模式识别信息的获取：是通过传感器，将光或声音等信息转化为电信息。信息可以是二维的图象如文字，图象等

3、；可以是一维的波形如声波，心电图，脑电图；也可以是物理量与逻辑值，如疾病诊断中病人的体温，对症状的描述和各种化验数据等。预处理：模式空间里，针对具体的研究对象，往往需要进行适当的预处理。预处理的功能包括：清除或减少模式采集中的噪声及其它干扰，提高信噪比。消除或减少数据图像的模糊及几何失真，提高清晰度。转变模式的结构，以便后续处理（如非线性模式转为线性模式）。预处理的方法：包括AD,二值化，图象的平滑，变换，增强，恢复，滤波等,主要指图象处理。特征的选择与提取分类器设计：分类器设计的主要功能是通过训练确定判决规则，使按此类判决规则分类时，错误率最低。把这些判决

4、规则建成标准库。分类决策：在特征空间中把被识别对象进行分类，归为某一类别。B）无已知样本：非监督模式识别结果解释聚类特征提取与选择预处理信息获取1.4模式识别系统的构成基于统计方法的模式识别系统是由数据获取，预处理，特征提取和选择，分类决策构成1.5特征提取和特征选择特征提取(extraction)：用映射（或变换）的方法把原始特征变换为较少的新特征。特征选择(selection)：从原始特征中挑选出一些最有代表性，分类性能最好的特征特征提取/选择的目的，就是要压缩模式的维数，使之便于处理。特征提取往往以在分类中使用的某种判决规则为准则，所提取的特征使在某种准

5、则下的分类错误最小。为此，必须考虑特征之间的统计关系，选用适当的变换，才能提取最有效的特征。特征提取的分类准则：在该准则下，选择对分类贡献较大的特征，删除贡献甚微的特征。特征选择：从原始特征中挑选出一些最有代表性、分类性能最好的特征进行分类。从D个特征中选取d个,共CdD种组合。－典型的组合优化问题特征选择的方法大体可分两大类：Filter方法：根据独立于分类器的指标J来评价所选择的特征子集S，然后在所有可能的特征子集中搜索出使得J最大的特征子集作为最优特征子集。不考虑所使用的学习算法。Wrapper方法：将特征选择和分类器结合在一起，即特征子集的好坏标准是由

6、分类器决定的，在学习过程中表现优异的的特征子集会被选中。第一章贝叶斯决策(计算题)2.1最小错误率贝叶斯决策2.2最小风险贝叶斯决策**********个人感觉看书上的例子就行了*******第二章参监督学习与无监督学习3.1监督学习与无监督学习(根据例子判断)监督学习：在已知类别样本指导下的学习和训练，参数估计和非参数估计都属于监督学习，分类无监督学习：不知道样本类别，只知道样本的某些信息去估计，如：聚类分析。第三章线性判别函数4.1线性判别判别函数包含两类：一类是线性判别函数：1)线性判别函数2)广义线性判别函数（所谓广义线性判别函数就是把非线性判别函数映

7、射到另外一个空间变成线性判别函数）3)分段线性判别函数另一类是非线性判别函数4.2多类问题(简答题)4.2.1先了解一下俩类4.2.1多类问题对于多类问题，模式有ω1,ω2,…,ωm个类别。可分三种情况：A）第一种情况：每一模式类与其它所有模式类间可用单个判别平面分开。这种情况，M类可有M个判别函数，且具有以下性质：下图所示，每一类别可用单个判别边界与其它类别相分开。如果一模式X属于ω1，则由图可清楚看出:这时g1(x)>0而g2(x)<0，g3(x)<0。ω1类与其它类之间的边界由g1(x)=0确定.例：已知三类ω1,ω2,ω3的判别函数分别为：因此三个判别

8、边界为：对于任一模式X如果它的g1(x