模式识别学习心得.doc

《模式识别学习心得.doc》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、模式识别学习心得模式识别学习心得1.什么是模式呢?广义地说，存在于时间和空间中可观察的事物，如果我们可以区别它们是否相同或是否相似，都可以称之为模式。模式识别就是根据观察到的事物的模式对事物进行分类的过程。在图像识别技术中，模式识别占有核心的地位。所以的图像处理技术都是为了更好地进行模式识别做准备。模式识别是图像识别的实质性阶段。2。有两种基本的模式识别方法，即统计模式识别方法和结构(句法)模式识别方法，与此相应的模式识别系统都由两个过程所组成，即设计和实现。设计是指用一定数量的样本(叫做训练集

2、或学习集)进行分类器的设计。实现是指用所设计的分类器对待识别的样本进行分类决策。模式识别系统(如图6-2)中，信息获取和预处理部分大致可以与图像的获取与处理对应。一般情况下，模式识别技术主要包含"特征提取和选择"和"分类器的设计"。近几十年来，模式识别技术发展很快。然而，发展较成熟、应用较广泛的主要是统计模式识别技术。3.统计模式识别从一个广义的角度看，模式识别可以看成是一种机器学习的过程。按照机器学习过程的性质，可以将模式识别方法分成有监督的模式识别方法和非监督的模式识别方法，后者又称为聚类分

3、析方法。这两种方法在图像识别中都有广泛的应用。(1)有监督的模式识别方法从识别技术的基本思路和方法看，有监督的模式识别可以分成两类：基于模型的方法和直接分类的方法。基于模型的方法的基础是贝叶斯(Bayes)决策理论方法，它对模式分析和分类器的设计有着实际的指导意义，是统计模式识别中的一个基本方法，用这个方法进行分类时要求：①各类别总体的概率分布(即所谓的先验概率和类条件概率)是已知的；②要决策分类的类别数是一定的。假设要研究的分类问题有c个类别，各类别状态用ωi来表示，i=1，2，…，c；对应于

4、各个类别ωi出现的先验概率P(ωi)以及类条件概率密度函数p(x

5、ωi)是已知的。如果在特征空间已观察到某一向量x，那么应该把x分到那一类中去才最合理呢?最基本的想法是根据观察到的信息，选择适当的分类策略，使分类可能出现的错误最少，即：如果对于任意j≠i，都有P(ωi

6、x)P(ωj

7、x)，则将x归入类ωi这就是"最小错误率的贝叶斯决策"。一个例子是国际体育联合会对运动员兴奋剂检查的策略。由于对服用兴奋剂的运动员发生漏检，最多只是丧失某一次比赛的结果的公平；而错怪没有服用兴奋剂的运动员有可能毁掉这

8、个运动员的整个运动生涯。所以，当出现疑问时，国际体育联合会的原则是：宁可使一千人漏网，也不能错怪一个好人。类似的思想体现在模式识别中，便是"基于最小风险的贝叶斯决策"。设λ(αi

9、ωj)是将ωj类中的样本归入αi类所带来的损失，则当观察到x时，将x归入αi类的风险可以定义为：。最小风险的贝叶斯决策就是把x归入使最小的类中，即：如果对于任意j≠i，都有R(αi

10、x)R(αj

11、x)，则将x归入类ωi基于模型的识别技术中，关键就是要估计概率密度函数。其方法可分为参数估计和非参数估计两类。在许多实际问题

12、中，由于样本特征空间的类条件概率密度的形式常常很难确定，利用Parzen窗等非参数方法估计分布又往往需要大量样本，而且随着特征空间维数的增加所需样本数急剧增加。由此，在实际问题中，我们往往不去恢复类条件概率密度，而是利用样本集直接设计分类器。具体说就是首先给定某个判别函数类，然后利用样本集确定出判别函数中的未知参数。这类方法就是有监督的模式识别方法中的另一类重要的方法：直接分类方法。这类方法有3个要素：分类函数的类型(线性还是非线性)、分类目标函数、优化算法。下面分别介绍线性判别函数法和非线性判

13、别函数法。线性判别函数法利用一类较为简单的判别函数。它首先假定判别函数g(x)是x的线性函数，即g(x)=wTx十w0，对于c类问题，可以定义c个判别函数。这里关键的问题是如何利用样本集求得w和w0。不同的实际情况，往往提出不同的设计要求。这些设计要求，在数学上一般表现为特定的函数形式，我们称之为准则函数。"尽可能好"的结果相应于准则函数取最优值。这实际上是将分类器设计问题转化为求准则函数极值的问题了，这样就可以利用最优化技术解决模式识别问题。线性判别函数法的代表有：Fisher线性判别法、感知

14、准则函数法。③Fisher线性判别法应用统计方法解决模式识别问题时，一再碰到的问题之一是维数问题。在低维空间里解析上或计算上行得通的方法，在高维空间里往往行不通。因此，降低维数有时就成为处理实际问题的关键。Fisher准则函数的基本思想是，构造评价函数，使得当评价函数最优时，被分类的类别之间的距离尽可能大，同时各类内部样本间距离尽可能小。下式就是Fisher准则函数：式中分子代表类间距离；分子代表类内离散度。分类器的设计过程就是通过已知样本求得w和w0使JF(w)取得最大值。④感知准则函数法设有