模式识别综述作业.doc

《模式识别综述作业.doc》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、模式识别综述模式识别是人类的一项基本智能，在口常生活屮，人们经常在进行“模式识别”。随着20世纪40年代计算机的出现以及50年代人工智能的兴起，人们也希望能用计算机来代替或扩展人类的部分脑力劳动。模式识别在20世纪60年代初迅速发展并成为一门新学科。1模式识别基本概念与研究任务模式识别（PatternRecognition）是对感知信号（图像、视频、声音等）进行分析，对其屮的物体对象或行为进行判别和解释的过程。模式识别能力普遍存在于人和动物的认知系统，是人和动物获取外部环境知识，并与环境进行交互的重要基础。我们现在所说的模式识别一般是指用机器实现模式识别过程，是人工智能领域的一个重要分

2、支。早期的模式识别研究是与人工智能和机器学习密不可分的，如Rosenblatt的感知机和Nilsson的学习机就与这三个领域密切相关。后来，由于人工智能更关心符号信息和知识的推理，而模式识别更关心感知信息的处理，二者逐渐分离形成了不同的研究领域。介于模式识别和人工智能之间的机器学习在20世纪80年代以前也偏重于符号学习，后来人工神经网络重新受到重视，统计学习逐渐成为主流，与模式识别屮的学习问题渐趋重合，重新拉近了模式识别与人工智能的距离。模式识别与机器学习的方法也被广泛用于感知信号以外的数据分析问题（如文本分析、商业数据分析、基因表达数据分析等），形成了数据挖掘领域。有两种基木的模式识

3、别方法，统计模式识别方法和结构（句法）模式识别方法。统计模式识别是对模式的统计分类方法，即结合统计概率论的贝叶斯决策系统进行模式识别的技术，又称为决策理论识别方法。利用模式与子模式分层结构的树状信息所完成的模式识别工作，就是结构模式识别或句法模式识别。模式识别的主要任务和核心研究内容是模式分类。分类器设计是在训练样本集合上进行优化（如使每一-类样本的表达误差最小或使不同类别样本的分类误差最小）的过程,也就是一个机器学习过程。由于模式识别的对象是存在于感知信号屮的物体和现象，它研究的内容还包括信号、图像、视频的处理、分割、形状和运动分析等，以及面向应用（如文字识别、语音识别、生物认证、医

4、学图像分析、遥感图像分析等）的方法和系统研究。2模式识别的发展历史现代模式识别是在20世纪40年代电子计算机发明以后逐渐发展起來的。作为统计模式识别基础的多元统计分析和鉴别分析也在电子计算机出现Z前提出来了。1957年IBM的C.K.Chow将统计决策方法用于字符识别。然而，“模式识别”这个词被广泛使用并形成一个领域则是在20世纪60年代以后。1966年由IBM组织在波多黎各召开了第一次以“模式识别”为题的学术会议。Nagy的综述和血股1的综述分别介绍了1968年以前和1968-1974的研究进展。70年代几本很有影响的模式识别教材（如Fukunaga,Duda&Hart）的相继出版和

5、1972年第一届国际模式识别大会（ICPR）的召开标志着模式识别领域的形成。同吋，国际模式识别协会（IAPR）在1974年的第二届国际模式识别大会上开始筹建，在1978年的第四届大会上正式成立。统计模式识别的主要方法，包括Bayes决策、概率密度估计（参数方法和非参数方法）、特征提取（变换）和选择、聚类分析等，在20世纪60年代以前就已经成型。由于统计方法不能表示和分析模式的结构，70年代以后结构和句法模式识别方法受到重视。尤其是付京抓（K.S.Fu）提出的句法结构模式识别理论在70-80年代受到广泛的关注。但是，句法模式识别小的基元提取和文法推断（学习）问题直到现在还没有很好地解决,

6、因而没有太多的实际应用。20世纪80年代Back-propagation（BP）算法的重新发现和成功应用推动了人工神经网络研究和应用的热潮。神经网络方法与统计方法相比具有不依赖概率模型、参数自学习、泛化性能良好等优点，至今仍在模式识别屮广泛应用。然而，神经网络的设计和实现依赖于经验，泛化性能不能确保最优。90年代支持向量机（SVM）的提出吸引了模式识别界对统计学习理论和核方法（Kernelmethods）的极大兴趣。与神经网络相比，支持向量机的优点是通过优化一个泛化误差界限自动确定一个最优的分类器结构，从而具有更好的泛化性能。而核函数的引入使很多传统的统计方法从线性空间推广到高维非线性

7、空间，提高了表示和判别能力。结合多个分类器的方法从90年代前期开始在模式识别界盛行，后来受到模式识别界和机器学习界的共同重视。多分类器结合可以克服单个分类器的性能不足，有效提高分类的泛化性能。这个方向的主要研究问题有两个：给定一组分类器的最佳融合和具有互补性的分类器组的设计。其屮一种方法，Boosting,现已得到广泛应用，被认为是性能最好的分类方法。进入21世纪，模式识别研究的趋势可以概括为以下四个特点。一是Bayes学习理论越来越多地用来解