特征选择算法及其在基于内容图像检索中的应用研究_李云

《特征选择算法及其在基于内容图像检索中的应用研究_李云》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、重庆大学博士学位论文特征选择算法及其在基于内容图像检索中的应用研究博士研究生：李云指导教师：吴中福教授副导师：刘嘉敏副教授学科专业：计算机软件与理论重庆大学计算机学院二OO五年三月中文摘要Ph.D.DissertationofChongqingUniversityResearchonFeatureSelectionAlgorithmandItsApplicationinContent-BasedImageRetrievalPh.D.Candidate:YunLiSupervisor:Prof.ZhongfuWuDeputySupervisor:

2、AssociateProf.JiaminLiuMajor:ComputerSoftware&TheoryCollegeofComputerScienceChongqingUniverstiyMarch2005IV中文摘要摘要随着计算机应用范围和领域的日益扩大，特别是Internet的飞速发展，在各种应用系统和Internet上积累了大量、甚至海量数据，产生了“数据爆炸、知识贫乏”的现象；数据挖掘是解决这种问题的最为有效的手段，但是要有效地利用数据挖掘，对数据进行预处理是必不可少的，而特征选择是数据预处理中一种重要而且经常采用的方法。此外，在机器

3、学习和模式识别中，特征选择也是一个必要的步骤。特征选择的研究开始于上个世纪的六十年代，已经有几十年的历史，取得了许多成果，但随着新的应用领域和新对象不断涌现，使得特征选择还有许多问题亟待解决。本论文对此作了详细介绍，并对目前特征选择的研究热点和问题进行了深入的研究，取得了一定的成果。作者把特征选择的研究分为三个阶段，首先介绍了常规的特征选择算法模型，并分别从研究人员和用户角度，对特征选择算法进行分类，这将大大方便用户选择合适的特征选择算法，有助于特征选择算法的应用，也为特征选择算法的进一步研究打下坚实的基础。其次，提出或者介绍了一些具体的特征选

4、择算法，也是当前的一些研究重点和热点，包括在模糊特征空间进行特征选择的算法、监督的高维特征选择算法、非监督的高维特征选择算法和小样本训练的特征选择算法。其中，对于模糊特征空间的特征选择，主要是利用扩张矩阵作为搜索策略，类间的模糊相似性作为评价准则，理论和实验都表明该算法具有较好的性能和低的时间开销。该算法属于一种专业算法，充分考虑特征的模糊性，可以应用到模糊分类器的设计中。而在监督的高维特征选择中，由于现实的高维数据集中往往存在大量的冗余特征和不相关特征，因此作者提出了一种基于特征关联性的分层过滤器方法，有效地消除冗余特征和不相关特征，实验表明

5、该算法能有效地降低特征维数。同时将该方法与部分基于关联性的方法进行了比较分析，并全面系统地回顾了所有基于特征关联性的高维特征选择算法以及关联性的定义和计算公式，大大有助于以后的研究。在非监督特征选择的研究中，作者提出一种新的基于特征排序和分层的过滤器算法，排序规则采用的是指数熵，而评价准则采用了模糊特征评价指标，该算法克服了其它一些非监督特征选择算法的缺点，可以同时剔除冗余特征和不相关特征，能有效处理高维数据和噪声数据，且计算的开销较小。前面提出的三种算法都是建立在训练样本较充分的基础之上，但当可获取的训练样本相对于特征维数偏少时，如何有效地进

6、行特征选择？作者详细介绍了一类基于支持向量机的特征选择I中文摘要算法，该类算法是建立在统计学习理论的基础上，寻求结构风险最小化的特征子集，主要是利用对支持向量机的性能影响进行特征选择，选择的效果很好。目前的研究还只是对样本类别已知的情况下进行特征选择，随着支持向量机的理论研究不断深入，支持向量机用于非监督特征选择是完全可能的。另外，还对特征选择算法的应用进行了初步探讨，并以特征选择算法在基于内容图像检索中的应用作为例子，详细分析了基于内容的图像检索中特征选择的必要性和采用的方法，对其特有的方法——相关反馈技术进行了深入的分析研究，给出其理论模型

7、。同时将前面提出的监督高维特征选择算法在图像数据库中做了粗略的实验，获得不错的效果。此外特征选择还广泛应用于文本分类、入侵检测、基因分析等，随着机器学习、数据挖掘和模式识别领域的不断扩大，特征选择算法的应用领域也将扩展。本文最后对研究工作进行了总结，提出了今后进一步的研究方向。关键词：特征选择算法，模糊集，支持向量机，基于内容的图像检索II英文摘要ABSTRACTWiththescopeandfieldsofcomputerapplicationexpandedincreasingly,andinparticulartherapiddevelo

8、pmentoftheInternet,largeevenhugeamountofdatahasbeenproducedinvariousapplica