K最近邻算法理论与应用综述.doc

《K最近邻算法理论与应用综述.doc》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、K最近邻算法理论与应用综述毋雪雁王水花张煜东南京师范大学计算机科学与技术学院摘要：k最近邻算法（kNN）是一个十分简单的分类算法，该算法包括两个步骤：（1）在给定的搜索训练集上按一定距离度量，寻找一个k的值。（2）在这个kNN算法当中，根据大多数分为一致的类來进行分类。kNN算法具有的非参数性质使其非常易于实现，并且它的分类误差受到贝叶斯误差的两倍的限制，因此，kNN算法仍然是模式分类的最受欢迎的选择。通过总结多篇使用了基于kNN算法的文献,详细阐述了每篇文献所使用的改进方法，并对其实验结果进行了分析;通过分析kNN算法在人脸识别、文字识别、医学图像处理等应用中取得的良好分类效果，

2、对kNN算法的发展前景无比期待。关键词：k最近邻算法（k0）;人脸识别;文字识别;医学图像处理;作者简介：毋雪雁（1993—）,女，硕士生，研究方向:模式识别；作者简介：王水花（1985—）,女，讲师，研究方向:模式识别；作者简介：张煜东（1985—）,男，教授，博导，研究方向：人工智能与医学图像处理，E-mai1:yudongzhang@ieee.OTg。收稿日期：2017-07-13基金：国家自然科学基金（No.61602250,No.61503188）Surveyontheoryandapplicationofk-Nearest—NeighborsalgorithmWUXue

3、yanWANGShuihuaZHANGYudongSchoolofComputerScienceandTechnology,NanjingNormalUniversity;Abstract：Knearestneighbor(kNN)algorithmisasimpleclassificationalgorithm,thealgorithmconsistsoftwosteps:(1)Findoutasetofkonagivensearchtrainingsetmeasureatadistance.(2)Theclassificationisaccordingtothemostcons

4、istentclassesinthiskNNalgorithm.Thenon-parametricpropertyofkNNalgorithmmakesitveryeasytoimplement，anditsclassificationerrorisrestrictedbytwotimesoftheBayeserror.Therefore,thekNNalgorithmisstillthemostpopularchoiceforpatternclassification.ThispapersummarizesmanyliteraturesbyusingkNNalgorithm,ex

5、poundingtheimprovementmethodsusedineachdocument,andanalyzingtheexperimentalresults.ByanalyzingthekNNalgorithminfacerecognition,textrecognition,medicalimage-processingandotherapplicationsachievedgoodclassificationresults,thispaperisverypromisingforthedevelopmentofkNNalgorithm.Keyword：k-earest-

6、eighbors(kNN)algorithm;facerecognition;textrecognition;medicalimagepTocessing;Received：2017-07-131引言在模式识别这个领域中，k最近邻算法(kNN)是一种主要用于分类以及回归的非参数统计方法山。kNN算法是所有机器学习算法中最为简单的算法之一，这种基于实例的算法本身非常的简单有效，是一种惰性学习的算法。目前，涌现出了越来越多的改进kNN算法的方法，许多的研究人员对其进行了不同方面的改进，使其在性能上有一定的提升，在作用范围上更加宽广。例如，加权最近邻算法也是k最近邻算法的一个变体，它根

7、据它们的距离來分配同一个权重的邻居，权重随着距离变化而变化，距离越近，权重越大，反之，距离越远，权重越小；引用最近邻搜索算法固也是女最近邻算法的一个变体，该算法考虑了局部距离特征和局部稀疏特征，该算法具有较强的竞争性、分类精度与适应性;终于人脸识别问题研究，一种新的快速近邻搜索算法⑷在最近被提出，它具有较高的维度，搜索更加快速准确，廿标数据库的维护率很低，是一个精度更高的方法。对于上述提到的对于k最近邻算法的改进方式，在下文中会给出其更为具体的解释说明，并且对这些改进