基于降维的极限学习机算法研究

《基于降维的极限学习机算法研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、分类号：学校代码：10165密级：学号：201511000952硕士学位论文基于降维的极限学习机算法研究ResearchonExtremeLearningMachineAlgorithmBasedonDimensionalityReduction作者姓名：张海英学科、专业：教育技术学研究方向：模式识别导师姓名：闫德勤教授2018年06月辽宁师范大学硕士学位论文摘要近年来，随着计算机、多媒体信息等技术的发展，机器学习领域也得到迅速的发展。极限学习机(ELM)作为机器学习的研究热点之一，以其简洁的理论与易于实施的特点吸引众多研究人员的关注。ELM具

2、有高效和良好的泛化能力，在分类和回归问题中得到了广泛应用。然而在处理具体问题时仍然存在许多不足，例如，面对数据维数过高、带有噪音以及离群点等问题，ELM的分类准确率会有所降低；在有监督学习中，由于标记数据样本有限，导致ELM出现学习不充分的问题。本文针对上述两个问题对ELM进行了研究，主要研究成果如下：(1)为了解决人脸图像数据包含冗余属性及噪声对ELM算法的影响，提出一种基于流形学习的ELM。在局部保持投影算法(localitypreservingprojections，LPP)中引入数据的判别信息，得到一种局部保持判别投影算法(locali

3、typreservingdiscriminantprojections，LPDP)。LPDP将数据的类内判别信息和类间判别信息引入到LPP模型中，对LPP模型进行优化。LPDP在继承LPP优点的同时，考虑到数据的判别信息，获得更好的降维效果，从而提高ELM的泛化能力。(2)针对现有ELM及其改进算法不能较好的利用数据蕴含的判别信息这一问题，提出一种基于判别信息的正则极限学习机(discriminativeinformationregularizedextremelearningmachine，IELM)。IELM引入同类离散度和异类离散度的概念

4、，体现在输入空间数据的判别信息上。通过最大化异类离散度和最小化同类离散度，优化ELM的输出权值，从而在一定程度上提高ELM的分类性能。实验结果表明，这两种优化算法显著提高了极限学习机的分类效果，与其它算法相比，具有更好的分类准确率和泛化能力。关键词：极限学习机；降维；分类；局部保持投影；判别信息-I-基于降维的极限学习机算法研究ResearchonExtremeLearningMachineAlgorithmBasedonDimensionalityReductionAbstractWiththedevelopmentofcomputerand

5、multimediainformationtechnology,thefieldofmachinelearningtechniqueshasalsodevelopedrapidlyinrecentyears.Asoneoftheresearchhotspotsofmachinelearning,theextremelearningmachine(ELM)attractstheattentionofmanyresearcherswithitssimpletheoryandeasyimplementation.ELMhashighefficienc

6、yandgoodgeneralizationability,andhasbeenwidelyusedinclassificationandregressionissues.However,therearestillmanyshortcomingsindealingwithspecificissues.Forexample,inthefaceofhighdimensionality,noise,andoutlierdata,theclassificationaccuracyofELMisreduced.Inthecaseofalimitednum

7、berofdatasamples,forsupervisedlearning,ELMwillhavetheproblemofinsufficientlearning.Inthispaper,wegivearesearchonELMaimingtodealwiththeconcernedproblems.Themainresearchresultsareasfollows:(1)InordertosolvetheinfluencenoiseandredundantattributesoffaceimageontheELMalgorithm,wep

8、roposesanELMbasedonmanifoldlearning.Weintroducethediscriminativeinformation