基于集成学习的极限学习机的算法研究

《基于集成学习的极限学习机的算法研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、谨以此论文献给我的导师以及多年来关心爱护我的亲人和朋友们！——韩波万方数据万方数据基于集成学习的极限学习机的算法研究学位论文答辩日期：指导教师签字：答辩委员会成员签字：万方数据万方数据独创声明本人声明所呈交的学位论文是本人在导师指导下进行的研究工作及取得的研究成果。据我所知，除了文中特别加以标注和致谢的地方外，论文中不包含其他人已经发表或撰写过的研究成果，也不包含未获得（注：如没有其他需要特别声明的，本栏可空）或其他教育机构的学位或证书使用过的材料。与我一同工作的同志对本研究所做的任何贡献均已在论文中作了明确的说明并表示谢

2、意。学位论文作者签名：签字日期：年月日---------------------------------------------------------------------学位论文版权使用授权书本学位论文作者完全了解学校有关保留、使用学位论文的规定，并同意以下事项：1、学校有权保留并向国家有关部门或机构送交论文的复印件和磁盘，允许论文被查阅和借阅。2、学校可以将学位论文的全部或部分内容编入有关数据库进行检索，可以采用影印、缩印或扫描等复制手段保存、汇编学位论文。同时授权清华大学“中国学术期刊(光盘版)电子杂志社”用于出

3、版和编入CNKI《中国知识资源总库》，授权中国科学技术信息研究所将本学位论文收录到《中国学位论文全文数据库》。（保密的学位论文在解密后适用本授权书）学位论文作者签名：导师签字：签字日期：年月日签字日期：年月日万方数据基于集成学习的极限学习机的算法研究摘要神经网络一直以来都很难被广泛应用于实时计算领域，其中最主要的原因是神经网络的训练时间太长导致的计算效率较低，近年来，极限学习机(ExtremeLearningMachine,ELM)的提出使得前馈神经网络的训练时间大大缩短，重新燃起了科研人员对于神经网络应用的重视，然而但当

4、原始数据混杂入大量噪声变量的时候，极限学习机算法的分类和回归正确率却有极大程度的下降，这就对极限学习机的鲁棒性提出了新的要求。集成学习算法的应用有效的提升了机器学习系统的鲁棒性，因此我们思考利用集成学习的优势特性来弥补极限学习机的弱势特性从而改善极限学习机的鲁棒性差的缺陷。本论文旨在讨论基于集成学习的极限学习机的算法研究及其在高维度混杂数据条件下的应用。本论文提出了三种新算法EOP-ELM，AEOP-ELM和LARSEN-ELM解决了极限学习机算法鲁棒性的问题，特别是LARSEN-ELM能够在高维度混杂数据条件下工作良好，

5、主要是因为以下原因：新算法LARSEN-ELM首先采取了对数据进行特征提取的预处理步骤，在这里利用LARS算法选取与输出结果最为关联的输入数据从而加强输入数据和输出数据之间的关联度，这就从本质上确保了算法的鲁棒性。其次我们将一组原始的极限学习机作为算法训练的内核，这样可以加快算法训练速度降低训练耗时。最后我们利用了选择性集成的鲁棒性特点针对内核进行有效筛选，并均值集成选择出的最优内核，从另外一个角度上确保了算法的鲁棒性效果，以上步骤形成我们LARSEN-ELM算法的整体框架,我们从理论角度说明了其对极限学习机算法鲁棒性的改

6、进。最后本文采用大量的matlab实验进行仿真，特别是采取了国际通用的UCI数据集进行算法性能测试，具有可靠性。从性能推广角度来看，LARSEN-ELM的算法更具有扩展意义，可以作为今后继续研究的一个方向。关键词：极限学习机；选择性集成；鲁棒性；LARSEN-ELMI万方数据II万方数据TheResearchofExtremeLearningMachinebasedonEnsembleLearningAbstractNeuralnetworkshavebeenhardlyusedinreal-timecomputation

7、alfieldforitstime-consumingtrainingandefficiency.Inrecentyears,ExtremeLearningMachine(ELM)hasbeennamedforausefultooltosolveissuesrelatedtotrainingtime,whichinspiresamyriadofresearcherstohighlightneuralnetworksagain.However,whenoriginaldatablendedwithnoisydata,espe

8、ciallyforhighdimensionaldata,therateofclassificationandregressionarelargelyreducedinELM,sowewillfocusontherobustnessofELMlater.Therobustnessofmachinelea