基于粒子群优化的神经网络及其集成算法研究.pdf

《基于粒子群优化的神经网络及其集成算法研究.pdf》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、分类号UDC密级单位代码1015l基于粒子群优化的神经网络及其集成算法研究韩基超指导教师刘智职称副教授学位授予单位大连海事大学申请学位级别工学硕士学科(专业)计算机科学与技术(计算机应用技术)论文完成日期2011-6—14答辩日期2011-7-2答辩委员会主席ResearchonNeuralNetworkOptimizingbyParticleSwarmOptimizationAlgorithmandEnsemblesAthesisSubmittedtoDalianMaritimeUniversityInp

2、artialfulfillmentoftherequirementsforthedegreeofMasterofEngineeringbyJichaoHAN(ComputerScienceandTechnology)ThesisSupervisor：ProfessorZhiLIUJune2011㈣6肿7㈣5舢5㈣9舢8删—●唧Y大连海事大学学位论文原创性声明和使用授权说明原创性声明本人郑重声明：本论文是在导师的指导下，独立进行研究工作所取得的成果，撰写成博／硕士学位论文“基王粒壬登伍他的抽经圆络厘墓集盛箕法

3、研究”。除论文中已经注明引用的内容外，对论文的研究做出重要贡献的个人和集体，均已在文中以明确方式标明。本论文中不包含任何未加明确注明的其他个人或集体已经公开发表或未公开发表的成果。本声明的法律责任由本人承担。学位论文作者签名：垄叁夔丝。学位论文版权使用授权书本学位论文作者及指导教师完全了解大连海事大学有关保留、使用研究生学位论文的规定，即：大连海事大学有权保留并向国家有关部门或机构送交学位论文的复印件和电子版，允许论文被查阅和借阅。本人授权大连海事大学可以将本学位论文的全部或部分内容编入有关数据库进行检索，

4、也可采用影印、缩印或扫描等复制手段保存和汇编学位论文。同意将本学位论文收录到《中国优秀博硕士学位论文全文数据库》(中国学术期刊(光盘版)电子杂志社)、《中国学位论文全文数据库》(中国科学技术信息研究所)等数据库中，并以电子出版物形式出版发行和提供信息服务。保密的论文在解密后遵守此规定。本学位论文属于：保密口在年解密后适用本授权书。不保密彳(请在以上方框内打“√，，)论文作者签名：楸超导师签名：吲乏刍日期：如’1年6月艿日中文摘要摘要学习方法的泛化能力、学习效率和易用性是机器学习及其应用过程中所面临三个关键性

5、问题。神经网络集成学习通过训练多个神经网络并将其结果进行合成，显著地提高了系统的泛化能力，成为近年来机器学习领域一个重要研究方向。本文在众多的方法中选取了粒子群算法和BP神经网络算法以及神经网络集成算法进行研究。粒子群算法具有参数少，计算简便等优点，因此它在优化BP神经网络领域拥有巨大的应用前景。本文通过对现有算法的深入分析和研究，结合数据的特点，提出了相应的改进算法，并采用冠心病数据与UCI数据进行测试，取得了较好的效果。本文的主要工作分为以下几个方面：(1)提出了一种确定BP网络隐层结点数目的有效方法。

6、BP网络的隐层结点数目一直是研究BP神经网络的一个难题，到目前为止仍然没有一个明确的公式能将其计算出来。本文通过特殊的编码方式，利用具有全局搜索能力的粒子群算法来对BP网络的隐层结点数目及网络的权值和阈值同时进行优化。实验证明，这种网络的训练方式，不仅能在权值和阈值的调整过程中确定隐层结点的数目，还能进一步提高网络的学习能力。(2)首次利用带有优化隐层结点数目的粒子群神经网络作神经网络集成学习。神经网络集成的一个重要条件就是构成集成的个体网络之间要有足够的差异性。由于带有优化隐层结点数目的粒子群神经网络可以

7、在网络的训练过程中动态的寻找到隐层结点数目与网络权值和阈值的最佳组合，不同初始状态下的权值和阈值将对应不同的隐层结点个数，这就使得个体网络之间更具多样性。对带有优化隐层结点数目的粒子群神经网络进行集成，将进一步提高网络的泛化能力。(3)分析了冠心病诊疗的现有方法，并将集成的带有优化隐层结点数目的粒子群神经网络应用于冠心病的诊疗过程中。通过对北京西苑医院等四家医疗机构的临床采集数据的分析与挖掘，证明带有优化隐层结点数目的粒子群神经网络集成可以应用于冠心病的诊疗中。关键词：粒子群算法；BP神经网络；神经网络集成

8、；粒子群神经网络；冠心病英文摘要AbstractGeneralizationability,learningefficiencyandeaseofusearethethreekeychallengesintheprocessofmachinelearninganditsapplication．Throughtrainingmultipleneuralnetworksandtheresultsintothesynt