pso优化神经网络算法的研究及其应用

《pso优化神经网络算法的研究及其应用》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、编号：大擎博士学位论文PSO优化神经网络算法的研究及其应用指导作者教师姓名詹永照教授涂娟娟申请学位级别博士学科(专业)计算机应用技术论文提交日期2013年4月论文答辩日期2013年6月学位授予单位和日期江苏大学2013年6月答辩委员会主席评阅人藩ClassifiedIndex：TP183UDC：004．8Ph．D．DissertationlUllIlllIlllMIIIIIIIlY2290176ResearchonLearningAlgorithmofNeuralNetworkOptimizedwithPSOandit

2、sAppficationByTuJuanjuanMajor：ComputerApplicationTechnologySupervisors：Prof．ZhanYongzhaoJiangsuUniversityJune，2013独创性声明本人郑重声明：所呈交的学位论文，是本人在导师的指导下，独立进行研究工作所取得的成果。除文中己注明引用的内容以外，本论文不包含任何其他个人或集体己经发表或撰写过的作品成果，也不包含为获得江苏大学或其他教育机构的学位或证书而使用过的材料。对本文的研究做出重要贡献的个人和集体，均己在文中以明

3、确方式标明。本人完全意识到本声明的法律结果由本人承担。学位论文作者签名：?象硝嘏夕。侈年6月1日学位论文版权使用授权书江苏大学、中国科学技术信息研究所、国家图书馆、中国学术期刊(光盘版)电子杂志社有权保留本人所送交学位论文的复印件和电子文档，可以采用影印、缩印或其他复制手段保存论文。本人电子文档的内容和纸质论文的内容相一致，允许论文被查阅和借阅，同时授权中国科学技术信息研究所将本论文编入《中国学位论文全文数据库》并向社会提供查询，授权中国学术期刊(光盘版)电子杂志社将本论文编入《中国优秀博硕士学位论文全文数据库》并向社

4、会提供查询。论文的公布(包括刊登)授权江苏大学研究生院办理。本学位论文属于不保密西。学位论文作者签名：j惫蝻荫沙f乡年6月1日指删雠：多如矽／乡年乡月7日江苏大学博士学位论文摘要传统的神经网络训练算法存在收敛速度慢，易陷入局部最优等缺陷。近年来出现的群智能优化算法如粒子群优化(PSO)算法具有较好的全局收敛性能，可用于训练神经网络参数和结构。许多研究者提出了一些改进的PSO算法，但是仍存在各种不足之处。本文在对现有改进算法进行总结的基础上，着重针对保持PSO算法中种群的多样性、充分挖掘问题对象中蕴含的先验信息并耦合至P

5、SO两方面提出了几种新的改进算法，同时将新算法应用于DNA微阵列数据处理的研究中。论文主要工作包含如下四个方面：1)现有的诸多PSO算法在迭代过程中微粒群的多样性不能很好地保持，针对此问题提出了一种改进的分期变异PSO(SMPSO)算法，用于优化神经网络参数及结构。SMPSO在早期对微粒值进行变异，后期对个体极值和全局极值进行随机扰动，始终将微粒群的多样性保持在合理范围。通过在两类分类数据集上的实验结果表明采用SMPSO训练神经网络比传统算法更加有效，在收敛速度和分类精度上均有提高。2)问题对象中蕴含有大量先验信息，将

6、其提取出来并耦合进神经网络训练算法中可以加快收敛速度，提高模型处理准确性。但是，将先验信息耦合进PSO算法这方面的研究不多，因此，本文首先在函数逼近方面做了一些研究工作。在解决函数逼近问题时，提出了耦合两种先验信息的PSO优化神经网络算法。首先将提取的两种函数特征转化成等价的数学表达式，后耦合进PSO算法中用于训练神经网络。实验结果表明先验信息能使算法快速收敛，提高逼近精度，并且，两类先验信息对于不同函数的逼近效果有一定差异。3)在解决分类问题时，针对样本集大小的情况，分别提出了两种对应的耦合先验信息的PSO优化神经网

7、络算法。第一，利用贝叶斯方法抽取样本的先验信息，耦合进PSO算法，然后用于训练BP神经网络；第二，利用支持向量机(SⅥⅥ)算法处理小样本的优势，经过一定转化，将先验信息耦合进PS0，后与PLS算法相结合，用于优化径向基(RBF)神经网络参数和结构。实验结果证明了先验信息能缩小初始搜索空间，引导微粒飞行，从而提高算法收敛速度和PS0优化神经网络算法的研究及其应用分类正确率。4)DNA微阵列数据具有高维、小样本等特点，将上述针对小样本的耦合先验信息的PSO优化神经网络算法用于对其分类。经过在多个数据集上的分类测试验证了新算

8、法对于微阵列数据处理有一定优势。关键词：PSO，神经网络，先验信息，函数逼近，分类，微阵列数据II江苏大学博士学位论文ABSTRACTThetraditionalneuralnetworktrainingalgorithmshavemanydrawbacks，forexample，itconvergesslowlyandiseas