大规模多层感知器神经网络的研究与应用

《大规模多层感知器神经网络的研究与应用》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、分类号：TP311单位代码：10183研究生学号：2013532070密级：公开吉林大学硕士学位论文（学术学位）大规模多层感知器神经网络的研究与应用ResearchandApplicationofLargeScaleMulti-layerPerceptronNeuralNetwork作者姓名：程子家专业：计算机应用技术研究方向：机器学习指导教师：吴春国副教授培养单位：计算机科学与技术学院2016年11月大规模多层感知器神经网络的研究与应用ResearchandApplicationofLargeScal

2、eMulti-layerPerceptronNeuralNetwork作者姓名：程子家专业名称：计算机应用技术指导教师：吴春国副教授学位类别：工学硕士答辩日期：2016年11月17日未经本论文作者的书面授权，巧法收存和保管本论文书面版本、电子版本的任何草位和个人，均不得对本论文的全部或部分内容进行任何形式的复制、修改、发行、出租、改编等有碍作者著作权的商业性使用（但纯学。否则。术性使用不在此限），应承担侵权的法律责任吉林大学硕：ｔ学位论文原创性声明，，本人郑重声明：所呈交学位

3、论文是本人在指导教师的指导下独立进行研究工作所取得的成果。除文中已经注明引用的内容外，本论文不包含任何其他个人或集体己经发表或撰写过的作品成果。对本。文的研究做出重要贡献的个人和集体，均己在文中臥明碗方式标明本人完全意识到本声明的法律结果由本人承担。学位论文作者签名：部＂／白日期：＞年月分日摘要摘要大规模多层感知器神经网络的研究与应用多层感知器模型神经网络具有并行处理和自学习能力，研究者已经从理论上证明了当神经网络具有两层以上隐藏神经节点时，它就能以任意精度逼近非线性函数。这使

4、得神经网络在分类问题方面表现优异。然而，神经网络在实际的使用中也存在着无法避免的缺点。比如网络在训练过程中容易陷入局部极小的问题、网络训练的收敛速度慢、网络结构设计复杂、网络泛化性能较差。这些问题都需要我们在实际应用中加以克服。如何在神经网络的训练过程中对网络结构和权值进行优化成为了这个领域研究的重点课题。进化计算以进化论为理论基础，通过模拟生物进化过程来寻找随机最优解。智能性和并行性是进化计算的两个特点。同传统的BP算法不同，它不要求目标函数连续可微。进化算法具有较高的鲁棒性，适用于解决全局优化问题。

5、基于进化算法的神经网络可以通过三种方式对网络进行演化，不但可以对网络连接权进行进化，也可以对网络结构进行进化，还可以进化学习规则。进化神经网络为解决传统神经网络在网络设计、网络性能改进等方面提供了新的研究思路。本文提出了一种对于数据分类问题的网格训练方法Learning-NEAT（LNEAT）。LNEAT算法通过把一个问题拆分成若干子任务简化了网络进化。学习子任务是通过在NEAT算法中运用BP规则来实现的。新算法兼顾了NEAT算法和BP算法在拓扑和权重搜索方面的优点，克服了直接使用NEAT算法所导致的问

6、题。实验结果显示LNEAT能够有效地生成适用于分类的问题的神经网络，LNEAT进化神经网络具有良好的泛化能力，分类精度比原始的NEAT算法更高。通过实验证明LNEAT算法在语音识别方面得到了满意的结果，同时，在网络训练速度方面有了很大的提高。关键词：进化计算，增强拓扑神经演化，NEAT，BP算法，语音识别IABSTRACTAbstractResearchandApplicationofLargeScaleMulti-layerPerceptronNeuralNetworkMulti-layerperce

7、ptronneutralnetworkhastheabilitytoprocessandself-study.Intheory,researcherhasprovedthatwhenneutralnetworkhasmorethantwolayersofhiddenneutralnodes,itcanstimulatenon-linearfunctions.Itmakesneutralnetworkoutstandinginsolvingclassificationproblem.Howeverinpr

8、actice,neutralnetworkhasinevitableshortcomingsaswell,suchaslocalminimumproblemduringnetworktrainingprocess,slownessofconvergencespeed,complexionofnetworkstructureandpoorgeneralizationperformance,whichneedstobeovercomeinpra