基于非线性滤波优化的前馈神经网络训练方法研究

《基于非线性滤波优化的前馈神经网络训练方法研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、。欄誦５－５＾＿＿—＞：叩，聲於Ｉ／＾类号Ｔ围」１Ｉ—鶴／．，？＾一？。，成、－－Ｉ＾聲Ｗ：胃Ｉ皆為乂聲气；：知ｉ硕±学位论文＾；＼：村．働：矿§？法研究＇；／基于非线性滤波优化的前馈神经网络ｉＪＩＩ练方－．．＾．＾．．隹鴻１＼島：。．Ｖｍ３；１和養；緣；，萨－呵－．巧杀警＇、ｖ旅垂為学科、专业：控制理论与控制工程Ｉ。＂？；研究方向：非线性滤波、神经网络’乃申请学位类别：工学硕±ｉ：實差罢教授視振寿副教授！ｇ．＂‘、、＂：－成二〇—六年六月－＞＝ｆ；，藥．／夢＇．，．＇Ｌ瞧Ｉ．．邊槪怒．

2、关于学位论文独创声明和学术诚信承诺本人向河南大学提出硕壬学位申请。本人郑重声明：所呈交的学位论文是本人在导师的指导下独立完成的，对所研究的课题有新的见解。据我所知，除文中特别加＂说明、标注和致谢的地方外，论文中不包括其他人已经发表或撰写过的研究成果，也不色括其人為一他获得任何教育、科研机构的学位或证书而使用过的材料同工作的同事对。与我本研究所做的任何贡献均已在论文中作了明确的说明并表示了谢意。在此本人郑重承诺：所呈交的学位论文不存在舞弊作伪行为，文责自负。ｆ志学位申请人（学位论文作者）签違；表无年月＾曰＾人经河关于学位论文著作权使用授权书本南大学审

3、核批准授论予硕文去学位。作为学位论文的作者，本人完全了解并同机意河南大学有关保留、使用学位的要求，论即文河南大学有权向国家图书馆、科研信息构、数据收集机构和本校图书馆等提供学位（纸质文本和电子文本）从供公众检索、查阅。本人授权河南大学出于宣扬、展览学校学术发展和进行学术交流等目的，可＞乂采取影印、缩印、扫描和抹贝等复制手段保存、汇编学位论文（纸质文本和电子文本）。（涉及保密内容的学位论文在解密后适用本授权书）论文斋琶学位获得者（学位文作者）签違；聚光学位论指导教师签違：＾２０１年月２曰／４ResearchontheTrainingMethodsofFe

4、edforwardNeuralNetworkbasedonNonlinearFilterOptimizationADissertationSubmittedtotheGraduateSchoolofHenanUniversityinPartialFulfillmentoftheRequirementsfortheDegreeofMasterofEngineeringScienceByYuanGuangyaoSupervisor:Prof.LiuXianxingAsso.Prof.HuZhentaoJune,2016摘要人工神经网络技术(ANN)经过几十年的发展，其相关的理论体系也越发完善。

5、随着研究的不断深入，其在模式识别、故障诊断、最优控制、目标追踪以及金融时序预测等领域取得了广泛的研究和应用。决定神经网络使用效果好坏的关键在于训练算法，已有的训练算法对于问题规模较小、训练数据未受噪声污染的情况能够取得较为理想的训练效果。但是在当前新形势的应用背景下，问题规模往往较大、训练数据也更易受噪声污染，传统的训练算法无论是在收敛速度还是在训练精度上均不能满足要求。非线性滤波算法作为非线性系统状态的最优估计，已经广泛应用与参数估计、系统辨识等领域，其对于噪声的适应能力强，具有全局优化的能力。经过国内外众多专家学者的共同努力，已经成功将非线性滤波算法应用于神经网络的训练，取得了良好的训

6、练效果。本文在具体分析神经网络以及非线性滤波理论发展现状的基础上，提出了两种基于最新非线性滤波研究成果的前馈神经网络训练算法。现有利用扩展卡尔曼滤波(EKF)对多层感知器神经网络进行训练的过程中，存在较大的一阶舍入误差从而影响神经网络的训练效果；利用不敏卡尔曼滤波(UKF)对多层感知器训练过程中存在参数选取复杂，容易产生非正定的问题。针对以上问题，本文首先提出了一种基于最新非线性滤波研究成果——容积卡尔曼滤波(CKF)的多层感知器训练方法。考虑到非线性滤波算法是在状态空间模型下实施的，首先将多层感知器的连接权值以及偏置节点作为状态向量，将网络的输出作为量测建立多层感知器的状态空间模型；然后

7、利用系统的量测信息并结合CKF算法得到连接权值向量的最优估计，从而完成网络的训练；最后通过一个典型的非线性系统方程以及Mackey-Glass时序预测对所提方法进行验证，结果表明所提训练方法相比于已有方法不仅训练精度有所提高，而且效率更好。考虑到高斯-牛顿迭代策略能够充分利用已有信息来提高非线性模型参数的估计精度，本着提高已知信息的的利用率、进一步提高神经网络的训练精度为目的，提出了一种基于迭代容积卡尔曼滤波(ICKF)