开题报告_参考格式

《开题报告_参考格式》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、附件6:毕业设计陡文）开题报告题目BP神经网络的优化算法研究专业班级学生艷蜀指导教师张海英2010年一.毕业设计（论文）课题来源、类型本课题的题目为“BP神经网络的优化算法研究”，来源丁•口选题冃，是一个应用仿真的项冃，选题类型为“其它”项冃。二、选题的目的及意义在人工神经网络发展历史中，很长一段时间里没有找到隐层的连接权值调整问题的有效算法。直到误差反向传播算法（BP算法）的提岀，成功地解决了求解#线性连续函数的多层前馈神经网络权重调整问题。BP（BackPropaqation）神经网络，即误差反传误差反向

2、传播算法的学习过程，由信息的正向传播和误差的反向传播两个过程组成。输入层各神经元负责接收来自外界的输入信息，并传递给中间层各神经元；中间层是内部信息处理层，负责信息变换，根据信息变化能力的需求，中间层可以设汁为单隐层或者多隐层结构；最后…个隐层传递到输出层各神经元的信息，经进一步处理后，完成一次学习的正向传播处理过程，由输出层向外界输出信息处理结果。当实际输岀耳期望输出不符时，进入误差的反向传播阶段。误差通过输出层，按误差梯度下降的方式修正各层权值，向隐层、输入层逐层反传。周而复始的信息正向传播和误差反向传播

3、过程，是各层权值不断调整的过程，也是神经网络学习训练的过程，此过程一直进行到网络输出的误差减少到可以接受的程度，或者预先设定的学习次数为止。虽然BP网络得到了广泛的应用，但自身也存在一些缺陷和不足，主要包括以下几个方而的问题。首先，由于学习速率是固定的，因此网络的收敛速度慢，修要较长的训练吋间。对于一些复杂问题，BP算法需要的训练时间可能非常长，这主要是由于学习速率太小造成的，可采用变化的学习速率或自适应的学习速率加以改进。其次，BP算法可以使权值收敛到某个值，但并不保证其为谋羞平面的全局最小值，这是因为采用

4、梯度下降法可能产生一个局部最小值。对于这个问题，可以采用附加动量法来解决。再次，网络隐含层的层数和单元数的选择尚无理论上的指导，一般是根据经验或者通过反复实验确定。因此，网络往往存在很大的冗余性，在一定程度上也增加了网络学习的负担。最后，网络的学习和记忆具有不稳定性。也就是说，如果增加了学习样本，训练好的网络就需要从头开始训练，对于以前的权值和阈值是没有记忆的。BP算法中加入遗传算法来克服算法中的缺点，但是遗传算法本身却有着早熟收敛的问题，对此可在算法中加入模拟退火算法来解决问题三、本课题在国内外的研究状况及

5、发展趋势人工神经网络早期的研究工作应追溯至本世纪40年代。下面以时间顺疗;，以著名的人物或某一方而突出的研究成果为线索，简要介绍人工神经网络的发展历史。1943年，心理学家W・Mcculloch和数理逻辑学家W・Pitts在分析、总结神经元基本特性的基础上首先提出神经元的数学模型。此模型沿用至今，并且直接影响着这一领域研究的进展。因而，他们两人可称为人工神经网络研究的先驱。1945年冯•诺依曼领导的设计小组试制成功存储程序式屯子计算机，标志着电了计算机时代的开始。1948年，他在研究工作中比较了人脑结构与存储

6、程序式计算机的根木区别，提出了以简单神经元构成的再牛•自动机网络结构。但是，由于指令存储式计算机技术的发展非常迅速，迫使他放弃了神经网络研究的新途径，继续投身丁•指令存储式计算机技术的研究，并在此领域作出了巨大贡献。虽然，冯•诺依曼的名字是与普通计算机联系在一起的，但他也是人工神经网络研究的先驱之50年代末，F・Rosenblatt设计制作了“感知机”，它是一种多层的神经网络。这项工作首次把人工神经网络的研究从理论探讨付诸工程实践。当时，世界上许多实验室仿效制作感知机，分别应用于文字识别、声咅识别、声纳信号识

7、别以及学习记忆问题的研究。然而，这次人工神经网络的研究高潮未能持续很久，许多人陆续放弃了这方面的研究工作，这是因为当时数字计算机的发展处于全盛时期，许多人误以为数字计算机可以解决人工智能、模式识别、专家系统等方面的一切问题，使感知机的工作得不到重视；其次，当时的电子技术工艺水平比较落后，主要的元件是电子管或晶体管，利用它们制作的神经网络体积庞大，价格昂贵，要制作在规模上与真实的神经网络相似是完全不可能的；另外，在1968年一木名为《感知机》的著作中指出线性感知机功能是有限的，它不能解决如界感这样的基本问题，而

8、且多层网络还不能找到有效的计算方法，这些论点促使大批研究人员对于人工神经网络的前景失去信心。60年代末期，人工神经网络的研究进入了低潮。另外，在60年代初期，Widrow提出了自适应线性元件网络，这是一种连续取值的线性加权求和阈值网络。后来，在此基础上发展了非线性多层自适应网络。当时，这些工作虽未标岀神经网络的名称，而实际上就是一种人工神经网络模型。随着人们对感知机兴趣的衰退，神经网络的研究沉寂了相