神经网络——BP算法教案资料.ppt

《神经网络——BP算法教案资料.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、神经网络——BP算法BP网络是一种单向传播的多层前向网络其神经元的变换函数是S型函数，因此输出量为0到1之间的连续量它可以对非线性可微分函数进行权值训练，从而实现输入到输出的任意的非线性映射。网络中心思想是梯度下降法通过梯度搜索技术，使网络实际输出值与期望输出值的误差均方值最小。网络的学习过程是一种误差边向后传播边修正权系数的过程7.2.2BP网络结构BP神经网络模型结构输入层隐层输出层输入输出BP网络是一种多层前向神经网络一般分三层：输入层，隐层，输出层，也可以有2层或更多个隐层。层与层之间采用全互联方式，同

2、一层单元之间不存在相互连接。1）输入层单元无转换函数，直接接收信号传给下一层，所以有些书不认为输入层是一个网络层。2）在一般情况下，均是在隐含层采用S型激活函数，而输出层采用线性激活函数。………………x1x2xny1yp只有当希望对网络的输出进行限制，如限制在0和1之间，那么则在输出层包含S型激活函数BP网络特点是多层网络，包括输入层、隐层和输出层层与层之间采用全互连方式，同一层神经元之间不连接权值通过学习算法进行调节神经元激发函数为S函数层与层的连接是单向的，信息传播是双向的感知机网络利用输出误差只能修改最后

3、一层的权值而BP网络实现了多层学习，每一层的权值均可训练学习修改。BP学习规则BP算法属于δ算法，是一种监督式的学习算法。其主要思想为：对于q个输入学习样本：P1，P2，……Pq，已知与其对应的输出样本为：T1，T2，……Tq。学习的目的：是用网络的实际输出A1，A2，……Aq与目标矢量T1，T2，……Tq之间的误差来修改其权值使Al(l＝l，2…，q)与期望的Tl尽可能地接近；即：使网络输出层的误差平方和达到最小。BP算法的学习过程由正向传播和反向传播组成BP算法是由两部分组成：信息的正向传递与误差的反向传播

4、。在正向传播过程中，输入信息从输入经隐含层逐层计算传向输出层，每一层神经元的状态只影响下一层神经元的状态。如果在输出层没有得到期望的输出，则计算输出层的误差变化值，然后转向反向传播，通过网络将误差信号沿原来的连接通路反传回来修改各层神经元的权值直至达到期望目标。BP网络用途1)函数逼近：用输入矢量和相应的输出矢量训练一个网络逼近—个函数；2)模式识别：用一个特定的输出矢量将它与输入矢量联系起来；3)分类：把输入矢量以所定义的合适方式进行分类；4)数据压缩：减少输出矢量维数以便于传输或存储。BP网络的逼近用于逼近

5、的BP网络前向传播：计算网络输出输出层输出隐层输出采用S函数隐层输入：BP网络逼近仿真Chap7_1.m设计的网络结构为2-6-1；权值w1,w2的初值取[-1,+1]之间的随机值，取初始化加输入和期望输出计算隐层和输出层的输出迭代次数加1调节输出层和隐层的连接权值改变训练样板训练样终止？迭代终止？BP算法的基本流程NoNoyyBP网络模式识别一、由于神经网络具有自学习、自组织和并行处理等特征，并具有很强的容错能力和联想能力，因此，神经网络具有模式识别能力。在神经网络识别中，根据标准的输入输出模式对，采用神经网

6、络学习算法，以标准的模式作为学习样本进行训练，通过学习调整神经网络的连接权值。当训练满足要求后，得到知识库，利用神经网络并行推理算法便可对所需的输入模式进行识别。BP网络的训练过程为了训练一个BP网络，需要计算网络加权输入矢量以及网络输出和误差矢量，然后求得误差平方和。当所训练矢量的误差平方和小于误差目标，训练则停止，否则在输出层计算误差变化，且采用反向传播学习规则来调整权值，并重复此过程。当网络完成训练后，对网络输入一个不是训练集合中的矢量，网络将给出输出结果。为了能够较好地掌握BP网络的训练过程，我们再用两

7、层网络为例来叙述BP网络的训练步骤。1)用小的随机数对每一层的权值W初始化，以保证网络不被大的加权输入饱和；2)计算网络各层输出矢量A1和A2以及网络误差E3)计算各层反传的误差变化并计算各层权值的修正值以及新权值4)再次计算权值修正后误差平方和：5)检查误差是否小于给定误差，若是，训练结束；否则继续。以上所有的学习规则与训练的全过程，仍然可以用函数trainbp.m来完成。它的使用同样只需要定义有关参数：显示间隔次数，最大循环次数，目标误差，以及学习速率，而调用后返回训练后权值，循环总数和最终误差：TP＝[d

8、isp_freqmax_epocherr_goal1r]；[W，B，epochs，errors]＝trainbp(W，B，’F’，P，T，TP)；基于BP算法的多层前馈网络用图像压缩编码Ackley和Hinton等人1985年提出了利用多层前馈神经网络的模式变换能力实现数据编码的基本思想。其原理是，把一组输入模式通过少量的隐层节点映射到一组输出模式，并使输出模式等同于输入模式。当中间隐