神经网络建模及matlab中重要的bp网络_信息与通信_工程

《神经网络建模及matlab中重要的bp网络_信息与通信_工程》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、神经网络建模及Matlab中重要的BP网络一、神经组织的基本特征1.细胞体是一个基本的初等信号处理器，轴突是信号的输出通路，树突是信号的输入通路。信号从一个神经细胞经过突触传递到另一•个细胞。2.不同的神经元Z间有不同的作用强度，称为联接强度。当某细胞收到信号时，它的电位发生变化，如杲电位超过某一阈值时，该细胞处于激发态，否则处于抑制状态。3.两神经元之间的联接强度随其激发与抑制行为相关性的时间平均值正比变化，也就是说神经元之间的联接强度不是一成不变的。这就是生物学上的Ilebb律。二人工神经元的M-P模型

2、(McCulloch^Pitts,1943)1.构造一个模拟生物神经组织的人工神经网络的三要素：(1)・对单个神经元给出定义；(2)・定义网络结构：决定神经元数量及连接方式；(3)・给出一种方法，决定神经元Z间的联接强度。2.M-P模型其中，t表示时间Si(t)表示第i个神经元在t时刻的状态，S.(t)=l表示处于激发态，SMt)二0表示处于抑制态呵表示第j个神经元到第i个神经元的联接强度，称Z为权，可止可负表示第i个神经元在t吋刻所接收到的所有信号的线性迭加。「表示神经元i的阈值，口J以在模型中增加一个S

3、Mt)二1神经元k,并且昭k二-ui,则阈值可归并到和号中去。注:1.M-P神经元虽然简单，但可以完成任何计算。2•神经元的状态可以取［0,1］屮的连续值，如用以下函数代替9(x):uiWilLWi2Wi3LH2h3I301H1Ii02输出层0；输入层Ik隐含层H_,权Wjk权Wij三、多层前传网络1•特点：0相邻层全互连0同层没有连接0输出与输入没有直接联系2.各层神经元个数的确定输入层、输岀层的神经元个数由研究对象的输入、输岀信息来确定。隐含层:3•符号说明u:表不一个确定的已知样品的标号；i,j,k：

4、分别对应于输出层、隐含层、输入层的下标；将第口个样品的原始数据输入网络时，相应输出单元状态；将第u个样品的原始数据输入网络时，相应隐含单元状态；将第卩个样品的原始数据输入网络时，相应输入单元数据；呵：从隐含层第j个神经元到输出层第i个神经元的联接强度；w.jk：从输入层第k个神经元到隐含层第j个神经元的联接强度；4•网络数据流程对应于输入层的输入：隐单元j的输入是：对应的输出是：输出单元i收到的迭加信号是：输出单元i的输出是：显然输出是所冇权W二｛Wij,Wjk｝的函数四、向后传播算法（Back-Propa

5、gation）设样品u在输出单元i上的理想输出为，则函数：表示了在一定的权下，理想输出与实际输岀的差异。因此，确定权w的问题化为求E（、v）的极小值问题。可以采用最速下降算法。最速下降算法步骤：1）任取初始点Wo，计算出Wo的负梯度方向:-VE（Wo）2)取新点W!=w0+Aw=w0-nVE(w0),使E(wj

6、经元之间的连接强度，各层神经元的传递函数1)•人工初始化如下例例1・有一个三输入两层神经网络，隐层有两个对数S形神经元，输出层有一个正切S形神经元，用于预测两个一元目标矢量.p二[00.5-0.2;10.20.3]';%输入t二[0.5,-0.5];%理想输出r=3;sl=2;s2=l;%输入层、隐层、输出层的神经元个数wl=rands(sl,r);%输入层到隐层的连接强度bl=rands(sl,1);%隐层的阈值w2=rands(s2,si);%隐层到输岀层的连接强度b2=rands(s2,1);%输出层

7、的阈值lr=l;%学习速率forepoch二1:40%训练网络40次al=logsig(wl*p,bl);%隐层的输出d2=deltatan(a2,e);%输出层的8值dl=deltalog(al,d2,w2);%隐层的8值[dwl,dbl]=learnbp(p,dl,Ir);%进行学习,获取隐层连接强度、阈值的调整值wl=wl+dwl;%调整隐层的连接强度bl二bl+dbl;%调整隐层的阈值[dw2,db2]=learnbp(al,d2,lr);%进行学习，获取输出层连接强度、阈值的调整值w2=w2+dw

8、2;%调整输沖层的连接强度b2=b2+db2;%调整输出层阈值end;al=logsig(wl*p,bl);%学习后，对网络进行验证a2=tansig(w2*al,b2)2).调用系统提供的函数0格式：[wl,bl,w2,b2]=initff(p,si,fl,s2,f2)[wl,bl,w2,b2]=initff(p,si,fl,t,f2)0功能：至多三层的BP网络初始化，得到每层的权值和阈值。0说明：1)P为输入