资源描述：
《人工神经网络第二章2》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。
1、回归神经网络(recurrentneuralnetworks)n回归网络是一种人们越来越感兴趣的网络。n回归网络中包含一定的动态环节作为信息存储，在系统建模时可以充分利用这一特性，减小网络的规模。n回归网络包括Elman网络和Hopfield网络，其中Elman网络是一种两层的前馈网络n本节内主要介绍Elman网络，以及一种隐含层神经元具有自反馈的对角回归神经网络（DRNN）。2021-10-1神经网络原理与应用12.4.1Elman网络的网络结构2021-10-1神经网络原理与应用2Elman网络结构
2、特点nElman网络通常是一个两层网络，其隐含层神经元到输入层神经元之间还存在一个反馈连接通道，这种反馈连接在神经网络术语中称为回归（recurrent）连接。这种回归连接使得Elman网络具有检测和产生时变模式的能力。2021-10-1神经网络原理与应用32.4.2Elman网络的创建与训练nMatlab函数nElman网络可以利用函数newelm创建n格式：nnet=newelm([01],[51],{‘tansig’,‘logsig’});nElman网络的仿真采用的仍然是sim函数，其调用方式与
3、一般前馈网络大致相同，但是，Elman网络要求输入的形式为元矩阵形式的向量模式，这可以通过调用函数con2seq完成。在进行仿真以后，网络输出为元矩阵形式的向量模式，此时，可以调用函数seq2con转换成普通向量模式。2021-10-1神经网络原理与应用4例Elman网络的创建和训练nP=round(rand(1,8))nT=[0(P(1:end-1)+P(2:end)==2)]nnet=newelm([01],[51],{'tansig','logsig'});nnet=train(net,Pseq,
4、Tseq);nY=sim(net,Pseq);nz=seq2con(Y);nz{1,1}ndiff1=T-z{1,1}2021-10-1神经网络原理与应用5运行结果nT=n00001000nnz{1,1}=nColumns1through5n0.00070.00000.00020.00000.9989nColumns6through8n0.00030.00000.0010ndiff1=nColumns1through5n-0.0007-0.0000-0.0002-0.00000.0011nColumns
5、6through8n-0.0003-0.0000-0.00102021-10-1神经网络原理与应用6例2Elman网络应用－波形幅值检测原始的波形由幅值分别为1和2的，长度为20的正弦波组成，相应的目标为幅值从1到2的方波，上述两个波形再经过组合扩展形成长度为40的输入向量和目标向量，用于训练Elman网络。Elman网络的结构为1-10-12021-10-1神经网络原理与应用7Matlab源程序n%elman神经网络用于波形幅值检测np1=sin(1:20);np2=sin(1:20)*2;nt1=o
6、nes(1,20);nt2=ones(1,20)*2;np=[p1p2p1p2];nt=[t1t2t1t2];nPseq=con2seq(p);nTseq=con2seq(t);nR=1;%1inputelementnS2=1;%1layer2outputneuronnS1=10;%10recurrentneuronsinthefirstlayernnet=newelm([-22],[S1S2],{'tansig','purelin'},'traingdx');n[net,tr]=train(net,P
7、seq,Tseq);na=sim(net,Pseq);2021-10-1神经网络原理与应用8运行结果2021-10-1神经网络原理与应用9测试网络n测试网络的波形检测能力，我们将幅值分别为1.2和1.6的正弦波进行组合后，按以上方式输入到网络2021-10-1神经网络原理与应用10结果分析此时结果不太理想，不十分准确。要改善网络的扩展能力，可以利用不仅仅是1和2的幅值去训练网络。例如利用3到4种不同幅值波形的组合能够大大改善幅值检测器的精度。当然，也可以增加回归神经元的个数和增加训练时间，以提高检测精度
8、。2021-10-1神经网络原理与应用11Review1.二阶学习算法多用LM算法2.Elman神经网络隐含层输出元反馈到本身，相互之间有连接关系。2021-10-1神经网络原理与应用12对角回归神经网络及其学习算法(p330)1、基本结构2、学习算法3、的选择，学习算法收敛性的讨论2021-10-1神经网络原理与应用13基本结构对角回归神经网络是一个三层的网络。网络的结构示意图如图2.6.1所示。图4.6.1对角回归神经网络结构图图中为
