最新BP神经网络PPT课件PPT.ppt

《最新BP神经网络PPT课件PPT.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、BP神经网络PPT主要内容一.人工神经网络基本知识生物神经网络、生物神经元人工神经网络、人工神经元人工神经网络三要素典型激活函数神经网络几种典型形式二.前馈神经网络、多层感知器、及非线性分类三.BP神经网络四.数据处理及神经网络结构的选择五.应用人工神经网络是生物神经网络的某种模型(数学模型)是对生物神经网络的模仿基本处理单元为人工神经元2.人工神经网络与人工神经元(1)基本的人工神经元模型McCulloch-Pitts神经元模型输入信号；链接强度与权向量；信号累积激活与抑制(1)基本的人工神经元模型(2)输出函数f(2)几种常见形式的传

2、递函数(激活函数)(2)输出函数f(2)输出函数f主要内容人工神经网络基本知识二.前馈神经网络、多层感知器、及非线性分类三.BP神经网络四.数据处理及神经网络结构的选择五.应用各神经元接受来自前级的输入，并产生输出到下一级，无反馈，可用一有向无环图表示。网络中的节点分两类：输入节点；计算节点(神经元节点)节点按层(layer)组织：第i层的输入只与第i-1层的输出相连。输入信号由输入层输入,由第一层节点输出，传向下层，……前馈：信息由低层向高层单向流动。-------------------------------------------

3、------可见层输入层(inputlayer)输入节点所在层，无计算能力输出层(outputlayer)节点为神经元隐含层(hiddenlayer)中间层，节点为神经元1.前馈(forward)神经网络具有三层计算单元的前馈神经网络结构2.感知器神经网络(感知器)、感知器神经元感知器神经元单层感知器网络感知器神经元的传递函数单层感知网络可以实现线性分类2.感知器神经网络、感知器神经元(续)(1)多层感知器(MLP)的一致逼近性单个阈值神经元可以实现任意多输入的与、或及与非、或非逻辑门。任何逻辑函数可由两层前馈网络（一层计算单元）实现。三

4、层或三层以上的前馈网络通常称为多层感知器多层感知器的适用范围大大超过单层网络。3.多层感知器（含两层以上的计算单元）多层感知器示意当神经元的输出函数为sigmoid等函数时，三层前馈网络(含两层计算单元)可以逼近任意的多元非线性函数。主要内容一.人工神经网络基本知识、神经元与感知器二.前馈神经网络、多层感知器、及非线性分类三.BP神经网络四.数据处理及神经网络结构的选择五应用基于阈值神经元的多层感知器不足隐含层不直接与外界连接，误差无法直接估计中间层神经元的激活函数为阈值函数(或阶跃函数)无法采用梯度下降法训练神经元权值基于BP算法的多层

5、感知器(BP网络)各计算单元(神经元节点)传递函数：Sigmoid函数误差逐层反向传播；信号逐层正向传递BP神经网络训练的两个阶段(1)信号正向传递过程输入信息从输入层经隐层逐层、正向传递，直至得到各计算单元的输出(2)误差反向传播过程输出层误差从输出层开始，逐层、反向传播，可间接计算隐层各单元的误差，并用此误差修正前层的权值.BP网络的优点①特别适合于求解内部机制复杂的问题BP网络实质上实现了一个从输入到输出的映射功能，而数学理论已证明它具有实现任何复杂非线性映射的功能②具有自学习能力网络能通过学习带正确答案的实例集自动提取“合理的”求

6、解规则③网络具有一定的推广、概括能力。BP网络的问题，如：①BP算法的学习速度较慢②网络训练失败的可能性较大③网络结构的选择尚无一种统一而完整的理论指导，一般只能由经验选定。④网络的预测能力（泛化能力、推广能力）与训练能力（逼近能力、学习能力）的矛盾。。。。。。主要内容一.人工神经网络基本知识、神经元与感知器二.前馈神经网络、多层感知器、及非线性分类三.BP神经网络四.数据处理及神经网络结构的选择五应用PART1.输入/输出数据的处理回归或状态预测，数据处理方式有所区别建模前输入输出数据的预处理—正向标准化建模后输入输出数据的后处理—反向

7、标准化特征的平移特征的尺度调整[0,1],[-1,1],[-a,a],[0,a]PART2.神经网络的层次选择对多层网络要确定选用几个隐含层？1988年Cybenko指出，若各节点均采用S型函数，则一个隐含层足以实现任意判决分类问题；两个隐含层足以实现输入图形的任意输出网络层次选取依经验和情况而定，通常不宜过多。PART3.节点数目的确定输入层、输出层、隐含层节点数1.输入层节点数的确定节点数=输入向量的维数2.输出层节点数的确定节点数取决于:输出的表示方法;类别数目；待逼近的函数数目。(1)两类别问题单输出型1个判别函数，1个输出节点

8、(2)多类别问题输出节点数是类别数：“C中取1(1-of-C)”C位“0-1”二进制编码输出节点数是二进制编码的状态数8类问题，3位二进制数可能会需增加1个隐含层以满足要求(3)输出节点数是待