径向基函数神经网络ppt课件.ppt

《径向基函数神经网络ppt课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、3.5径向基函数神经网络模型概述1985年，Powell提出了多变量插值的径向基函数(RadicalBasisFunction，RBF)方法1988年，Moody和Darken提出了一种神经网络结构，即RBF神经网络RBF网络是一种三层前向网络RBF网络的基本思想用RBF作为隐单元的“基”构成隐含层空间，将输入矢量直接(即不需要通过权连接)映射到隐空间当RBF的中心点确定后，映射关系也就确定隐含层空间到输出空间的映射是线性的RBF网络特点只有一个隐层，且隐层神经元与输出层神经元的模型不同。隐层节点激活函数为径向基函数，输出层节点激活函

2、数为线性函数。隐层节点激活函数的净输入是输入向量与节点中心的距离（范数）而非向量内积，且节点中心不可调。隐层节点参数确定后，输出权值可通过解线性方程组得到。隐层节点的非线性变换把线性不可分问题转化为线性可分问题。局部逼近网络（MLP是全局逼近网络)，这意味着逼近一个输入输出映射时，在相同逼近精度要求下，RBF所需的时间要比MLP少。具有唯一最佳逼近的特性，无局部极小。合适的隐层节点数、节点中心和宽度不易确定。1.Gauss（高斯）函数：2.反演S型函数：3.拟多二次函数：σ称为基函数的扩展常数或宽度，σ越小，径向基函数的宽度越小，基函

3、数就越有选择性。径向基函数（RBF）全局逼近和局部逼近全局逼近网络局部逼近网络当神经网络的一个或多个可调参数(权值和阈值)对任何一个输出都有影响，则称该神经网络为全局逼近网络。对网络输入空间的某个局部区域只有少数几个连接权影响网络的输出，则称该网络为局部逼近网络学习速度很慢，无法满足实时性要求的应用学习速度快，有可能满足有实时性要求的应用RBF网络的工作原理函数逼近：以任意精度逼近任一连续函数。一般函数都可表示成一组基函数的线性组合，RBF网络相当于用隐层单元的输出构成一组基函数，然后用输出层来进行线性组合，以完成逼近功能。分类：解决

4、非线性可分问题。RBF网络用隐层单元先将非线性可分的输入空间设法变换到线性可分的特征空间（通常是高维空间），然后用输出层来进行线性划分，完成分类功能。RBF神经网络两种模型正规化网络RN广义网络GN通用逼近器模式分类基本思想：通过加入一个含有解的先验知识的约束来控制映射函数的光滑性，若输入一输出映射函数是光滑的，则重建问题的解是连续的，意味着相似的输入对应着相似的输出。基本思想：用径向基函数作为隐单元的“基”，构成隐含层空间。隐含层对输入向量进行变换，将低维空间的模式变换到高维空间内，使得在低维空间内的线性不可分问题在高维空间内线性可

5、分。两种模型的比较隐节点=输入样本数隐节点＜输入样本数所有输入样本设为径向基函数的中心径向基函数的中心由训练算法确定径向基函数取统一的扩展常数径向基函数的扩展常数不再统一由训练算法确定没有设置阈值输出函数的线性中包含阈值参数，用于补偿基函数在样本集上的平均值与目标值之平均值之间的差别。RNGN3.5.1RBF神经网络模型径向基神经网络的神经元结构激活函数采用径向基函数以输入和权值向量之间的距离作为自变量径向基神经网络结构RBF网络与BP网络比较：RBF网络的输出是隐单元输出的线性加权和，学习速度加快BP网络使用sigmoid()函数作

6、为激活函数，这样使得神经元有很大的输入可见区域径向基神经网络使用径向基函数（一般使用高斯函数）作为激活函数，神经元输入空间区域很小，因此需要更多的径向基神经元RBF学习算法RBF学习的三个参数：①基函数的中心②方差（扩展常数）③隐含层与输出层间的权值当采用正归化RBF网络结构时，隐节点数即样本数，基函数的数据中心即为样本本身，参数设计只需考虑扩展常数和输出节点的权值。当采用广义RBF网络结构时，RBF网络的学习算法应该解决的问题包括：如何确定网络隐节点数，如何确定各径向基函数的数据中心及扩展常数，以及如何修正输出权值。学习方法分类（按

7、RBF中心选取方法的不同分）随机选取中心法自组织选取中心法有监督选取中心法正交最小二乘法等3.5.2RBF网络的学习算法自组织选取中心学习方法第一步，自组织学习阶段无导师学习过程，求解隐含层基函数的中心与方差；第二步，有导师学习阶段求解隐含层到输出层之间的权值。高斯函数作为径向基函数网络的输出(网络结构如图2-21所示)设d是样本的期望输出值，那么基函数的方差可表示为:自组织选取中心算法步骤1.基于K-均值聚类方法求取基函数中心（1）网络初始化。随机选取个训练样本作为聚类中心。（2）将输入的训练样本集合按最近邻规则分组。按照与中心为之

8、间的欧氏距离将分配到输入样本的各个聚类集合中。（3）重新调整聚类中心。计算各个聚类集合中训练样本的平均值，即新的聚类中心，如果新的聚类中心不再发生变化，则所得到的即为RBF神经网络最终的基函数中心，否则返回（2），进入下