自组织竞争神经网络

《自组织竞争神经网络》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、第四章自组织神经网络4.1竞争学习的概念与原理4.2自组织特征映射神经网络第四章自组织神经网络竞争层输入层自组织神经网络的典型结构第四章自组织神经网络自组织学习(self-organizedlearning)：通过自动寻找样本中的内在规律和本质属性，自组织、自适应地改变网络参数与结构。自组织网络的自组织功能是通过竞争学习（competitivelearning）实现的。4.1竞争学习的概念与原理4.1.1基本概念分类——分类是在类别知识等导师信号的指导下，将待识别的输入模式分配到各自的模式类中去。

2、聚类——无导师指导的分类称为聚类，聚类的目的是将相似的模式样本划归一类，而将不相似的分离开。4.1.1基本概念•相似性测量＿欧式距离法TX−X=(X−X)(X−X)iii类1类2••••••T(a)基于欧式距离的相似性测量4.1.1基本概念•相似性测量＿余弦法TXXicosψ=XXi2类1••••类2•••ΨT•••(b)基于余弦法的相似性测量4.1.2竞争学习原理竞争学习规则——Winner-Take-All(胜者为王)网络的输出神经元之间相互竞争以求被激活，结果在每一时刻只有一个输出神经元被激

3、活。这个被激活的神经元称为竞争获胜神经元，而其它神经元的状态被抑制，故称为WinnerTakeAll。竞争学习规则——Winner-Take-All1.向量归一化首先将当前输入模式向量X和竞争层中各神经元对应的内星向量W全j部进行归一化处理；(j=1,2,…,m)TXxx1nXˆ==...Xnn22∑xj∑xjj=1j=1向量归一化之前前****向量归一化之后后****竞争学习原理竞争学习规则——Winner-Take-All2.寻找获胜神经元当网络得到一个输入模式向量

4、时，竞争层的所有神经元对应的内星权向量均与其进行相似性比较，并将最相似的内星权向量判为竞争获胜神经元。欲使两单位向量最相似，须使其点积最大。即：TTWˆ*Xˆ=max(WˆjXˆ)jj∈{1,2,...,m}竞争学习规则——Winner-Take-AllXˆ−Wˆj*=min{Xˆ−Wˆj}j∈{1,2,...,m}TXˆ−Wˆ*=(Xˆ−Wˆ*)(Xˆ−Wˆ*)jjj=XˆTXˆ−2WˆTXˆ+WˆTWˆT=2(1−WTXˆ)****jjjj从上式可以看出，欲使两单位向量的欧式距离最小，须使两向

5、量的点积最大。即：TTWˆ*Xˆ=max(WˆjXˆ)jj∈{1,2,...,m}由于单位化，所以表现为夹角越小，则距离越小竞争学习规则——胜者为王(Winner-Take-All)3.网络输出与权值调整*1j=joj(t+1)=*0j≠jW*(t+1)=Wˆ*(t)+∆W*=Wˆ*(t)+µ(t)(Xˆ−Wˆ*)jjjjjW(t+1)=Wˆ(t)j≠j*jj步骤3完成后回到步骤1继续训练，直到学习率衰减到0。竞争学习的几何意义☻****竞争学习的几何意义ˆpˆ*Wˆ1Wˆ****∆W(t)

6、=η(t)[X(t)−W*(t)]jj***┆Wˆ*(t+1)jpXˆ(t)ˆˆWjWm*…*例4.1用竞争学习算法将下列各模式分为2类：0.80.17360.7070.3420.612345X=X=X=X=X=0.6−0.98480.707−0.93970.8解：为作图方便，将上述模式转换成极坐标形式：1o2o3o4o5oX=1∠36.89X=1∠−80X=1∠44.5X=1∠−70X=1∠53.13竞争层设两个权向

7、量，随机初始化为单位向量：1o−1oW1(0)==1∠0W2(0)==1∠18000W=(w,w)11112x1O1W=(w,w)22122x2O2训练W1W25次数x118.43°-180°32-30.8°-180°x37°-180°14-32°-180°x511°-180°624°-180°724°-130°834°-130°w2w1934°-100°1044°-100°1140.5°-100°1240.5°-90°1343°-90°1443°-81°1547.

8、5°-81°1642°-81°241742°-80.5°xx1843.5°-80.5°1943.5°-75°2048.5°-75°训练W1W25次数x118.43°-180°32-30.8°-180°x37°-180°14-32°-180°x511°-180°624°-180°w1724°-130°834°-130°w934°-100°21044°-100°1140.5°-100°1240.5°-90°1343°-90°1443°-81°1547.5°-81°1642°-81°24