资源描述：
《模式识别实验-感知器准则算法实验.doc》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。
1、实验二感知器准则算法实验一、实验目的：1）加深对感知准则算法的基本思想的认识和理解。2）编程实现批处理感知器算法的程序。二、实验原理：1.假设已知一组容量为N的样本集，，…，，其中为维增广样本向量，分别来自和类。如果有一个线性机器能把每个样本正确分类，即存在一个权向量，使得对于任何，都有>0，而对一任何，都有<0，则称这组样本集线性可分；否则称线性不可分。若线性可分，则必存在一个权向量，能将每个样本正确分类。2.基本方法：由上面原理可知，样本集，，…，是线性可分，则必存在某个权向量，使得如果我们在来自类的样本前面加上一个负号，即令=—，其中，则也有>0。因此，我们令那么，我们就可以不管样
2、本原来的类型标志，只要找到一个对全部样本都满足>0，的权向量就行了。此过程称为样本的规范化，成为规范化增广样本向量，后面我们用来表示它。我们的目的是找到一个解向量，使得为此我们首先考虑处理线性可分问题的算法。先构造这样一个准则函数式中是被权向量错分类的样本集合。错分类时有，或Authord:VividXu;因此总是大于等于0,。下一步便是求解使达到极小值时的解向量。这里我们采用梯度下降法。首先对求梯度，这是一个纯量函数对向量的求导问题，不难看出梯度下降法的迭代公式为，将上式代入得这样，经过有限次修改，一定能找到一个解向量。其中任意给定权向量。三、实验内容：实验所需样本数据如表2-1给出（
3、每个样本空间为两维，x1表示一维的值，x2表示第二维的值），编制程序实现、、类的分类。我们将符号简化，把=1。这样，梯度下降算法可以写成其中对任何都有。实验时我们对，=1的情况来找到一个解向量。表2-1感知器算法实验数据样本12345678910W1x10.16.8-3.52.04.13.1-0.80.95.03.9x21.17.1-4.12.72.85.0-1.31.26.44.0W2x17.1-1.44.56.34.21.42.42.58.44.1x24.2-4.30.01.61.9-3.2-4.0-6.13.7-2.2W3x1-3.00.52.9-0.1-4.0-1.3-3.4-4
4、.1-5.11.9x2-2.98.72.15.22.23.76.23.41.65.1W4x1-2.0-8.9-4.2-8.5-6.7-0.5-5.3-8.7-7.1-8.0x2-8.40.2-7.7-3.2-4.2-9.2-6.7-6.4-9.7-6.3四、实验程序及其说明：1）梯度下降算法：主要说明见程序——%说明clear;%originaldatesW1=[0.16.8-3.52.04.13.1-0.80.95.03.9;1.17.1-4.12.72.85.0-1.31.26.44.0];W2=[7.1-1.44.56.34.21.42.42.58.44.1;4.2-4.30.01
5、.61.9-3.2-4.0-6.13.7-2.2];Authord:VividXu;W3=[-3.00.52.9-0.1-4.0-1.3-3.4-4.1-5.11.9;-2.98.72.15.22.23.76.23.41.65.1];%将所有训练样本进行规范化增广ww1=[ones(1,size(W1,2));W1];ww2=[ones(1,size(W2,2));W2];ww3=[ones(1,size(W3,2));W3];%对W1、W2训练w12=[ww1,-ww2];%增广样本规范化为w12y=zeros(1,size(w12,2));%y初始为零矩阵a=[0;0;0];%初始权
6、向量ak=0;whileany(y<=0)fori=1:size(y,2)y(i)=a'*w12(:,i);end;a=a+(sum((w12(:,find(y<=0)))'))';%修正向量ak=k+1;%收敛步数end;aksubplot(1,2,1);plot(W1(1,:),W1(2,:),'r.');holdon;plot(W2(1,:),W2(2,:),'*');%找到样本在坐标中的集中区域，以便于打印样本坐标图xmin=min(min(W1(1,:)),min(W2(1,:)));xmax=max(max(W1(1,:)),max(W2(1,:)));xindex=xmin
7、-1:(xmax-xmin)/100:xmax+1;yindex=-a(2)*xindex/a(3)-a(1)/a(3);plot(xindex,yindex);%对W2、W3训练w23=[ww2,-ww3];%增广样本规范化为w23y=zeros(1,size(w23,2));%y初始为零矩阵a=[0;0;0];%初始权向量ak=0;whileany(y<=0)fori=1:size(y,2)y(i)=a'*w23(:,i);en
