资源描述：
《模式识别实验报告1ws.doc》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。
1、模式识别实验报告5103班魏双基于贝叶斯方法对鸢尾花数据的分类一、实验原理贝叶斯准则又称为最大后验概率，假定一个两类问题，先验概率分别为和。令X为n维向量，X的类条件概率密度为和分别表示的。由全概率公式，可知观测样本出现的全概率密度为：（1）由贝叶斯公式，在观测样本出现的情况下，属于两个类别和的后验概率分别可表示为：这里，由式(1)给出。如果规定把观测样本判归后验概率较大的类别，则相应的判决规则可表示为：上述规则可进一步表示为：对于具有多个特征参数的样本150个（本实验的IRIS数据为n=4维）。实验中所用的
2、数据集已经分成三类，假设本实验所使用的IRIS鸢尾花数据中各类数据服从正态分布，则概率密度函数为：鸢尾花数据集包含了150个样本，分别是山鸢尾，变色鸢尾和维吉尼亚鸢尾。四个特征被用作样本的定量分析，分别是花瓣的长度和宽度。实验中所用的数据集已经分成三类，第一组为山鸢尾，第二组为变色鸢尾，第三组为维吉尼亚鸢尾。对于具有多个特征参数的样本，其正态分布的概率密度函数为：其中是n维的行向量，是n*n维的协方差矩阵，是的行列式，是均值。由其判决规则，即可对样本进行分类。二、实验过程（1）数据导入导入data.txt文件
3、中数据，并将三类数据分别存储，每个数据都为一个4维行特征向量。closeall;clearall;clc;A=load('data.txt');B1=[A(1:5,:)];B2=[A(51:56,:)];B3=[A(101:105,:)];（2）抽取数据分类计算设置每组训练数据个数NUM_train，从每类50个数据中随机抽取NUM_train个向量作为训练数据并存储，剩余数据作为测试样本存储。N1=5;N2=5;N3=5;Xp1=0.5;Xp2=0.5;Xp3=0.5;mean1=mean(B1);mean
4、2=mean(B2);mean3=mean(B3);var1=cov(B1);n1=inv(cov(B1));k1=det(var1);var2=cov(B2);n2=inv(var2);k2=det(var2);var3=cov(B3);n3=inv(var3);k3=det(var3);（4）分类测试一共分为三组（w1,w2）（w1,w3）（w2,w3），test=1代表（w1,w2）分类，test=2代表（w1,w3）分类，test=3代表（w2,w3）分类，针对某一训练数据x计算其判别函数Pi，比较两
5、个值的大小，哪个最大，就可判断该数据属于哪一类。G=[A(6:50,:);A(106:150,:)];a=zeros(1,90);a1=zeros(1,90);a2=zeros(1,90);fori=1:1:90p1=-0.5*(G(i,:)-mean1)*n1*(G(i,:)-mean1)'-0.5*log(k1)+log(Xp1);p2=-0.5*(G(i,:)-mean2)*n2*(G(i,:)-mean2)'-0.5*log(k2)+log(Xp2);p3=-0.5*(G(i,:)-mean3)*n3
6、*(G(i,:)-mean3)'-0.5*log(k3)+log(Xp3);a1(i)=p1;a2(i)=p2;ifp1>p2a(i)=1;elsea(i)=2;endend三、实验结果（一）第一组和第二组a)分别取第一组和第二组的前10个样本作为训练样本，求出每一类别的表达式，然后对剩余的样本进行分类，此时先验概率均为0.5，比较的大小。得到的判决结果如下：Columns1through101111111111Columns11through201111111111Columns21through30111
7、1111111Columns31through401111111111Columns41through502222222222Columns51through602222222222Columns61through702222222222Columns71through802222222222成功率依然为100%，这说明每类10个数据也足够成功的将不同类的数据区分开来。b)分别取第一组和第二组的前五个样本作为训练样本，然后再对剩余样本进行分类，结果如下：Columns1through102222222222C
8、olumns11through202222222222Columns21through302222222222Columns31through402222222222Columns41through502222222222Columns51through602222222222Columns61through702222222222Columns71through802222222222Column
