资源描述:
《2019设计一 贝叶斯最小错误率分类器设计》由会员上传分享,免费在线阅读,更多相关内容在应用文档-天天文库。
1、设计一贝叶斯最小错误率分类器设计 实验报告 课程名称 模式识别 实验名称 贝叶斯 实验仪器 学 院 自动化 班 级 姓名/学号 实验日期 成 绩 指导教师 一、实验目的 通过本次综合设计,了解模式识别的基本原理、贝叶斯最小错误率分类 器的原理。 本实验旨在让同学对模式识别有一个初步的理解,能够根据自己的设计 对贝叶斯决策理论算法有一个深刻地认识,理解二类分类器的。 二、实验设备及条件 matlab软件 三、实验原理 分类是一项非常基本和重要的任务,并有着极其广泛的应用。分类是利用预定的已分类数据集构造出一个分类函数或分类模型(也称作
2、分类器),并利用该模型把未分类数据映射到某一给定类别中的过程。分类器的构造方法很多,主要包括规则归纳、决策树、贝叶斯、神经网络、粗糙集、以及支持向量机(SVM)等方法。其中贝叶斯分类 方法建立在贝叶斯统计学[v1和贝叶斯网络[s1基础上,能够有效地处理不完整数据,并且具有模型可解释、精度高等优点,而被认为是最优分类模型之一[9]。尤其是最早的朴素贝叶斯分类器[l0l虽然结构简单,但在很多情况下却具有相当高的分类精度,可以达到甚至超过其它成熟算法如[l’]的分类精度,而且对噪声数据具有很强的抗干扰能力。因此,对贝叶斯分类算法的深入研究,无论对其理论的发展,还是在实际中的应用,都具有很重要的意义
3、。 贝叶斯分类器的分类原理是通过某对象的先验概率,利用贝叶斯公式计算出其后验概率,即该对象属于某一类的概率,选择具有最大后验概率的类作为该对象所属的类。目前研究较多的贝叶斯分类器主要有四种,分别是:NaiveBayes、TAN、BAN和GBN。 贝叶斯网络是一个带有概率注释的有向无环图,图中的每一个结点均表示一个随机变量,图中两结点间若存在着一条弧,则表示这两结点相对应的随机变量是概率相依的,反之则说明这两个随机变量是条件独立的。网络中任意一个结点X均有一个相应的条件概率表(ConditionalProbabilityTable,CPT),用以表示结点X在其父结点取各可能值时的条件概率。若
4、结点X无父结点,则X的CPT为其先验概率分布。贝叶斯网络的结构及各结点的CPT定义了网络中各变量的概率分布。 贝叶斯分类器是用于分类的贝叶斯网络。该网络中应包含类结点C,其中C的取值来自于类集合(c1,c2,...,cm),还包含一组结点X=(X1,X2,...,Xn),表示用于分类的特征。对于贝叶斯网络分类器,若某一待分类的样本D,其分类特征值为x=(x1,x2,...,xn),则样本D属于类别ci的概率P(C=ci
5、X1=x1,X2=x2,...,Xn=xn),(i=1,2,...,m)应满足下式: P(C=ci
6、X=x)=Max{P(C=c1
7、X=x),P(C=c2
8、X=x),...
9、,P(C=cm
10、X=x)}而贝叶斯公式: P(C=ci
11、X=x)=P(X=x
12、C=ci)*P(C=ci)/P(X=x) 其中,P(C=ci)可领域专家的经验得到,而P(X=x
13、C=ci)和P(X=x)的计算则较困难。 应用贝叶斯网络分类器进行分类主要分成两阶段。第一阶段是贝叶斯网络分类器的学习,即从样本数据中构造分类器,包括结构学习和CPT学习;第二阶段是贝叶斯网络分类器的推理,即计算类结点的条件概率,对分类数据进行分类。这两个阶段的时间复杂性均取决于特征值间的依赖程度,甚至可以是NP完全问题,因而在实际应用中,往往需要对贝叶斯网络分类器进行简化。根据对特征值间不同关联程度的假设,可以得
14、出各种贝叶斯分类器,NaiveBayes、TAN、BAN、GBN就是其中较典型、研究较深入的贝叶斯分类器。贝叶斯网络分类器是一种典型的基于统计方法的分类模型。它以贝叶斯定理为理论基础,巧妙地将事件的先验概率与后验概率联系起来,利用先验信息和样本数据确定事件的后验概率。错误率最小的贝叶斯分类器设计思想是寻找一种划分方式,使“错判”率最小。 四、实验内容与步骤 实验内容:假定某个局部区域细胞识别中正常和非正常两类先验概率分别为 正常状态:P=;异常状态:P=。 现有一系列待观察的细胞,其观察值为: -- --- - ------ - - ----- 已知类条件概率的
15、曲线如下图: 类条件概率分布正态分布分别为试对观察的结果进行分类。 最小风险贝叶斯决策可按下列步骤进行: (1)在已知P(Wi),P(X
16、Wi),i=1,,c及给出待识别的X的情况下,根据贝叶斯公式计算出后验概率: j=1,,x (2)利用计算出的后验概率及决策表,根据贝叶斯公式计算。 (3)对(2)中得到的a个条件风险值,i=1,,a进行比较,找出使其条件风险最小的决策,即则就是最小