基于pnn在手写体数字识别中的应用

《基于pnn在手写体数字识别中的应用》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、0引言光学字符识别技术(OpticaICharacterRecognition,OCR)中的手写体数字识别技术其主要识别0-9共10个字符，分类的类别比光学字符识别少得多。近年来，伴随着计算机技术和模式识技术的不断发展，手写体数字识别在邮政编码识别、财务金额识别、税表识别、电子商务数字处理、甚至是学生成绩单识别等方面得到了广泛应用尽管模式识别技术不断发展，各种各样的分类器不断出现，但目前依然没有一种算法能够达到完美的效果。具有强大的自学能力、自适应性、分类能力、容错能力和快速识别等特点的人工神经网络备受人们的关注,并且在字符识别中

2、得到了广泛应用本文将概率神经(ProbabilisticNeuralNetworks,PNN)应用于手写体数字识别中，并使用MNIST数据库进行了实验验证。实验结果表明，基于概率神经网络的手写体数字识别得到了较好的识别率。1概率神经网络(PNN)的基本原理D.F.Specht博士在1989年提出了一种概率神经网络。这种概率神经网络的结构简单，算法设计比较容易，可以用线性的学习算法实现非线性学习算法的功能，广泛应用于模式分类的问题中1.1贝叶斯分类器概率神经网络以贝叶斯决策理论为基础。贝叶斯分类器的基本原理就是根据某对象的先验概率，

3、在有先验概率的情况下，根据贝叶斯的计算公式可以得到其后验概率，即该对象属于哪一类，最后选择后验概率最大的类作为该对象所属的类。这里我们把问题简化为两个类别(A1和A2)问题，对于A1和A2它们的先验概率分别为hl和h2,并且满足hl+h2=lo在一个向量需要分类时，我们先计算向量的后验概率，进行分类的依据是哪个类别的后验概率大就将向量分到其中。假定X为输入向量，p(Al

4、x)为x发生情况下A1的后验概率，我们根据贝叶斯公式可以得出A1的后验概率为：p(Al

5、x)=p(Al

6、x)p(x

7、Al)p(x)(1)但是在实际应用中会存在损失

8、与风险问题，有可能将应该属于A1的样本错误的分到了A2中，或者是将A2中的样本错误的分到了A1中，因此所造成的损失研究与发往往相差很大，因此需要对分类的规则进行调整。将向量指派到A1的动作我们假设为动作al,输入向量属于A2时却采取动作al所造成的损失定义为入，则执行动作cd我们就把它叫做期望风险，期望风险用R表示。那么这时的判定规则就变成：当类别A1的期望风险大于A2的后验概率时，将向量分类到类别A1中。调整后的规则变成类别=A1zR(Al

9、x)>p(A2

10、x)A2,otherwise!e(2)1.2概率神经网络的结构概率神经网

11、络四层结构分别为输入层、隐含层、求和层和输出层。第一层接收训练样本的值，神经元个数与向量的长度相等。第二层隐含层接收输入层传过来的数据，神经元的节点个数与训练样本数相同，并且所有的节点都有一个中心点。在第三层求和层对同类别的隐含层的输出做加权平均，一个神经元与一个相应的类别对应。最后一层是输出层，对阈值进行判断，把最大的后验概率的神经元输出为1,其他的输出为0。概率神经网络结构和PNN网络的结构。2手写体数字识别系统的实现在实际应用时，手写体数字一般是以图像的形式提供的。原始图像通过$箭入设备(如光电扫描仪、电子传真机等)获取图像

12、信息，获得图像后不能直接用于识别，需要进行预处理、字符分割、特征提取、选择分类器等过程后，才开始进行手写体数字识别。手写体数字识别的完整过程。2.1图像预处理与大多数的图像处理算法类似，数字识别的第一步是对图像进行预处理。由于不同的输入设备扫描得到的数字图像通常情况下质量不同，往往包含了各种各样的噪声，为了防止对后期的识别过程造成干扰，首先需要对图像进行去噪、滤波等处理。此外，在数字识别中使用的是二值图像。所以如果输入的是灰度图像，需要先对图像进行二值化的过程，再做预处理。如果输入的是彩色图像，则需要先进行灰度化。由于预处理是为了

13、提高后期的识别率，所以在整个手写体数字识别中，对图像进行预处理的重要性是不言而喻的。预处理的效果好，就可以提高手写体数字的识别率和识别速度。反之，在后期的识别中将会出现许多的不良后果，如错误识别、拒绝识别等2.2特征提取算法特征提取在手写体数字识别的过程中很重要，提取特征有很多不同的方法，它对分类效果产生很大的影响。提取特征好将可以提高识别率。常用的手写体数字特征有结构特征和统计特征。结构特征在相似字区分方面具有较高的识别率。虽然结构特征反映了数字的几何结构，体现了数字结构的本质特征，但是易受到外在因素的干扰。统计特征以二值或者灰

14、度值点阵图为基础，经过傅立叶描述子、小波变换等数学变换对数字图像点阵进行提取特征。为了取得良好的识别效果，本文特征提取采取了结构特征与统计特征相结合的方式，共抽取了14维特征。其中结构特征8个，统计特征6个。构成一个长度为14的特征向量，用该特征向