卷积神经网络概述

卷积神经网络概述

ID:24899818

大小:61.12 KB

页数:4页

时间:2018-11-17

卷积神经网络概述_第1页
卷积神经网络概述_第2页
卷积神经网络概述_第3页
卷积神经网络概述_第4页
资源描述:

《卷积神经网络概述》由会员上传分享,免费在线阅读,更多相关内容在工程资料-天天文库

1、卷积神经网络概述、引言目前,卷积神经网络(ConvolutionalNeuralNetworks,CNN)已成为图像、文本、语音识别等领域的研宄热点之一。20世纪60年代,Hubei和Wiesel在研宄猫脑皮层中发现了用于局部敏感和方向选择的神经元结构,卷积神经网络就是在此生物学的基础上发展而来的。二、卷积神经网络的发展历程按照时间顺序,可以将卷积神经网络的发展可以分为三个阶段:初步探索阶段;全面兴起阶段;跃进试发展阶段。2.1初步探索阶段这一阶段只是在初步探索卷积神经网络的结构。197开始,福岛邦彦成功开发出了一种浅层自组织神经网络认知机[1]。随后,更多的科研工作者对该网络进行了改进。认

2、知机及其变种并不是真正意义上的深度学习模型,因为的网络层数少,并不能进行深度学习特征。2.2全面兴起阶段这一阶段以LeNet-5的出现为开始。lLecun等[2]提出的LeNet-5采用了基于梯度的反向传播算法对网络进行有监督的训练,LeNet-5在手写字符识别领域的成功应用引起了学术界对于卷积神经网络的关注。同一时期,卷积神经网络在语音识别、物体检测、人脸识别等方面的研宄也逐渐开展起来。2.3跃进试发展阶段这一阶段以AlexNet的出现为起点,它的出现是卷积神经网络的一个历史性的时刻,在此后卷积神经网络在AlexNet的基础上衍生出许多变种。2012年,Krizhevsky等[3]提出了A

3、lexNet,使得卷积神经网络成为了学术界的焦点。AlexNet之后,不断有新的卷积神经网络模型被提出,。并且,卷积神经网络不断与一些传统算法相融合,加上迁移学习方法的引入,使得卷积神经网络的应用领域获得了快速的扩展。三、卷积神经网络的结构CNN基础的结构是卷积层,池化层,最后为全连接层,所有的卷积祌经网络模型都是在此结构上搭建而来。3.1卷积层图像经过卷积层及提取出其输入特征。卷积层的运算由特征提取阶段和特征映射阶段构成。(1)特征提取阶段。在特征提取阶段,每个神经元的输入与前一层的局部接受域相连,使用卷积滤波器做卷积操作,提取出该局部的特征。设一个n*n的局部区域内第i个像素的输入值是X

4、i(i=l,2,"n*n),与n*n大小滤波器相对应的值为wi,这个滤波器的有个固定的偏置量为b,这个区域最后经过卷积操作变成了一个值y,卷积操作如公式(3-1)全连接层一般放在最后,经过全连接层后得到特征向量,可将这个特征向量用于分类或者检索。全连接层其实就是一个卷积层,只不过最后得到的是一个向量。当选择的卷积核大小与输入的大小一样大时,经过征提取和特征映射阶段后。输出大小为1*1的区域。这样不同的卷积核卷积进过此层得到的是向量,1*1的区域值即是向量的一个值。四、结语卷积神经网络经过这些年的发展,对图像、语言、文本等二?S数据的识别可以达到90%,远远高于传统的浅层特征学习的方法。目前,

5、有学者将此方法迁移到了三维模型检索领域,并且取得了不错的结果。未来的卷积神经网络这一深层学习结构一定大有可为。参考文献[1]K.福岛(Fukushima).Neocognitron:一个自组织的神经网络模型为了一个不受位置平移影响的模式识别的机能.生物控制论,36,193-202,1980[2]LECUNY,BOTTOUL,BENGIOY.Gradient-basedlearningappliedtodocumentrecognition[J].ProceedingsoftheIEEE,1998,86(11):2278-2324[3]KRIZHEVSKYA,SUTSKEVERI,HINTON

6、GE.lmageNetclassificationwithdeepconvolutionalneuralnetworks[C].ProceedingsofAdvancesinNeuralInformationProcessingSystems,Cambridge,MA:MITPress,2012:1106-1114.

当前文档最多预览五页,下载文档查看全文

此文档下载收益归作者所有

当前文档最多预览五页,下载文档查看全文
温馨提示:
1. 部分包含数学公式或PPT动画的文件,查看预览时可能会显示错乱或异常,文件下载后无此问题,请放心下载。
2. 本文档由用户上传,版权归属用户,天天文库负责整理代发布。如果您对本文档版权有争议请及时联系客服。
3. 下载前请仔细阅读文档内容,确认文档内容符合您的需求后进行下载,若出现内容与标题不符可向本站投诉处理。
4. 下载文档时可能由于网络波动等原因无法下载或下载错误,付费完成后未能成功下载的用户请联系客服处理。