人工神经网络发展历程和分类

《人工神经网络发展历程和分类》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、人工祌经网络发展历程和分类人工神经网络(ArtificialNeuralNetwork，即ANN)，是20世纪80年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象，建立某种简单模型，按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型，由大量的节点(或称祌经元)之间相互联接构成。每个节点代表一种特定的输出函数，称为激励函数(activationfunction)o每两个节点间的连接都代表一个对于通过该连接信号的加权值，称

2、之为权重，这相当于人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。1943年，心理学家W.S.McCulloch和数理逻辑学家W.Pitts建立丫神经网络和数学模型，称为MP模型。他们通过MP模型提出了神经元的形式化数学描述和网络结构方法，证明了单个神经元能执行逻辑功能，从而开创了人工神经网络研究的吋代。1949年，心理学家提出了突触联系强度讨变的设想。60年代，人工神经网络得到了进一步发

3、展，更完善的神经网络模型被提出，其中包括感知器和自适应线性元件等。M.Minsky等仔细分析了以感知器为代表的神经网络系统的功能及局限后，于1969年出版了《Perceptron》一卞〕，指出感知器不能解决高阶谓词问题。他们的论点极大地影响了神经网络的研究，加之当时串行计算机和人工智能所取得的成就，掩盖了发展新型计算机和人工智能新途径的必要性和迫切性，使人工神经网络的研究处于低潮。在此期问，一些人工神经网络的研究者仍然致力于这一研究，提出了适应谐振理论(ART网)、自组织映射、认知机网络，同时进行了

4、神经网络数学理论的研究。以上研究为神经网络的研究和发展奠定了基础。1982年，美国加州工学院物理学家J.J.Hopfield提出了Hopfield神经网格模型，引入丫“计算能量”概念，给出了网络稳定性判断。1984年，他又提出了连续吋间Hopfield祌经网络模型，为祌经计算机的研究做了开拓性的工作，开创了神经网络用于联想记忆和优化计算的新途径，有力地推动了神经网络的研究，1985年，又有学者提岀了波耳兹曼模型，在学中采用统计热力学模拟退火技术，保证整个系统趋于全局稳定点。1986年进行认知微观结构

5、地研究，提出了并行分布处理的理论。1986年，Rumelhart,Hinton,Williams发展了BP算法。Rumelhart和McClelland出版了〈〈Paralleldistributionprocessing:explorationsinthemicrostructuresofcognition〉〉。迄今，BP算法已被用于解决大量实际问题。1988年，Linsker对感知机网络提出了新的自组织理论，并在Shanon信息论的基础上形成了最大互信息理论，从而点燃了基于NN的信息应用理论的光

6、芒。1988年，Broomhead和Lowe用径向基函数(Radialbasisfunction,RBF)提出分层网络的设计方法，从而将NN的设计与数值分析和线性适应滤波相挂钩。90年代初，Vapnik等提出了支持向量机(Supportvectormachines,SVM)和VC(Vapnik-Chervonenkis)维数的概念。人丁神经网络的研究受到Y各个发达国家的重视,美国国会通过决议将1990年1月5日开始的十年定为“脑的十年”，国际研究组织号召它的成员国将“脑的十年”变为全球行为。在日本的

7、“真实世界计算(RWC)项目中，人工智能的研究成了一个重要的组成部分。学习是神经网络研究的一个重要内容，它的适应性是通过学习实现的。根据环境的变化，对权值进行调整,改善系统的行为。由Hebb提出的Hebb学习规则为神经网络的学习算迭奠定了基础。Hebb规则认为学习过程最终发生在祌经元之间的突触部位,突触的联系强度随着突触前后神经元的活动而变化。在此基础上，人们提出了各种学习规则和算法，以适应不同网络模型的需要。有效的学习算法，使得神经网络能够通过连接毯值的调整，构造咨观世界的内迕表示，形成具有特色的

8、信息处理方法，信息存储和处理体现在网络的连接中。根据学习环境不同，神经网络的学习方式可分为监督学习和非监督学习。在监督学习中,将训练样本的数据加到网络输入端，同时将相应的期望输出与网络输岀相比较，得到误差信号，以此控制权值连接强度的调整，经多次训练后收敛到一个确定的权值。当样本情况发生变化时，经学习可以修改权值以适应新的环境。使用监督学习的神经网络模型有反传网络、感知器等。非监督学习吋，事先不给定标准样本，直接将网络置于环境之中，学习阶段与工作阶段成为一体。此吋，学习