《神经网络设计》PPT课件.ppt

《《神经网络设计》PPT课件.ppt》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、神经元模型和网络结构第二章单输入神经元传输函数：硬极限传输函数传输函数：线性传输函数传输函数：对数S-形传输函数常用传输函数常用传输函数多输入神经元简化记号神经网络的层简化记号多层神经网络简化记号递归网络：延时模块递归网络：积分器模块递归网络如何选择一种网络结构网络的输入个数=应用问题的输入个数输出层神经元的数目=应用问题的输出数目输出层的传递函数选择至少部分依赖于应用问题的输出描述一个说明性实例第三章苹果/橘子分类器问题描述特征向量标准橘子向量标准苹果向量方案1：感知机实现两输入单层感知机判定边界：苹果/橘子实例判定边界：网

2、络测试苹果：苹果：橘子：椭圆的橘子：方案2：Hamming网络前馈层Hamming(汉明)距离：两个向量中不同元素的个数递归层Hamming网络测试椭圆的橘子：前馈层：前馈层：递归层：方案3：Hopfield网络Hopfield网络测试椭圆的橘子：扩展的问题当输入较多而判定边界无法用图示方法表示的情况下，如何设计多输入感知机的权值和偏置值？如果要识别的问题不是线性可分的，能否通过扩展标准感知机来解决这类问题？当不知道标准模式时，Hamming网络如何学习权值和偏置值？如何确定Hopfield网络的权值矩阵和偏置值向量？如何知道

3、Hopfield网络最终是否会收敛？感知机学习规则第四章学习规则监督学习学习规则由一组描述网络行为的实例集合（输入、输出对；训练集）给出增强学习对网络的某些输入序列进行评分，来作为网络的性能测度无监督学习学习算法仅依赖于网络输入，通常是对输入进行聚类感知机的结构单神经元感知机判定边界判定边界上的点与权值向量的内积相等判定边界上的点到权值向量上的投影相等，即它们应该位于正交于权值向量的直线上权值向量总是指向神经元输出为1的区域例：或运算(OR)多神经元感知机每个神经元都有自己的判定边界单神经元能将输入向量分为两类多神经元（S个）

4、感知机能将输入向量分为2S类学习规则：测试问题起始点随机生成初始权重向量输入第一个向量p1错误的分类！学习规则的尝试将1w置为p1将1w加上p1尝试性规则：第二个输入向量(错误的分类)修正学习规则:第三个输入向量模式被正确分类时(错误的分类)统一的学习规则偏置值可视为输入1的权重令多神经元感知机学习规则更新第i行权值矩阵:矩阵形式:苹果/橘子分类器训练集初始权重第一次迭代第二次迭代第三次迭代感知机学习规则收敛性感知机规则总能收敛到能够完成分类的权值和偏置值，如果这些值存在的话证明P45什么时候感知机能完成分类的权值和偏置值存

5、在？即感知机能够求解哪些问题？线性可分性输入向量能够被一个线性边界（超平面）分开的问题感知机的局限性线性判定边界线性不可分问题