商务智能实训实验报告

《商务智能实训实验报告》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、商务智能实训实验报告组长：李承冲2012211195组员：姜俏南2012211172刘启丽2012211171贾晓锋2012211173王昱2012211194陆为2012211180班级：0311203组长：李承冲成员完成的任务及工作量组长评定成绩姜俏南运行代码的编写,Apriori与K均值算法的简介伪代码特点等90刘启立Bays算法的介绍、业务流程及伪代码、最新改进及最新应用情况、参考文献等85贾晓锋文档编写汇总；Knn算法的介绍、分析、最新改进或最新应用情况等90王昱BP算法的介绍、步骤解析、算法特点等85陆为ID3算法的流程、不足及改进、参考

2、文献等83一、BP算法-1-1.算法介绍-1-2.BP网络的解析步骤-3-3.运行的可视结果-4-4.算法特点分析-4-5.发展趋势-6-6.参考文献-6-二、Apriori算法-6-1.算法介绍-6-2.算法流程-6-3.运行的可视结果-7-4.最新改进或最新应用情况-9-5.参考文献列表-9-三、Bays算法-10-1.算法介绍-10-2.伪代码及流程-10-3.运行的可视结果-11-4.最新改进及最新应用情况-12-5.参考文献列表-12-四、ID3算法-13-1.算法介绍-13-2.流程-13-3.运行的可视结果-13-4.不足及改进思路-1

3、3-5.参考文献列表-14-五、kNN算法-14-1.算法介绍-15-2.算法流程-15-3.运行的可视结果-15-4.算法特点分析-16-5.最新改进或最新应用情况-16-六、K均值算法-17-1.算法介绍-17-2.流程-17-3.运行的可视结果-18-4.最新改进或最新应用情况-21-5.参考文献列表-21-附录-21-1.BP算法代码-22-2.Apriori算法代码-52-3.Bays算法代码-61-4.ID3算法代码-91-5.kNN算法代码-100-6.K均值算法代码-103-一、BP算法1.算法介绍典型的BP网络分为三层（图4.4），

4、即输入层、隐含层和输出层。其算法主要由以下四部分组成，即模式顺传播——误差逆传播——记忆训练——学习收敛。1)模式顺传播设样本输入向量，输出向量中间单元的输入向量，输出向量输出层的输入向量，输出向量其中，，为样本数。θ1θ2θpγ1γqana1a2c1cqy1yqnpqw11w12v11v12SpBpLqCq输入层到中间层的权，，中间层到输出层的权，，中间层阈值，输出层阈值，中间层输入：，输出：，输出层输入：，输出：，2)误差的逆传播根据输出层产生的误差，经中间层向输入层传播，在这个过程中，按照梯度下降原则对各层的权值和阈值进行误差校正。-127-输

5、出层计算：权值调整量计算：第k模式(样本)下，网络的输出误差的均方值为，因为，，所以，上式即为权值变化对均方值误差的影响程度，按梯度下降原则应使权值调整量与的负值成比例变化，即其中，，，。阈值调整量计算：因为，所以，按照梯度下降原则，可得到输出层各单元的阈值调整量为：中间层到输入层计算：权值调整量计算：按照梯度下降原则，可得到连接权值的调整量为：-127-阈值调整量计算：按照梯度下降原则，可得到输出层各单元的阈值调整量为：以上的推导是标准误差逆传播算法，即各连接权的调整量是分别与各个学习模式对的误差Ek成比例变化的。而相对于全局误差的连接权调整，是在

6、所有m个学习模式全部提供给网络后统一进行的，这种算法是累积误差逆传播算法。一般来讲，当样本较少时，累积误差传递算法要比标准误差传递算法速度快一点。3)记忆训练给出一组样板反复进行学习，调整权值和阈值的大小以使输出值满足一定的精度要求。4)学习收敛经过多次训练以后，网络的全局误差趋向于最小值。由于BP算法采用了按误差函数梯度下降的方向进行收敛，因此，可能使迭代陷入局部极小点，BP网络收敛依赖于样本的初始位置，适当改变隐层单元个数，或给每个权值加上一个很小的随机数，都可使收敛过程避免局部极小点。2.BP网络的解析步骤（1）初始化给权值、和阈值、赋予(-1

7、,1)之间的随机值。（2）随机取一对样本对网络进行训练（3）计算中间层的输入/出输入：，输出：（4）计算输出层的输入/出输入：，输出：（5）计算输出层的一般误差-127-（6）计算中间层的一般误差（7）修改输出层的权值和阈值（8）修正隐层的权值和阈值（9）取下一对样本返回（3）开始训练，直到m个样本训练结束（10）判断全局误差是否小于预定值，否则，回到（2）重新进行训练，直到满足要求或达到预定训练次数，停止训练。2.运行的可视结果3.算法特点分析人工神经网络（ArtificialNeural-127-Network）又称连接机模型，是在现代神经学、生

8、物学、心理学等学科研究的基础上产生的，它反映了生物神经系统处理外界事物的基本过程，是在模拟人脑神经组织的基础