神经网络集成的泛化能力研究及其应用

《神经网络集成的泛化能力研究及其应用》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、兰州理工大学硕士学位论文神经网络集成的泛化能力研究及其应用姓名：陈涓申请学位级别：硕士专业：计算机应用技术指导教师：於时才20090330硕士学位论文摘要目前，神经网络集成技术已经被广泛应用于回归和分类等诸多领域。提高预测和分类的精度作为其应用的一种是目前很多决策领域面对的重要而困难的工作，多模型结合的结构是预测领域一个较为有效的方法，而神经网络集成作为多模型结合结构的一种，易于使用且效果明显，已然成为目前国际机器学习和神经计算界的研究热点。本文通过对神经网络集成理论的研究，将神经网络集成用于时间序

2、列预测领域和分类领域，通过增加集成系统的泛化能力的方法来提高时序预测的精度。在提高集成系统的泛化能力方面主要做了如下研究和探讨。首先，从原始训练数据角度，为了尽可能的充分利用训练数据，提高集成的泛化能力，通过在训练样本上加入一定量噪声的方法，增大了训练样本集，新训练数据集和原数据集相似，不同的个体网络在不同的训练样本上训练，增加了集成中个体网络的差异度。从这个角度来提高神经网络集成的泛化能力。其次，从增加个体网络间差异度的角度，引入基于小生境技术的神经网络进化集成方法。利用小生境技术在增加进化群体的

3、多样性，提高进化的局部搜索方面的良好性能，通过个体间的相似程度的共享函数来调整神经网络集成中个体网络的适应度，再依据调整后的新适应度进行选择，以维护群体的多样性，得到多样性的个体网络，提高神经网络集成系统的泛化能力。最后，将提出的方法应用于南方某城市的电力负荷短期预测及UCI机器学习知识库下面的两个标准数据集，实验仿真显示，取得了较好的效果。关键词：神经网络集成：泛化能力；噪声添加；小生境；进化集成；聚类神经网络集成的泛化能力研究及其应用AbstractNo、Ⅳ，neuralnetworkensem

4、bletechnologyhasbeenwidelyappliedinregressionandclassi行cationfields．InlproVingclassificationandforecastingaccuracyasoneofitisanimponantyetdimculttaskfacingdecisionmakerinmanyareas．Combingmultiplemodelscanbeanef诧ctivewaytoimproVeforecastingperformance．N

5、euralnetworkensemble(NNE)asoneofmultiplemodels，easytouseandgoodperformance，isbecomingahotresearchfieldinmachinelearningandneuralcomputing．Inthispaper'wehavedonesomeresearchontheoryofNNEandappliedittothefieldoftimeseriesforecastingandclassification，thro

6、ughincreasingNNEgeneralizationerrortoimprovetimeseriesforecastingaccuracy．MainlyworksaboutimproVingNNEgeneralizationerrorareshownasf．ollowing．Firstly，fIromthepointoforiginaltrainingdata，inordertof．ullyusingoriginaltrainingdataandimproVinggeneralization

7、error，byaddingnoisesintotheinputdataandthusaugmenttheoriginaltrainingdatasettof．0rmmodelsbasedondiff-erentbutrelatedtrainingsamples．Individualneuralnetworkstrainondif诧renttrainingsanlplesandgethighdiff．erencedegree．Formthisangle，itimproVegeneralization

8、error．Secondly，inordertoaugmentdifferencedegreeofindiVidualnetworks，proposingamethodofevolutionaryensemble0fneuralnetworkbasedonnichetechnique．Usingnichetechnique’sgoodperfbrmanceinincreasingpopulationdiversityandimprovinglocalsearchofe