基于决策树的分类方法研究

《基于决策树的分类方法研究》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、南京师范大学硕士学位论文基于决策树的分类方法研究姓名：戴南申请学位级别：硕士专业：计算数学（计算机应用方向）指导教师：朱玉龙2003.5.1南京师范太学2003年砸{：研究生毕业论文璀于决镱树的分类方法研究摘要厂{数掘挖掘，又称数据库中的知识发现，是指从大型数据库或数据仓库中提取具有潜在应用价值的知识或模式。模式按其作用可分为两类：描述型模式和预测型模式。分类模式是一种重要的预测型模式。挖掘分娄模式的方法有多种，如决策树方法、贝叶斯网络、遗传算法、基于关联的分类方法、羊H糙集和k一最临近方、／法等等。，／驴I本文研究如何用决策树方法进行分

2、类模式挖掘。文中详细阐述了几种极具代表性的决策树算法：包括使用信息熵原理分割样本集的ID3算法；可以处理连续属性和属性值空缺样本的C4．5算法；依据GINI系数寻找最佳分割并生成二叉决策树的CART算法；将树剪枝融入到建树过程中的PUBLIC算法：在决策树生成过程中加入人工智能和人为干预的基于人机交互的决策树生成方法；以及突破主存容量限制，具有良好的伸缩性和并行性的SI，lQ和SPRINT算法。对这些算法的特点作了详细的分析和比较，指出了它们各自的优势和不足。文中对分布式环境下的决策树分类方法进行了描述，提出了分布式ID3算法。该算法在传

3、统的ID3算法的基础上引进了新的数掘结构：属性按类别分稚表，使得算法具有可伸缩性和并行性。最后着重介绍了作者独立完成的一个决策树分类器。它使用的核心算法为可伸缩的ID3算法，分类器使用MicrosoftVisualc++6．0开发。实验结果表明作者开发的分类器可以有效地生成决策树，建树时间随样本集个数呈线性增长，具有可伸缩性。。，，荡囊关键字：数据挖掘1分类规则，决策树，分布式数据挖掘南京师范大学2003年硕士研究生毕业论文娃于决策树的分类方法研究AbstractDatamining，referredtoasknowledgediscov

4、eryindatabases，istheextractionofpaRemsrepresentingvaluableknowledgeimplicitlystoredinlargedatabasesordatawarehouses．ClassificationisaformofdataanalysisthatCallbeusedtoextractmodelsdescribingimportantdataclasses．Therearemanytechniquesfordataclassificationsuchasdecisiontree

5、induction，BayesianclassificationandBayesianbeliefnetworks，association·basedclassification，geneticalgorithms，roughsets，andk—nearestneiighborclassifiers．Thispaperintroducesthedecisiontreemethodforclassification．Firstly'somebasicalgorithmsforinducingdecisiontreearediscussed，

6、includingID3，whichusesinformationgaintoselectasplittingattributewhenpartitioningatrainingset；C4．5，whichCandealwithnumericattributes；CART,whichBsesG]NIruleinattributeselectionandinducesabinarytree；PUBLIC，whichputstreepruninginthetreebuildingphase；Interactivemethod，whichput

7、sArtificialIntelligenceandhuman·computerinteractionintotheprocedureofdecisiontreeinduction；aswellasSLIQandSPRINTwhicharescalableandcanbeeasilyparallelized．Advantagesanddisadvantagesofthesealgorithmsarealsopresented．Methodsforinducingdecisiontreeindistributeddatabasesystem

8、aredescribedandadistributedalgorithmbasedonID3isproposed．Usinganewdatastructurecalledattributesd