融合模糊与神经网络技术的数据挖掘算法研究

《融合模糊与神经网络技术的数据挖掘算法研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、上海交通大学硕士学位论文融合模糊与神经网络技术的数据挖掘算法研究姓名：孙健申请学位级别：硕士专业：计算机软件与理论指导教师：申瑞民2003.1.1上海交通大学硕士学位论文融合模糊和神经网络技术的数据挖掘算法研究融合模糊与神经网络技术的数据挖掘算法研究摘要本文运用软计算框架中的两种技术——模糊和神经网络技术对数据挖掘算法进行了迸一步的研究，研究的着眼点在于提高数据挖掘算法的泛化能力以及抗噪能力。文章研究内容主要分为三个部分：～是对支持向量机的研究，一是径向基函数(RBF)网络结构学习算法的研究，一是改进模糊C

2、一均值(FCM)聚类算法的研究。(有关支持向量机的研究，着重介绍了支持向量机的数学模型、基于支持向量机的夯类器构造算法以及支持向量机的性能分析及特点，特别探讨了正则化理论与支持向量机之间的关系，并提出了一个基于支持向量机的智能学习推荐器构建方案。实验表明与基于BP算法的推荐器相比，该推荐器具有更高的准确性和更强泛化能力。对径向基函数(RBF)网络结构学习算法的研究主要是提出了一种提高RBF网络泛化能力的自适应学习算法。对应于RBF网络训练中的输入层到隐含层之间的非线性映射过程，我们使用的是不同于事先设定隐含

3、层拓扑结构的做法，采取的是前向选择算法结合聚类样本转移算法来动态确定隐含层节点数目的方法，具体可分为隐节点数目初始确定阶段和调整阶段。隐节点数目初始确定阶段采用的是聚类半径衰减的前向选择算法(Ⅺ)Fsc)；隐节点数目调整阶段主要是考虑了输入向量的类别信息，引入了扩展聚类及其对应不纯度两个概念，并在此基础上提出了一种新型的聚类样本转移算法(ⅣCST)。经过调整之后，我们可以得到最终的隐节点数目。此外，隐节点中心向量的确定采用的是求聚类所包含样本均值的方法；隐节点宽度的确定则综合考虑了类内密度和类间距离两个因素

4、，并给出了形式化计算方法。对应于RBF网络训练中的隐含层到输出层之间的线性映射过程，我们沿用经典的后向传播算法(伪逆矩阵方法)来训练网络的连接权重。仿真试验选取的是评估神经网络分类复杂边界样本能力的基准问题——双螺旋线问题数据集，分无噪声干扰与有噪声干扰两种情况，对算法的结果进行了分析与讨论，并与使用支持向量机算法得到的结果进行了比较。实验结果表明该算法具有较高的效率与泛化能力。上海交通大学硕士学位论文融合模糊和神经网络技术的数据挖掘算法研究有关改进FCM聚类算法方面的研究，主要是提出了一种基于熵正则化方法

5、的改进模糊C一均值(ERFCM)聚类算法。该算法通过把一些能够标识聚类半径的统计量作为先验知识引入到原来的FCM聚类算法中，运用熵正则化方法，得到了一个新的最优化问题。通过对该最优化坶题的目标函数进行求解，得到了一种确定聚类原型向量、模糊聚类划分矩阵的新方法；结合引入的统计量，可实现输入模式的聚类。理论推导和实验结果都证实了该算法产生的聚类更加“紧密”，聚类边界更加“清晰”，并且能够保持较低的总体错分率。另外，通过借鉴神经网络中竞争学习的思想，又提出了～种神经网络与模糊技术相结合的算法——cERFcM聚类算

6、法，该算法聚类中心的确定过程类似于神经网络中竞争学习的过程。实验结果表明该算法也具有较好的效果y关键词泛化能力聚类有效性正则化理论，统计学习理论，RBF网络，熵正则化，模糊C-均值昭、搋糍舰II兰鲞銮望查堂堡主主些丝奎堂堂堡塑塑翌丝塑垫垡查堕墼塑丝塑苎堕里堕RESEARCHONDATAMININGALGORITHMSFUSINGFUZZYANDNEURALNETWORKTECHNOLOGIESABSTRACTThispaperdoesfurtherresearchesonthedataminingalgor

7、ithmusingthetwotechnologiesinthesoftcomputingframework----·-fuzzytechnologyandneuralnetworktechnology．Ourresearchgoalliesinimprovingthegeneralizationabilityandnoise-resistanceabilityofthedataminingalgorithm．ThewholeresearchcontentCanbedividedintothreeparts

8、：SupportVectorMachine(SVM)，thenetworks仉IcturelearningalgorithmoftheRBFnetworkandimprovedfuzzyC-Meansclusteringalgorithm．AsfortheresearchofSVM，WeespeciallyintroducethemathematicalmodelofSVM，theclassificationco