基于蜜蜂算法的支持向量机特征选择和参数优化.pdf

《基于蜜蜂算法的支持向量机特征选择和参数优化.pdf》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、第l1期组合机床与自动化加工技术NO．112013年11月ModularMachineTool&AutomaticManufacturingTechniqueNOV．2013文章编号：lOOt一2265(2013)11—0041一o3基于蜜蜂算法的支持向量机特征选择和参数优化术陈渊，马宏伟(西安科技大学a．理学院；b．机械工程学院，西安710054)摘要：针对支持向量机训练过程中特征选择和参数优化的问题，提出了一种基于蜜蜂算法的支持向量机特征选择和参数优化算法，并将其应用于焊接缺陷的自动分类。该算法采用分类正确率作为适应度，利用蜜蜂算法对支持向量机的模型参数进行优化，并同时

2、选择最佳的特征子集。UCI标准数据集和焊接缺陷的分类实验结果表明，与常规支持向量机相比，蜜蜂算法优化的支持向量机能够克服局部最优解，获得了更高的分类正确率。因此，论文算法对于焊接缺陷的分类是有效可行的。关键词：支持向量机；蜜蜂算法；特征选择；参数优化中图分类号：TH16；TG659文献标识码：AFeatureSelectionandParameterOptimizationofSupportVectorMachineBasedontheBeesAlgorithmCHENYuan，MAHong．wei(a．CollegeofScience；b．CollegeofMechani

3、calEngineering，Xi’anUniversityofScienceandTechnolo—gy，Xi’an710054，China)Abstract：Aimingattheproblemoffeatureselectionandparameteroptimizationofsupportvectorma—chine(SVM)inthetrainingprocedure，anovelapproachbasedonthebeesalgorithm(BA)forfeatureselectionandparameteroptimizationofSVMispropose

4、dandappliedtoautomaticclassificationofweld—ingflaws．Inthismethod，theclassificationaccuracyratewastakenasthefitnessvalue，andBAwassimultaneouslyusedtooptimizetheSVMparameterswhilediscoveringtheoptimalsubsetoffeaturesTheexperimentalresultsforUCIstandarddatasetsandweldingflawdatasetshowthatcom

5、paredwithnormalSVM，theproposedapproachcanovercomethelocaloptimalsolutionproblem，andachieveshigherclas—sificationaccuracy．Therefore，theproposedapproachisvaluableforclassificationofweldingflaws．Keywords：supportvectormachine；thebeesalgorithm；featureselection；parameteroptimization过模拟自然界中蜜蜂的觅食行

6、为寻找问题的最优0引言解。由于其原理简单、并行性、鲁棒性强且可避免陷支持向量机是在统计学习理论基础上发展起来入局部最优，已经成功应用于函数优化、模式识别等的一种新的机器学习方法，它基于结构风险最小化领域。因此，本文以采用RBF核函数的支持向量准则，避免了局部最优解，在解决小样本、非线性及机为对象，提出基于蜜蜂算法的支持向量机特征选高维模式识别问题中表现出许多独特的优势，因而择和参数优化算法，并利用UCI标准数据集和焊接在超声检测的缺陷分类方面得到了广泛的应用”。缺陷的分类实验验证其有效性。然而在实际应用中，支持向量机模型参数(如惩罚因1支持向量机分类性能影响因素分析子C、核

7、函数参数)对分类性能有着重要的影响。另一方面，特征选择也是影响分类正确率的重要因素。支持向量机是一种适用于有限样本情况下的模因此，如何通过优化支持向量机参数和选择特征子式分类方法，它根据有限的样本信息在模型的复杂集以获得最优分类性能，是目前支持向量机分类问性和学习能力之间寻求最佳折中，以期获得最好的题研究领域的一个热点。泛化能力。它利用核函数通过非线性映射将输入空蜜蜂算法(theBeesAlgorithm，BA)是Pham等间映射到一个高维特征空间，并在特征空间中构造于2005年提出的一种新的群集智能搜索算法，它通