结合全局和局部正则化的半监督二分类算法

《结合全局和局部正则化的半监督二分类算法》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、结合全局和局部正则化的半监督二分类算法摘要:针对在半监督分类问题中单独使用全局学习容易出现的在整个输入空间中较难获得一个优良的决策函数的问题,以及单独使用局部学习可在特定的局部区域内习得较好的决策函数的特点,提出了一种结合全局和局部正则化的半监督二分类算法。该算法综合全局正则项和局部正则项的优点,基于先验知识构建的全局正则项能平滑样本的类标号以避免局部正则项学习不充分的问题,通过基于局部邻域内样本信息构建的局部正则项使得每个样本的类标号具有理想的特性,从而构造出半监督二分类问题的目标函数。通过在标准二类数据集上的实验,结果表明所提出的算法其平均分类正确率和标准误差均优于

2、基于拉普拉斯正则项方法、基于正则化拉普拉斯正则项方法和基于局部学习正则项方法。关键词:半监督学习;二分类问题;全局正则化;局部正则化;平滑semi-supervisedbinaryclassificationalgorithmbasedonglobalandlocalregularization英文作者名ljia1,2,3*英文地址(1.schoolofmathematicalsciences,innermongoliauniversity,hohhotneimongol010021,china;2.collegeofcomputerandinformationsci

3、ence,chongqingnormaluniversity,chongqing400047,china;3.collegeofscience,chinaagriculturaluniversity,beijing100083,china)abstract:asforsemi-supervisedclassificationproblem,itisdifficulttoobtainagoodclassificationfunctionfortheentireinputspaceifgloballearningisusedalone,whileiflocallearnin

4、gisutilizedalone,agoodclassificationfunctiononsomespecifiedregionsoftheinputspacecanbegot.accordingly,anewsemi-supervisedbinaryclassificationalgorithmbasedonamixedlocalandglobalregularizationwaspresentedinthispaper.thealgorithmintegratedthebenefitsofglobalregularizerandlocalregularizer.g

5、lobalregularizerwasbuilttosmooththeclasslabelsofthedatasoastolesseninsufficienttrainingoflocalregularizer,andbasedupontheneighboringregion,localregularizerwasconstructedtomakeclasslabelofeachdatahavethedesiredproperty,thustheobjectivefunctionofsemi-supervisedbinaryclassificationproblemwa

6、sconstructed.comparativesemi-supervisedbinaryclassificationexperimentsonsomebenchmarkdatasetsvalidatethattheaverageclassificationaccuracyandthestandarderroroftheproposedalgorithmareobviouslysuperiortootheralgorithms.keywords:semi-supervisedlearning;binaryclassificationproblem;globalregul

7、arization;localregularization;smooth0引言在解决机器学习和模式识别中的分类器学习问题时,通常根据训练样本的类标号是否参与训练而将学习分成三类:训练样本类标号要参与训练的,称之为有监督学习[1-2];训练样本类标号不参与训练的,称之为无监督学习[3];部分样本的类标号参与训练的,称之为半监督学习[4-5]。在实际应用中,获取大量有标记数据通常费时且代价较高,例如web文本分类中[6],很容易收集到web网页,但标记不同的网页为对应的主题却费时费力,因此旨在从大量无标记样本和少量有标记样本中学习的半监督学习