logistic模型对非平衡数据的敏感性测度、修正与比较

《logistic模型对非平衡数据的敏感性测度、修正与比较》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、学校编码：１０１７３分类号密级＿＿＿学号：２０１４１００４７０ＵＤＣ＿＿？杂化资／、夸硕±学位论文Ｌｏｉｓｔｉｃ模型对非平衡数据的敏感性；ｇ测度、修正与比较ＴｈｅＳｅｎｓｉ村ｖｉｔｏｆＬｏｉｓ村ＣＲｅｒｅｓｓｉｏ凸ｔｏＵｎｂａｌａｎｃｅｄＤａｔａ：ｙｇｇＭｅａｓｕｒｅｍｅｎｔ，ＣｏｒｒｅｃｔｉｏｎａｎｄＣｏｍｐａｒｉｓｏｎ指导教师姓名：魏珪瑞—级学科名琼：统计学二级学科名祿：统计学论文答辨时间：２０１６年１１月摘要一近年来，非平衡数据分类问题已成为机器学习和数据挖掘领域的个研究热点一类或某些

2、类的样木量与其他类相差悬。非平衡数据集是指数据集中某殊，其中样本量较少的称为稀有类，而样本量较多的称为多数类。由于数据集的非平衡性，，使得传统分类算法对稀有类的识别能力大大减弱。在实际问题中遗漏或错分稀有类往往会造成严重的损失，因此，人们更加关注稀有类的分类准确率，，这。针对上述问题解决非平衡数据分类问题的新方法应运而生些方一ｉ法主要可■分为两种，种是基于算法层面的改进方法，即在传统分类算法的ｔｉ基础上进行相应地改进，使改进后的新算法在分类过程中不但关注整体的分类效果，而且更加注重稀有类的分类效果，进而提高稀有类的分类准确率，如代价敏感学习一、集成学习、单类

3、学习、特征选择和训练集划分等；另种是基于数据层面的改进方法，即采用不同的抽样方法对原有的非平衡数据集进行预处理，使处理后的数据集中稀有类与多数类的分布基本平衡，如简单随机抽样、单边选择、ＳＭＯＴＥ等。在非平衡数据分类问题的研究中，评价指标的选取也一是至关重要的，评价指标不能单独考虑某类的分类准确率，而要综合考虑稀有类与多数类的分类效果，如ＡＵＣ值、Ｇ统计量、Ｆ统计量、民０Ｃ曲线等。其中，最直观的方式是采用民ＯＣ曲线，民０Ｃ曲线完整地显示了分类器在不同参数或阔值条件下对稀有类与多数类分类错误的所有可能的组合。随着机器学习和数据挖掘的不断发展与完善，用于分类的模

4、型算法越来越多，分类技术也日趋成熟，如判别分析、Ｌｏｇｉｓｔｉｃ模型、ＫＮＮ算法、决策树、支持向量机等，，也取。在实际问题中这些分类算法都得到了广泛的应用得了不错的分类效果。本文选取解释性较强、稳健性较高的Ｌｏｇｉｓｔｉｃ模型作为研究ｌ对象，＾ＵＣＩ数据库为研究样本，并对数据样本施Ｗ平衡化的五折交叉验证技术，分析Ｌｏｇｉｓｔｉｃ模型对不同程度非平衡数据的敏感性。研究表明：（１）Ｌｏｉｓｔｉｃ模型在分类预测中会受到非平衡数据的影响ｇ，且数据非平衡ｉｔｉ程度越高，ｌｏｇｓｃ模型对稀有类的识别能力越差。（２）相对于民０Ｓ、ＲＵＳ和ＳＭＣＸＴＥ等其他修正方法，ＯＳ

5、Ｓ方法的改进效民０ＳＲＵＳ这果不明显且不稳定，和类简单随机抽样方法的；相对于复杂抽样修正效果更优。Ｉ＋（３）在模型评估方面，构造平衡化的五折交叉验证，发现相对于Ａｃｃ和Ｇ统计量，，ＡＵＣ值不适宜于非平衡数据条件下的模型选择因为在非平衡数据条件下，它既不能有效地区分四种修正方法之优劣，而且修正前后的差异亦不能辩。关键词：Ｌｏｇｉｓｔｉｃ模型，非平衡数据，ＲＯＣ曲线，ＡＵＣ值，平衡化五折交叉验证ＩＩＡＢＳＴＲＡＣＴＩｎｒｅｃｅｎｔｅａｒｓｃｌａｓｓ行ｃａｔｉｏｎｆｏｒｕｎｂａｌａｎｃｅｄｄａｔａｓｅｔｓｈａｓｂｅｃｏｍｅａｈｏｔ

6、ｔｏｉｃｉｎｙ，ｉｐｔｈｅｆｉｅｌｄｏｆｍａｃｈｉ打ｅｌｅａｍｉ打ｇａｎｄｄａｔａｍｉ打ｉ打．Ｔｈｅｕｎｂａｌａｎｃｅｄｄａｔａｓｅｔｓｒｅｆｅｒｔｏｔｈａｔ呂ｔｈｅｓａｍｐｌｅｓｏｆｏｎｅｃｌａｓｓａｒｅｌｅｓｓｔｈａｎｔｈｅｏｔｈ巧ｏ打ｅｏｒｏｔｈｅｒｓ．ＡｎｄｔｈｅｃｌａｓｓＣＯ打ｔａｉ打ｉ打ｇｏ打ｌｙａｆｅｗｓａｍｐｌｅｓｉｓｃ过ｌｉｅｄｒ过ｒｅｃａｌｓｓ，＼ｖｈｉｌｅｔｈｅｏｔｈｅｒｏ打ｅＣＯ打ｔａｉ打ｉｎｇｍｏｒｅｓａｍｅｓｓｃａｌｌｅｄｍａｏｔｃａｓｓＴｈｅｔｒａｄｉ

7、ｔｉｏｎａｍａｃｈｎｅｌｅａｍｉ打ａｏｒｉｔｈｍｓｐｌｉｊｒｉｙｌ．ｌｉｇｌｇｐｅｒｆｏｒｍｂａｄｌｙｏｎｔｈｅｒａｒｅｃｌａｓｓｄｕｅｔｏｔｈｅｉｍｂａｌａｎｃｅｉｎｔｈｅｃｌａｓｓｄｉｓｔｒｉｂｕｔｉｏｎ．虹ｒｅａｌｉｔｙｔｈｅｃｏｓｔｏｆｍｉｓｓｉｎｏｒｍｉｓｃｌａｓｓｉｆｉｎｔｈｅｒａｒｅｃｌａｓｓｉｓｕｓｕａｌｌｍｕｃｈｈｉｈｅｒ，ｇｙｇｙｇ