knn和svm算法在中文文本自动分类技术上比较研究分析

《knn和svm算法在中文文本自动分类技术上比较研究分析》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、个人收集整理仅供参考学习KNN和SVM算法在中文文本自动分类技术上地比较研究[日期：2009-07-22]来源： 作者：[字体：大中小]马建斌‘，李谨，滕桂法’，王芳’，赵洋’摘要:中文文本分类技术在中文信息智能处理方面具有十分重要地作用比如:中文信息检索和搜索引攀等KNN、贝叶斯、SVM等算法都可以应用到中文文本分类技术上，本研究分析和比较了KNN和SVM两种分类算法，并通过实验比较这两种算法对中文文本分类技术地效果.结果表明:SVM算法较优，是一种较好地中文文本分类算法.b5E2RGbCAPThecomParisonstudiesontheal

2、gorithmofKNNandSVMforchinesetextClassificationp1EanqFDPwAbtraet::Chinesetextelassifieation15importantforehineseintelligentinformationmanagement，suehasehineseinformationretrievalandrehengine.AIOtofalgorithmseanbeusedforChinesetextelassifieation，suehasKNN，BayesandSVMete.ThePaper

3、hasanalyzedandcomparedtheKNNandSVMalgorithm.AndtheeffectofthetwoagorithmsonChinesetextelassifieationwasgotbytheexperiments.TheresultsindieatedthattheSVMalgorithmwasbetterthantheKNNalgorithm，whiehprovedthattheSVMalgorithmwasoneexcellentehinesetextelassifieationalgorithm.DXDiTa9

4、E3dKeywords:Chinesetextelassifieation;KNN;SVM随着计算机技术、信息技术地发展，尤其是互联网地日益普及，以半结构化或完全非结构化为主地电子信息呈几何级数增长，当前，仅google搜索引攀搜索地网页就达40多亿.如此海量地信息，为网络用户地工作和生活带来了极大地便利，但是如何从海量地信息中快速、准确地找到用户感兴趣地内容成为一个需要迫切解决地问题.基于内容地信息检索和数据挖掘逐渐成为备受关注地领域.其中，文本分类技术是信息检索和文本挖掘地重要基础，其主要任务是在预先给定地类别标记(label)集合下，根据文本

5、内容判定它地类别.文本分类在自然语言处理与理解、信息组织与管理、内容信息过滤等领域都有粉广泛地应用.RTCrpUDGiT8/8个人收集整理仅供参考学习20世纪90年代以前，占主导地位地文本分类方法一直是基于知识工程地分类方法，即由专业人员手工进行分类.人工分类非常费时，效率过低.20世纪90年代以来，众多地统计方法和机器学习方法应用于自动文本分类，文本分类技术地研究引起了研究人员地极大兴趣.目前英文自动分类已经取得了丰硕地成果，提出了多种成熟地分类方法，如最近邻分类(Knearestneighbor，KNN)、贝叶斯分类川、决策树以及支持向量机(S

6、up因rtveetormaehine，svM)[，]、向量空间模型(vesto:spaeemedel，vSM)、回归模型和神经网络川等方法，但对5PCzVD7HxA于中文文本地自动分类技术研究尚不尽人意.目前国内中文文本分类研究主要集中在朴素贝叶斯、KNN、向量空间模型[’]和支持向量机[’]等技术上.本研究分析和比较KNN和SVM这两种机器学习算法在中文文本自动分类技术上地应用，并通过实验比较这两种分类算法地效果.jLBHrnAILg1中文文本分类技术自动文本分类也就是在已有数据地基础上学会一个分类函数或分类模型，即所谓地分类器(Classifi

7、er).为文档集合中地每个文档确定一个类别.现在主流地文本分类方法是基于机器学习地方法，此方法首先使用训练样本进行特征选择和分类器训练，然后把特征形式化待分类样本输人到分类器进行类别判定，最终得到输人样本地类别.基于机器学习地自动文本分类方法地基本过程包括文本地特征表示、特征提取、特征选择、文本分类等过程.xHAQX74J0X1.1文本特征衰示和特征提取用简单而准确地方法将文档表示成计算机能够处理地形式是进行文本分类地基础，它是对从文本中抽取出地特征项进行量化，以一定地特征项表示目标信息.最经典文本形式化表示方法是20世纪60年代Salton等人提

8、出地向量空间模型(VSM).向量空间模型地基本思想把文档简化为以项地权重为分量地向量表示:(w，，w:，w3……w，)，其