基于深度学习的短文本情感倾向性研究.pdf

《基于深度学习的短文本情感倾向性研究.pdf》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、基于深度学习的短文本情感倾向性研究李然2015年1月中图分类号：TQ028.1UDC分类号：540基于深度学习的短文本情感倾向性研究作者姓名李然学院名称计算机学院指导教师张华平副研究员答辩委员会主席李侃教授申请学位工学硕士学科专业计算机科学与技术学位授予单位北京理工大学论文答辩日期2015年1月SentimentAnalysisofShortTextwithDeepNeuralNetworksCandidateName：RanLiSchoolorDepartment:SchoolofComputerScienceFacultyMentor:AssociateProf.Hua

2、pingZhangChair,ThesisCommittee:Prof.KanLiDegreeApplied:MasterofScienceMajor:ComputerScienceandTechnologyDegreeby:BeijingInstituteofTechnologyTheDateofDefence：January，2015研究成果声明本人郑重声明：所提交的学位论文是我本人在指导教师的指导下进行的研究工作获得的研究成果。尽我所知，文中除特别标注和致谢的地方外，学位论文中不包含其他人已经发表或撰写过的研究成果，也不包含为获得北京理工大学或其它教育机构的学位或证书

3、所使用过的材料。与我一同工作的合作者对此研究工作所做的任何贡献均已在学位论文中作了明确的说明并表示了谢意。特此申明。签名：日期：北京理工大学硕士学位论文摘要短文本情感倾向性研究是指对某一个短文本中蕴含的情感极性做出不同极性标准的判别分类。本文在研究短文本情感倾向性任务的时候，首先使用词袋模型对短文本进行向量化建模，然后采用SoftMax回归对情感倾向性的多个类别做情感极性的判定。同时，本文将深度学习引入到情感倾向性判断中，通过深度神经网络模型对短文本向量做深度的自适应学习，旨在挖掘出短文本向量更深层的隐含特征，取得更好的分类效果。另外，本文对短文本的特征建模进行了改进，分别

4、提出了基于主题模型和基于神经网络语言模型的短文本特征向量建模算法。通过神经网络语言模型对短文本进行无监督深度学习之后，能将文档中词语的信息进行更好的挖掘利用，进而配合后续的聚类算法更好的建模短文本。主题模型可以挖掘出短文本的浅层语义信息，并根据主题信息更好的对短文本进行量化建模，之后本文对建模好的短文本特征向量配合SoftMax回归进行训练与测试。为验证提出算法的有效性，本文基于大规模的商品评论对上述的算法进行实验。由于开放的中文短文本情感语料数量整体较少，不能进行大规模无监督的深度学习实验。本文首先设计爬虫抓取了某知名电子商务网站的商品评论信息以及打分信息，进而对上述的四

5、个算法进行了对比实验。实验结果表明，深度神经网络模型可以更好的学习短文本特征。神经网络语言模型的短文本建模方法比词袋模型的建模方法能更好的挖掘出短文本的语义信息并提升短文本情感分类的准确性。关键词：短文本；情感倾向性；深度学习；深度神经网络模型；SoftMax回归；神经网络语言模型；主题模型I北京理工大学硕士学位论文AbstractSentimentAnalysisisclassifyingtheemotionalpolarityoftextintoseveralemotionalcategorys.Inthispaper,wefocusonsentimentanalysi

6、sofChineseshorttext.FirstweusebagofwordstodotextmodelingforChineseshorttext.ThenwetrainSoftMaxRegressionmodelforclassifyingtheemotionalpolarity.Toachieveimpressiveperformanceforsuchtask,wealsousedeeplearningmethodtorepresentshorttext.Basedonbagofwordsrepresentation,wetraindeepneuralnetwork

7、tolearnanewrepresentationofshorttext.Deeplearningcandiscovermultiplelevelsofdistributedrepresentations,withhigherlevelsrepresentingmoreabstractconcepts.Besides,thepaperproposessomenewmethodstomoreeffectivelyrepresenttheshorttext.Morespecifically,twomajorapproa