基于循环神经网络的依存句法分析模型研究

《基于循环神经网络的依存句法分析模型研究》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、分类号密级ＵＤＣ论文编号㈱化Ｗ硕±学位论文论文题目：基于循＾不神经网络的依存句法分析模型研究研究生：张俊驰导师：胡捷副教授专业：系统分析与集成研究方向：自然语言处理２０１６年５月分类号：学校代号：１０５１２〇〇占＾学号：５＾＾１３出１０知湖北大学硕±学位论文基于循环神经网络的依存句法分析模型研巧作者姓名：张俊驰指导教师姓名、职称：胡捷副教授，申请学位类别：理学硕±学科专业名称：系统分析与集成研究方向；自然语言处理论文提交日期：２０１６

2、年４月１１日论文答辩日期：兴年ｆ月日学位授予单位：湖北大学学位授予日期：年月曰答辩委员会主席：ＲｅｓｅａｒｃｈｏｎＲｅｃｕｒｒｅｎｔＮｅｕｒａｌＮｅｔｗｏｒｋｂａｓｅｄＤｅｐｅｎｄｅｎｃｙｐａｒｓｉｎｍｏｄｅｌｇＡＴｈｅｓｉｓＳｕｂｍｉｔｔｅｄｆｏｒｔｈｅＤｅｇｒｅｅｏｆＭａｓｔｅｒＣａｎｄｉｄａｔｅ；Ｚｈａｎｇ化ｎＣｈｉＳｕｅｒｖｉｓｏｒ：Ａ．Ｐｒｏｆ．ＨｕＪｉｅｐＨｕｂｅｉＵｎｉｖｅｒｓｉｔｙＷｕｈａｎ，Ｃｈｉｎａ学位论文使用授权书本论义作者完全了解

3、学校关于保存、使用学位论义的管理办法及規定，即学极有权保留并向围家有关却口或机巧送交化文的复印件和电子版，允许论文被查闽和借阅。本人完全同意《中国博壬＂＂学粒论文全文数据库出版牵稽》、《中国优秀硕±学谊论文全文数据宰齒版窜稽》（Ｗ下简称章程，見ＷＷＷ．ｃｎｋｉ．ｎｅｔ）（光盘叛）运子杂志社在，愿意将本人巧学位论文提巧中国学术菊巧《中困巧击学位论文全文数巧牵》、《中图优劳硕击学位论文全文数据库》中全文发表和Ｗ电子、网给及其他数ＣＮＫＩ字煤掉化式公开出版．并同意端Ａ《中国知识资源总痒》．在《中国博硕去学位论文巧化数場互联＂＂

4、库》中使用和在网上传播，罔惠按章卷规定辜受相关权益（黄作者直操与杂志社联系，联００－６２７９－１８１７６２７９３１７６、６２７０１１７９８４系入：栗老师；电巧：１、；通讯难址：化京濟华大学邮局始０００８４）信箱采編中々邮編：１。一本授权书签署。式互巧．史消北大学学谊评定寞员会本公室学泣论文作者签名；导师签《；狄絶曼也年ｇ月如日是年月扣曰巧北大学研究生学位论文作香语息沦文题目基于循环神经网络的依存句法分析摸型研究姓名张使舰学号２０１別１Ｕ０４０００６６０答辩日期２０１．６年５月２０日论＂

5、义没别博生口硕壬因院计算机与信息工程专莱统分析与集成＾联系电话作者Ｅ－ｍａｉ１作者通倍地址（含邮编）：备注；注：本论义如需巧密，保密巧别是，解密时间量牟月。（保密学谊沦文在瓣密盾适＿＿＿＿＿＿■用于本授权爷）基于循环神经网络的依存句法分析模型硏究摘要依存句法分析是自然语言处理的重要工作，对句子依存结构分析的好坏直接影响系统更深层次分析句子的能力。传统的句法分析模型，特征表示方法是将训练语料中出现的信息离散的字符串形式记录，系统的性能主要依赖人工特征模板设计的优劣。该方法存在数

6、据稀疏问题，并且大量的离散特征需要更多的内存与计算资源，实际应用中容。易产生模型过拟合？及＾＾分析速度不够的问题本文根据现有依存句法分析器存在的不足，结合深度学习的词语分布表示技术提出了新的依存句法分析模型，具体研究工作如下：（１）研究了传统依存句法分析模型与词语分布表示技术。首先介绍了依存句法分析的基本概念和常用分析方法。然后，对现有的神经网络语言模型及词向量表示技术进斤理论分析。最后，它，阐述了近年来具有代表性的神经网络依存句法分析模型利用特征一分布表示技术取得了较好的效率和准确度ｉｌ进，但分析的准确度还可！＾步提高。

7、（２）提出并实现了循环神经网络依存句法分析模型。针对基于转移的神经网络依存句法分析模型对当前动作决策只能利用有限窗口信息，无法捕捉词语长距离依赖特征问题，提出并实现了基于循环神经网络的依存句法分析模型。从词向量和词性向量表示上进行改进，使用双向长短时记忆单元作为网络结构的非线性变换层。实验表明，该方法能够减少系统设计的复杂性并提升依存句法分析性能。（３）提出并实现了基于编码解码的分层式依存句法分析模型。针对依存句法分析中一基于图的方法和基于转移的方法存在的问题，提出种编码解码依存句法分析模型，利一用循环神经网络对整

8、个句子进行编码，将输入句子映射到个低维向量空间。解码阶段，结合当前词的上下文特征与己编码的句子向量作为条件，共同决定当前词的分类标记