深度学习在自然语言处理中的应用

《深度学习在自然语言处理中的应用》由会员上传分享，免费在线阅读，更多相关内容在教育资源-天天文库。

1、深度学习在自然语言处理中的应用李晟群摘要：近年来，深度学习在图像和语音处理领域已经取得显著进展，但是在同属人类认知范畴的自然语言处理任务中，研究还未取得重大突破.本文通过分析目前国内外部分专家学者对面向自然语言处理的深度学习研究的总体概况，梳理、总结了相关文献，介绍深度学习的基本概念；分析讨论了当前面向自然语言处理的深度学习研究进展及应用策略和深度学习的平台和工具；对深度学习在自然语言处理处理领域的发展趋势和有待深入研究的难点进行了展望.关键词：自然语言处理，深度学习，神经网络1.前言深度学习在图像的语音领域取得了突出成果，但是在自然语言处理上还未取得重大突破，与语音和图像

2、不同，语言是一种经过人类大脑产生并加工处理的符号系统，似乎模仿人脑结构的人工神经网络应该在自然语言处理领域拥有更多优势，但实际情况并非如此.同时，近几十年来，基于统计的模型成为自然语言处理非主流方法之后，属于统计方法典型代表的人工神经网络在自然语言处理领域依然没有得到足够重视.当然，这一切在2006年Hinton等提出深度学习[1]以后，情况发生了变化，当前结合深度学习模型开展自然语言处理相关应用已经取得了一定成果，并成为研究热点之一.本文主要对深度学习在自然语言处理领域的研究概况进行总结，并且指出当前存在的问题和对未来的发展方向进行一个探讨.2.深度学习的基本概念深度学习

3、（Deeplearning）通过建立深层神经网络，模拟人脑的机制进行解释并分析学习图像、语音及文本等数据，是目前机器学习研究中的一个热点领域.传统机器学习工作的有效性，很大程度上依赖于人工设计的数据表示和输入特征的有效性；机器学习方法在这个过程中的作用仅仅是优化学习权重以便最终输出最优的学习结果.与传统机器学习方法不同的是，深度学习试图自动完成数据表示和特征提取工作；并且深度学习更强调，通过学习过程提取出不同水平、不同维度的有效表示，以便提高不同抽象层次上对数据的解释能力.从认知科学角度来看，这个思路与人类学习机理非常吻合.3.深度学习在自然语言处理领域的研究概况神经网络和

4、深度学习模型首先是在计算机视觉等领域取得了进展，而在自然语言处理领域，其获得大量应用的时间相对较晚.从二十一世纪初开始，一些将神经网络和深度学习应用在自然语言处理领域的文章被陆续发表.Bengioetal.（2003）[2]提出了利用递归神经网络建立语言模型，该模型利用递归神经网络为每个词学习一个分布表示（distributedrepresentation）的同时，也为词序列进行了建模.该模型在实验中取得了比同时期最优的n元语法模型更好的结果，且可以利用更多的上下文信息.Bordesetal.（2011）[3]提出了一种利用神经网络和知识库（knowledgebase）学习

5、介个化信息嵌入（StructuredEmbeddings）的方法，该方法在WordNet和Freebase上的实验结果表明其可以对结构化信息进行嵌入表示.Mikolovetal.（2013）[4]提出了连续词袋模型（continuousbagofwords，CBOW），该模型使用句子中某个词位置周围的词来预测该词；该工作还同时提出了skipgram模型，该模型可以利用句子中某个位置的词预测其周围的词.基于这两个模型，Mikolovetal.[4]开源了工具word2vec4，用来训练词向量，该工具已经得到了广泛应用.Kim（2014）[5]将卷积神经网络引入自然语言处理的句

6、子匪类任务.该工作利用一个具有两个通道（channel）的卷积神经网络对句子进行特征提取，最后对提取的特征进行匪类.实验结果表明卷积神经网络在对自然语言进行特征提取方面具有显著的效果.基于长短期记忆神经网络，Sutskeveretal.（2014）[6]提出了序列到序列（sequencetosequence）模型，在该文章中，序列到序列模型被应用于机器翻译任务.该模型使用了两个长短期记忆神经网络分别作为编码器（encoder）和解码器（decoder）.在编码器部分，该网络在每个时候读取一个源语言词汇，直到读取至一个结束符，即得到了该序列的一个表示.将源语言序列编码完成后，

7、使用源语言序列的编码表示初始化编码器.使用递归神经网络的预测模型，即可解码出相应的目标语言序列.该模型十分新颖，并且在机器翻译任务中取得了与传统方法可比较的BLEU值.Taietal.（2015）[7]提出了树状长短期记忆神经网络.由于传统的递归神经网络通常用于处理线性序列，而对于自然语言这种有着内在结构的数据类型，这种线性的模型可能一些信息丢失.因此，该模型将长短期记忆神经网络用于分析树中，并在情感分类（sentimentanalysis）取得了良好的效果.4.深度学习在自然语言处理领域的典型应用相比于图像和语音