基于双向LSTM的动态情感词典构建方法研究及文本情感分析

摘要

随着社会媒体的快速发展，微博在社交媒体中占据了很大分量，大部分微博表达了网民对某个事件、某个人或某产品的情感倾向性。利用情感分析技术帮助分析文本的情感，可以更好的快速整理和分析这些信息，从而获取舆论倾向性。为了能够更好地研究文本情感分析，构建一个高质量的情感词典是一个关键的环节，一个高质量的情感词典可以有效地帮助提高情感分析的质量。本文提出了构建动态情感词典的方法，在构建的情感词典基础上进行情感分析，通过循环神经网络和注意力机制来进行文本情感打分，根据文本情感分值判别文本情感极性及极性强弱。主要研究内容包括：　　（1）构建动态情感词典。首先改进CBOW模型为ECBOW模型，在原CBOW模型下增添部分网络结构得到情感特征，然后根据一个哈夫曼语义二叉树来描述语义依存关系，利用双向LSTM神经网络对每个词的二叉语义依存路径信息进行特征学习，得到二叉语义路径特征，最后加上词汇到中心词的距离特征以及中心词信息特征作为词汇的总体特征输入到biLSTM神经网络中，进行有监督的biLSTM神经网络训练来得到动态情感词典。　　（2）文本情感分类。利用biGRU作为深度网络分析基础，本文提出了基于语义注意力机制的文本情感打分方法。首先根据语义依存树结构得到文本词汇到情感词汇的语义依存路径序列，把语义依存路径序列输入到特征网络中提取语义依存路径特征，接着根据注意力机制来观察情感词对文本中其他词汇的影响来分配注意力系数，进而影响情感分值的权重，然后将注意力机制结合文本情感打分方法计算最终的文本情感分值，最后根据文本情感分值判别文本情感极性及极性强弱。　　本文以情感词典为情感分析基础，通过语义注意力机制对文本情感打分进行文本情感分类，实验结果表明本文构建的情感词典质量高于其他情感词典，其分类准确率提升了2.98%，并且基于语义注意力机制的文本情感打分方法相对基于传统SVM文本情感分类方法，在多分类中其准确率提升了11.17%。

目录

声明

1 引言

1.1 研究背景及意义

1.2 现状分析

1.2.1 情感词典构建现状

1.2.2 文本情感分类现状

1.3 主要研究内容

1.4 本文组织结构

2 相关基础理论及背景知识

2.1 深度学习理论相关介绍

2.1.1单层前馈网络

2.1.2 多层前馈网络

2.1.3循环神经网络

2.1.4 递归神经网络

2.2 BP神经网络介绍

（1）正向传播过程

（2）反向传播

2.3 基于Word2Vec进行词向量训练简介

2.4 注意力模型

2.5 本章小结

3 基于双向LSTM的动态情感词典构建方法

3.1 数据及基本处理

3.1.1 数据及其来源

3.2 词汇的情感特征提取

3.2.1 利用CBOW模型进行词向量学习

3.2.2 利用ECBOW模型提取情感特征

3.3 二叉语义依存路径特征提取

3.3.1 哈夫曼语义依存二叉树

3.3.2 二叉语义依存路径表示

3.3.3 提取二叉语义依存路径特征

3.3.4 相对位置和句子中心词信息

3.3.5 情感词典分类器构建

3.3.6 文本标签框架

3.3.7 输出层表示

3.4 实验与分析

3.4.1 不同特征组合对动态情感词典的影响

3.4.2 验证动态情感词典可扩展性

3.4.3 验证动态情感词典有效性

3.4 本章小结

4 基于语义注意力机制的文本情感打分方法

4.1 基于注意力机制的文本情感打分方法

4.1.1 语义依存路径表示

4.1.2 基于双向GRU神经网络的语义注意力机制

4.1.3 结合语义注意力机制的情感词典的打分方法

4.2 实验与分析

4.2.1 实验数据

4.2.2 不同情感词典对比实验

4.2.3 不同模型对比实验

4.3 本章小结

5 总结与展望

5.1 总结

5.2 展望

参考文献

个人履历、在校期间发表的学术论文及科研成果

个人履历

在校期间发表的学术论文

研究成果

致谢