基于ERNIE和双重注意力机制的微博情感分析 |
| |
作者姓名: | 沈彬 严馨 周丽华 徐广义 刘艳超 |
| |
作者单位: | 1. 昆明理工大学信息工程与自动化学院;2. 昆明理工大学云南省人工智能重点实验室;3. 云南大学信息学院;4. 云南南天电子信息产业股份有限公司;5. 湖北工程学院信息技术中心 |
| |
基金项目: | 国家自然科学基金(61462055,61562049); |
| |
摘 要: | 针对传统词向量无法在上下文中表示词的多义性,以及先验的情感资源未能在神经网络中得到充分利用等问题,提出一种基于知识增强语义表示(Enhanced Representation through Knowledge Integration,ERNIE)和双重注意力机制(Dual Attention Mechanism, DAM)的微博情感分析模型ERNIE-DAM.首先利用现有的情感资源构建一个包含情感词、否定词和程度副词的情感资源库;其次采用BLSTM网络和全连接网络分别对文本和文本中包含的情感信息进行编码,不同的注意力机制分别用于提取文本和情感信息中的上下文关系特征和情感特征,并且均采用ERNIE预训练模型获取文本的动态特征表示;最后将上下文关系特征和情感特征进行拼接融合,获取最终的特征向量表示.实验结果表明,新模型在COAE2014和weibo_senti_100k数据集上的分类准确率分别达到了94.50%和98.23%,同时也验证了将情感资源运用到神经网络中的有效性.
|
关 键 词: | 情感分析 知识增强语义表示 长短时记忆网络 注意力机制 |
|
|