首页 | 本学科首页   官方微博 | 高级检索  
     

基于LSTM-Attention的中文新闻文本分类
引用本文:蓝雯飞,徐 蔚,汪敦志,潘鹏程. 基于LSTM-Attention的中文新闻文本分类[J]. 中南民族大学学报(自然科学版), 2018, 0(3): 129-133
作者姓名:蓝雯飞  徐 蔚  汪敦志  潘鹏程
作者单位:中南民族大学计算机科学学院
基金项目:国家自然科学基金资助项目(61379059)
摘    要:
经典的LSTM分类模型,一种是利用LSTM最后时刻的输出作为高一级的表示,而另一种是将所有时刻的LSTM输出求平均作为高一级的表示.这两种表示都存在一定的缺陷,第一种缺失了前面的输出信息,另一种没有体现每个时刻输出信息的不同重要程度.为了解决此问题,引入Attention机制,对LSTM模型进行改进,设计了LSTM-Attention模型.实验结果表明:LSTM分类模型比传统的机器学习方法分类效果更好,而引入Attention机制后的LSTM模型相比于经典的文本分类模型,分类效果也有了一定程度的提升.

关 键 词:自然语言处理;深度学习;文本分类;长短时记忆神经网络;注意力机制

Text Classification of Chinese News Based on LSTM-Attention
Abstract:
Keywords:natural language processing   deep learning   text classification   Long Short-Term Memory Neural Network  attention mechanism
本文献已被 CNKI 等数据库收录!
点击此处可从《中南民族大学学报(自然科学版)》浏览原始摘要信息
点击此处可从《中南民族大学学报(自然科学版)》下载全文
正在获取相似文献,请稍候...
设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号