首页 | 本学科首页   官方微博 | 高级检索  
     检索      

基于LSTM-Attention的中文新闻文本分类
引用本文:蓝雯飞,徐 蔚,汪敦志,潘鹏程.基于LSTM-Attention的中文新闻文本分类[J].中南民族大学学报(自然科学版),2018(3):129-133.
作者姓名:蓝雯飞  徐 蔚  汪敦志  潘鹏程
作者单位:中南民族大学计算机科学学院
基金项目:国家自然科学基金资助项目(61379059)
摘    要:经典的LSTM分类模型,一种是利用LSTM最后时刻的输出作为高一级的表示,而另一种是将所有时刻的LSTM输出求平均作为高一级的表示.这两种表示都存在一定的缺陷,第一种缺失了前面的输出信息,另一种没有体现每个时刻输出信息的不同重要程度.为了解决此问题,引入Attention机制,对LSTM模型进行改进,设计了LSTM-Attention模型.实验结果表明:LSTM分类模型比传统的机器学习方法分类效果更好,而引入Attention机制后的LSTM模型相比于经典的文本分类模型,分类效果也有了一定程度的提升.

关 键 词:自然语言处理  深度学习  文本分类  长短时记忆神经网络  注意力机制

Text Classification of Chinese News Based on LSTM-Attention
Abstract:
Keywords:natural language processing  deep learning  text classification  Long Short-Term Memory Neural Network  attention mechanism
本文献已被 CNKI 等数据库收录!
点击此处可从《中南民族大学学报(自然科学版)》浏览原始摘要信息
点击此处可从《中南民族大学学报(自然科学版)》下载免费的PDF全文
设为首页 | 免责声明 | 关于勤云 | 加入收藏

Copyright©北京勤云科技发展有限公司  京ICP备09084417号