基于深度学习的Stack Overflow问题帖分类方法

针对基于正则表达式和传统机器学习的分类方法分别存在模式手工提取困难和性能瓶颈的问题, 提出一种基于深度学习的问题帖分类方法, 采用深度文本挖掘模型TextCNN和融合注意力机制的TextRNN构建分类模型. 实验结果表明, 基于深度学习的方法在多数问题目的类别上的分类性能优于已有基准方法, 且使用的Adam优化器优于SGD优化器, 使用Glove预训练的词向量优于使用随机生成的词向量. 该方法以提问目的对帖子进行分类, 可为分析Stack Overflow(SO)上的帖子讨论主题增加新维度.     

一种基于类不平衡学习的情感分析方法

针对网络评论中普遍存在的负面评论较少而影响力却较大的类不平衡问题, 提出一种基于类不平衡学习的情感分析方法. 该方法利用深度学习训练过程中的概率输出, 以计算样例的信息熵作为影响因子构建交叉信息熵损失函数. 在IMDB公开数据集上进行实验验证的结果表明, 基于集成信息熵损失函数的双向长短期记忆网络能处理类不平衡问题; 对数据的统计分析结果表明, 该策略能提升基于双向长短期记忆网络的评论情感极性分类性能. 针对AUC(area under curve)指标, 使用集成信息熵损失函数的双向长短期记忆网络模型比未考虑类不平衡的深度学习模型在中位数上最多提升15.3%.     

系统功能语法与语篇分析

本文首先讨论了系统功能语法语篇分析的基本理论,包括语言的三大纯理功能及其各自实现的子系统、语篇分析的两个层次以及"语境→语篇→评价("联系语境变量)的分析步骤,并用该模式分析了一个完整的语篇。分析表明用系统功能语法框架对语篇进行分析可以揭示语篇深层含义,可以解释语篇的语义和文体特点。     

一种针对加性空域掩密算法的通用掩密分析技术

为了提高通用掩密分析技术的检测性能，针对基于加性噪声的空域掩密技术设计了一种通用掩密分析算法，通过分析LSB、＋-k（k=1，3，5）和SM算法所引入的掩密噪声对图像差分直方图产生的影响，提出分别利用差分直方图分布的高阶统计矩和差分直方图曲线下特殊区域之间的面积比值作为分类特征的掩密分析特征选择算法，分别利用该算法和Farid的通用算法对由LSB、＋-k（k=1，3，5）算法掩密后的图像进行检测，实验结果表明，对于不同的嵌入消息比例，该算法的掩密检测率较Farid的算法都有了大幅度的提高。     

决策树在文本分类中的应用

介绍了文本分类的思想,探讨了通过决策树学习来对文本进行有效分类的过程。     

基于预训练模型和混合神经网络的医疗实体关系抽取

医疗文本具有实体密度高、句式冗长等特点,简单的神经网络方法不能很好地捕获其语义特征,因此提出一种基于预训练模型的混合神经网络方法。首先使用预训练模型获取动态词向量,并提取实体标记特征;然后通过双向长短期记忆网络获取医疗文本的上下文特征,同时使用卷积神经网络获取文本的局部特征;再使用注意力机制对序列特征进行加权,获取文本全局语义特征;最后将实体标记特征与全局语义特征融合,并通过分类器得到抽取结果。在医疗领域数据集上的实体关系抽取实验结果表明,新提出的混合神经网络模型的性能比主流模型均有提升,说明这种多特征融合的方式可以提升实体关系抽取的效果。     

自主式交通系统功能架构优化密度峰值聚类算法

自主式交通系统(autonomous transportation system, ATS)是为应对主动式智慧交通发展趋势而提出的新一代交通系统。为科学合理地构建ATS功能架构,提出了一种面向多属性文本的优化密度峰值聚类算法(density peaks clustering, DPC)。该算法结合交通系统功能架构的基本特征,通过改进的词频-逆向文档频率算法与文本向量空间模型,将多属性文本转化成空间维度坐标。再利用高斯函数和决策值优化DPC算法进行聚类,并结合轮廓系数对聚类结果进行评价。为了检验算法的合理性,在ATS道路自动驾驶场景下,基于道路载运工具运行服务域、交通基础设施管理服务域和交通安全管理服务域的功能数据集进行了算例分析,依据聚类结果绘制功能架构图。架构图由自主感知-自主学习-自主决策-自主响应4层构成,验证了ATS应用场景中功能架构优化算法的可行性和合理性。算例结果表明：该算法的构建具有鲁棒性,算例轮廓系数整体均值为0.84,与原算法相比解决了聚类过程中聚类中心难以划定的问题;与原智能交通系统中的各架构设计相比,该功能架构更具有层次性和逻辑性。该优化算法能够促进新一代交通系统...     

基于Bert股吧舆情分析的特征融合股价走势预测研究

传统股价预测模型往往只考虑时序性数据且局限于模型自身机制,而忽略舆情对股价的影响,导致预测精度不高,针对该问题,提出基于 Bert 股吧舆情分析的特征融合预测模型对股价收盘价进行涨跌幅预测。 首先,采用Bert 自然语言处理对股吧舆情以及公司公告政策进行情感分类,并转化为虚拟变量,构建金融舆情情感特征库;然后将金融舆情特征库和时序性数据合并构建特征融合矩阵;最后输入长短期记忆网络模型(LSTM)进行股价收盘价预测,并得出股价的涨跌结果。 以华银电力(600744. SH)为例进行实证分析,实验结果表明:引入股票情感特征后的模型,得到的股价走势准确率上升了 8. 63%,预测收盘价的回归指标 FMAPE FRMSE 分别下降了 23. 59%、22. 9%,R2 提高了 8. 11%,证明引入新的舆情情感特征在实际预测中能提高股价预测的准确率,可以作为精准预测股价走势的手段。     

基于词-标签概率的多标签文本分类研究

针对多标签文本分类任务中如何有效地提取文本特征和获取标签之间潜在的相关性问题,提出一种CNN(convolutional neural networks)结合Bi-LSTM (bi-directional long short-term memory)的模型.首先,通过CNN网络和最大池化提取文本的特征;然后,利用训练的Labeled-LDA(labeled latent dirichlet allocation)模型获取所有词与标签之间的词-标签概率信息;接着,使用Bi-LSTM网络和CNN网络提取当前预测文本中每个词的词-标签信息特征;最后,结合提取的文本特征,预测与当前文本相关联的标签集.实验结果表明,使用词-标签概率获取文本中词与标签之间的相关性信息,能够有效提升模型的F1值.     

基于预训练模型和多视角循环神经网络的电力文本匹配模型

针对传统方法未能考虑词向量的动态性及句子间交互不充分等问题,提出基于BERT预训练模型及多视角循环神经网络的文本匹配模型。通过BERT-whitening方法对BERT输出的句向量进行线性变换优化,并利用多视角循环神经网络将两句子不同位置的BERT动态词向量进行双向交互计算;将句向量与词粒度交互向量进行融合后计算结果。实验结果表明,提出的模型相较于对比模型有明显性能提升,实用性良好。