一种用于中文微博情感分析的多粒度门控卷积神经网络

提出一种多粒度门控卷积神经网络(multiple grains-gated convolutional neural networks, MG-GCNN)模型。该模型通过结合词语和单字层面的上下文信息作为网络的输入信息,使网络模型可以充分利用上下文中不同粒度的文本特征信息,并且通过门控操作有效控制不同粒度信息的更新和传递。在不同领域微博文本数据集上的实验结果表明,所提出的MG-GCNN模型取得了比传统分类模型和深度网络模型更好的情感分类效果。     

用于手写签名识别的演化超网络

手写签名作为易被大众所接受的生物特征身份认证方式,已成为模式识别领域一个重要研究热点.针对现有手写签名存在易模仿难鉴定的问题,提出一种结合演化超网络模型的手写签名认证方法.为了平滑噪声,构造出可读性强的笔迹特征集,采用向量化和平滑采集点的方法对手写签名样本进行预处理,从而提取出位置和方向特征属性,采用演化超网络模型对签名进行学习和鉴定.为验证该方法的有效性,对20个签名用户分别采集了40个真实签名和20个伪造签名数据进行实验.实验结果表明,该方法对用户签名的误拒率(false rejection rate,FRR)为4.75％,误纳率(false acceptance rate,FAR)为3.75％,识别率(verification accuracy,VA)为95.75％.同时和其他传统的识别算法相比,具有更高的识别率.     

基于鲸鱼优化混合神经网络的滑坡位移预测

针对静态机器学习模型难以有效反映滑坡的动态演化特性,且存在时序过长时历史数据遗忘导致位移预测结果不稳定的问题。本文提出了一种基于鲸鱼优化卷积神经网络(convolutional neural networks,CNN)和双向门控循环神经网络(bidirectional gated recurrent neural network,BiGRU)的滑坡位移动态预测方法。首先对滑坡影响因子进行特征筛选,构建数据集,建立CNN-BiGRU网络模型,使用鲸鱼优化算法(whale optimization algorithm,WOA)对模型进行超参数寻优,使用CNN网络模型从滑坡数据中提取潜在的特征向量,将特征向量以时间序列的形式输入到BiGRU模型中,利用其处理时间序列数据的优势,完成滑坡位移预测。结果表明,本文提出的模型得到的滑坡位移预测精度较高,与未优化的CNN-BiGRU相比均方根误差(RMSE)下降了0.0305mm。     

基于增强型FNN的广告点击率预测模型

为了进一步提高点击率(Click-through rate,CTR)预测模型学习有效特征组合的能力,该文提出一种基于增强型因子分解向量输入神经网络(Enhanced factorization machine supported neural network,EFNN)的广告点击率预测模型。该模型在基于因子分解向量输入神经网络(Factorization machine supported neural network,FNN)的基础上增加了新特征生成层,采用一种针对CTR数据的卷积操作,对数据进行通道变换后引入Inception结构进行卷积,将生成的新特征和原始特征结合,提升了深度网络的学习能力。实验结果证明,添加了新特征生成层的增强型FNN能有效提高广告点击事件的预测准确率。     

击键特征加强口令身份认证安全性的研究

目前,绝大多数计算机系统的安全性都是通过口令保护机制实现的,但口令易被盗用,存在着安全隐患.为此本文提出了将传统的口令认证机制同用户输入口令时生成的击键特征相结合进行身份认证,以此来加强传统的口令认证方式的安全性.同时建立了BP神经网络对此进行实验,并给出了实验结果.     

击键特征加强口令身份认证安全性的研究

目前 ,绝大多数计算机系统的安全性都是通过口令保护机制实现的 ,但口令易被盗用 ,存在着安全隐患。为此本文提出了将传统的口令认证机制同用户输入口令时生成的击键特征相结合进行身份认证 ,以此来加强传统的口令认证方式的安全性。同时建立了 BP神经网络对此进行实验 ,并给出了实验结果。     

多价值链视角下基于深度学习算法的制造企业产品需求预测

多价值链协同发展背景下,制造企业没有充分考虑服务链、营销链等其他价值链对产品需求的影响。为提高制造企业产品需求预测的精度,本文提出了产品数据空间和一维卷积神经网络(One-dimensional convolutional neural networks, 1D-CNN)-长短期记忆神经网络(Long short-term memory, LSTM)的深度学习算法。首先,整合不同价值链对产品需求影响的相关数据构建产品数据空间。其次,从数据空间中获取多链数据集用于1D-CNN-LSTM模型的预测。其中,1D-CNN通过两次卷积池化操作获取数据的深层次特征,LSTM则通过进一步学习数据特征中的重要信息来进行时间序列预测。最后,通过某电气设备制造企业生产销售的环网柜产品的相关数据进行算例分析,并与其他几种模型进行预测结果比较。结果表明：1D-CNN-LSTM模型的预测效果优于神经网络模型和单一的LSTM模型。可见本文提出的1D-CNN-LSTM深度学习模型更具优越性,预测效果好。     

基于注意力机制结合CNN-BiLSTM模型的电子病历文本分类

为了解决中文电子病历文本分类的高维稀疏性、算法模型收敛速度较慢、分类效果不佳等问题,提出了一种基于注意力机制结合CNN-BiLSTM模型的病历文本分类模型.该模型首先使用word2vec工具进行词向量表示,利用多层卷积神经网络(convolutional neural networks,CNN)结构提取病历文本的局部特...     

基于中文自由文本击键特征的自动欺骗检测模型

研究表明欺骗行为在一定程度上会影响用户击键模式的变化.在互联网社交应用领域,通过击键特征对欺骗行为的检测对网络信息安全建设具有重要意义.然而,现有的欺骗行为检测模型侵入性强,实时性差等问题,限制了其在互联网社交应用领域的应用.针对以上问题,本研究设计了一个实验从短文本中收集了广泛的用户击键特征(单键特征、内容特征、双键特征),分别采用遗传算法(GA)和支撑向量机(SVM)完成特征选择和模型建立,开发出一个用以预测用户欺骗行为的模型(GA-SVM).研究结果表明:该模型能够有效地检测出用户的欺骗行为,获得82.86%的分类准确率;三类击键特征对欺骗行为的检测都有贡献.此外,欺骗者认知负荷和心理压力对击键模式影响也被探讨.     

基于小波分解的DIF-RBFNN超短期风速组合预测方法

提出了一种基于小波分解(wavelet-decomposition)的数据输入格式-径向基神经网络(data input format-radial basis functional neural network)超短期风速组合预测模型.该模型首先将风速时间序列数据进行小波分解,减缓风速时间序列的波动性,然后将分解后的低频、高频部分分别建立数据输入格式(风速输入矩阵),并通过径向基神经网络模型进行预测,最后通过自适应叠加得到最终预测结果.结合宁夏某风场实测数据,将该预测模型和其他三种预测模型的仿真实验结果与实测值进行对比,表明该组合预测模型具有较高的预测精度.     

基于门控循环单元神经网络的金融时间序列预测

针对循环神经网络(recurrent neural networks,RNN)网络结构存在的长期依赖问题,门控循环单元(gated recurrent unit,GRU)神经网络作为RNN的一种变体被提出。在继承RNN对时间序列优秀记忆能力的前提下,GRU克服了时间序列的长期依赖问题。本文针对金融时间序列数据存在的依赖问题,将GRU扩展应用到金融时间序列预测,提出了基于差分运算与GRU神经网络相结合的金融时间序列预测模型。该模型能够处理金融时间序列数据的复杂特征,如非线性、非平稳性和序列相关性。通过对标准普尔(SP)500股票指数的调整后收盘价进行预测,实验结果表明,所提出的方案能够提高GRU神经网络的泛化能力和预测精度,并且与传统预测模型相比该模型对金融时间序列的预测拥有更好的预测效果和相对较低的计算开销。     

基于卷积神经网络的脑电信号分类

针对现有卷积神经网络脑电信号(electroencephalogram,EEG)分类模型分类精度低、方法复杂且耗时的问题,对卷积神经网络的卷积层进行了改进,提出了多尺度卷积核卷积神经网络(convolutional neural networks,CNN)脑电分类模型,并在输入数据前加了系数矩阵,该系数矩阵可以随网络的训练逐步更新,代替了手工提特征再送入网络的步骤,有助于提高分类精度。最终本文的脑电分类模型在高原脑电信号的分类实验中,二分类准确率比改进前提高8%,三分类、四分类准确率分别达到92.87%、81.15%,分类准确率较高,对脑电信号的分类具有较高的参考价值。     

多状态图神经网络文本分类算法

为了提高模型在文本分类任务中的分类性能,针对图神经网络中存在的过度平滑问题,同时增强模型在处理文本特征与文本表示方面的能力,提出了一种基于多状态图神经网络的文本分类算法(multi-state graph neural network, MSGNN)。多状态图神经网络是利用网络层的多个历史状态信息对图神经网络进行强化,构建合理的文本图结构数据作为模型输入。在缓解网络层过度平滑问题的同时,结合2种改进后的不同类型的图神经网络来增强模型的特征提取与特征聚合能力。利用多头自注意力机制对文本关键词的挖掘与利用能力,从多个文本子空间来生成高质量的文本表示,进而完成文本分类。通过在几个公开的文本分类数据集上进行实验分析,相较于其他神经网络的文本分类算法,该方法取得了较好的分类准确率。     

基于预训练模型和图神经网络的藏文文本分类研究

在少数民族语言信息处理领域，由于文本分类标注数据的稀缺，相关研究工作进展缓慢.为了充分利用有限的标注数据，更有效地挖掘出文本之间的关系，本文对藏文提出一种基于预训练模型和图卷积神经网络的长文本分类方法CINO-GCN.首先利用在实验数据集上经过微调的少数民族多语言预训练模型(Chinese Minority Pretrained Language Model, CINO)得到藏文长文本的初始文档向量和藏文音节向量.然后根据整个数据集范围的音节共现关系与音节和文档间的TF-IDF值来对藏文文本图进行建模.最后将文本图和结点特征一同输入至图卷积神经网络(graph convolutional networks, GCN)层，得到的文档表示经过Softmax得到分类结果.将该方法在公开的TNCC藏文新闻文本分类数据集上与当前几种主流的深度学习模型进行了多组对比实验，分类准确率达到73.51%,远优于其他基线模型；同时设计了消融实验验证模型各部分对分类结果的增益.实验结果表明，该文提出的模型能够结合预训练词向量和图神经网络的优势，显著提高藏文文本分类的准确率.     

自适配权重特征融合的持续身份认证

针对现有智能手机用户身份认证方法的不足，提出了一种自适配权重特征融合的持续身份认证方法。设计了一种卷积神经网络，对手机内置传感器(加速度计、陀螺仪、磁力计)获取的用户行为信息数据进行深度特征提取及融合。通过网络中3个子网络流分别提取3种传感器特征，在特征融合层加权融合，各特征的权值会在网络学习过程中根据不同特征的贡献度实现自适应分配。融合特征经过特征选择之后，使用单分类支持向量机进行用户分类认证。实验结果表明：该方法对不同用户身份认证获得的等错误率为1.20%,与现有其他认证方法相比具有更好的认证准确性。     

基于卷积神经网络的特定目标文本情感分析模型

在特定目标文本情感分析过程中,文本序列分类受标注方式的限制,导致分析结果的准确率和召回率较低.为了解决这个问题,构建了基于卷积神经网络的特定目标文本情感分析模型(文本分析模型).根据情感差异分析特定目标文本序列,在输入层将文本特征矩阵作为卷积神经网络语言模型的输入数据,拼接成词性序列矩阵;分段池化捕获文本序列不同的关键特征,并分类处理提取到的特征向量;加入dropout机制完成特定目标文本情感分类,确定文本中每个词的重要度信息,实现特定目标文本情感分析.实验结果表明,文本分析模型的准确率高于84%,召回率最大值为87%,能够有效实现特定目标文本情感分析.     

基于循环神经网络变体和卷积神经网络的文本分类方法

针对长文本在文本分类时提取语义关键特征难度大,分类效果差等问题,建立基于循环神经网络变体和卷积神经网络(BGRU-CNN)的混合模型,实现中文长文本的准确分类。首先,通过PV-DM模型将文本表示为句向量,并将其作为神经网络的输入;然后,建立BGRU-CNN模型,经双向门控循环单元(B-GRU)实现文本的序列信息表示,利用卷积神经网络(CNN)提取文本的关键特征,通过Softmax分类器实现文本的准确分类;最后,经SogouC和THUCNews中文语料集测试,文本分类准确率分别达到89. 87%和94. 65%。测试结果表明,循环层提取的文本序列特征通过卷积层得到了进一步优化,文本的分类性能得到了提高。     

基于文本图神经网络的小样本文本分类技术研究

为了解决文本图神经网络小样本文本分类精度较差的问题,设计了基于文本图神经网络的原型网络,采用预训练语言模型,利用文本级图神经网络为每个输入文本构建图并共享全局参数,将文本图神经网络的结果作为原型网络的输入,对未标注文本进行分类,并验证新模型在多个文本分类数据集上的有效性。实验结果表明,与需要大量标注文档的监督学习方法相比,所采用的方法未标注文本的分类精度提高了1%～3%,在多个文本分类数据集上验证了新模型性能先进,内存占用更少。研究结果可为解决小样本文本分类问题提供参考。     

基于HHT和改进PNN的CSI人体动作识别研究

为了有效判别真实摔倒动作与疑似摔倒动作、提高动作识别准确度,提出基于希尔伯特黄变换(Hilbert-Huang transform,HHT)和改进概率神经网络(probabilistic neural networks,PNN)的信道状态信息(channel state information,CSI)人体动作识别算法。对CSI的幅度与相位融合信号进行数据预处理,利用HHT来提取区分人体动作信息的瞬时幅值和瞬时频率作为分类特征构建特征矩阵,在遗传算法(genetic algorithm,GA)优化的PNN神经网络中训练出能有效检测真实摔倒和疑似摔倒动作的GA-PNN人体动作识别模型;利用训练好的识别模型对输入的CSI数据进行摔倒动作的判别。仿真实验表明,提出的算法能有效地检测真实摔倒和疑似摔倒动作,其识别准确度可达到97.18%,且误报率较低。     

基于门限卷积神经网络和词嵌入的中文分词法

目前,许多研究者将神经网络模型应用到中文分词任务中,其表现虽然优于传统的机器学习分词法,但未能充分发挥神经网络自动学习特征的优势,且未使用词向量信息.针对该问题,提出基于门限卷积神经网络(gated convolutional neural networks,GCNNs)的中文分词法,并利用词嵌入方法将词向量融入模型中,使该模型在不需要大量特征工程的情况下可以自动学习二元特征.通过在简体中文数据集(PKU、MSRA和CTB6)上进行实验,结果表明,与以往的神经网络模型相比,在不依赖特征工程的情况下,该模型仍能取得较好的分词效果.