基于融合注意力机制与CNN-LSTM的人体行为识别算法

为解决单一的卷积神经网络（CNN）缺乏利用时序信息与单一循环神经网络（RNN）对局部信息把握不全问题,提出了融合注意力机制与时空网络的深度学习模型（CLA-net）的人体行为识别方法。首先,通过CNN的强学习能力提取局部特征;其次,利用长短时记忆网络（LSTM）提取时序信息;再次,运用注意力机制获取并优化最重要的特征;最后使用softmax分类器对识别结果进行分类。仿真实验结果表明,CLA-net模型在UCI HAR和DaLiAc数据集上的准确率分别达到95.35%、99.43%,F1值分别达到95.35%、99.43%,均优于对比实验模型,有效提高了识别精度。     

基于卷积神经网络-双向长短期记忆网络的人体活动识别方法

针对人体活动传感器数据的时序性特点,以及当前机器学习算法过度依赖手工特征提取的问题,提出了一种融合卷积神经网络和双向长短期记忆网络的深度学习模型（CNN-BiLSTM）进行人体活动识别（HAR）。首先对人体活动数据进行样本分割,然后采用卷积神经网络（CNN）自动提取人体活动数据的特征,再通过双向长短期记忆网络（BiLSTM）学习人体活动数据特征在时间序列上前后两个方向的相关性,最后利用softmax分类器实现对人体活动分类。DaLiAc公开数据集上的仿真实验结果表明,基于CNN-BiLSTM网络的人体活动识别方法对13种人体活动的识别准确率达到了97.7%,与仅具备时间特征学习的LSTM网络和BiLSTM网络相比,具有更好的识别分类效果。     

基于数据融合的不平衡连续手术动作分割识别

为解决样本分布不均衡的连续动作序列分割识别精度不高的问题,提出一种基于深度学习的新型连续动作分割与识别模型,该模型能够从多维时间序列中提取更丰富全面的动作特征。使用基于双向长短时记忆网络(bidirectional long short-term memory networks, Bi-LSTM)的特征提取单元提取数据特征,利用基于注意力机制的特征融合模块融合多种模态的特征,并利用全连接层构建的解码器完成最终分类。实验中使用多种传感器采集了眼科手术中连续环形撕囊操作的连续动作多模态数据对算法进行验证实验。实验结果显示,与使用长短时记忆网络(LSTM)和门控循环单元(gated recurrent unit, GRU)的数据层融合算法以及4种特征层融合策略相比,所提出的模型具有更好的性能。对于数据量最小的动作类别,该算法的识别精度提高了14%以上,全局F₁分数提升8%以上,整体识别准确度达到90.72%。这些结果表明,该模型能够有效解决样本分布不均衡的连续动作序列分割识别精度问题,并为多模态连续动作分割与样本不均衡问题的解决提供了新的思路和方法。     

基于CNN-LSTM的脑电情感四分类研究

为深入研究脑电信号时空特征之间的关联,解决因手动提取特征导致的脑电情感识别准确率较低问题。将卷积神经网络（Convolutional neural network, CNN）和长短时记忆网络（Long short- term memory, LSTM）相结合,构造出了CNN-LSTM模型。首先,提取了5个频段的5个不同特征：功率谱密度(PSD)、差分熵(DE)、差分不对称(DASM)、理性不对称(RASM)和差分熵差分(DCAU)。其次,将特征输入CNN-LSTM模型,在DEAP数据集中的效价和唤醒两种情感维度上展开四分类实验。最后,将堆栈自编密码器(SAE),卷积稀疏自编码器(CSAE),深度置信网络(DBN)分别与LSTM组合,构造SAE-LSTM,CSAE-LSTM,DBN-LSTM三种混合模型同CNN-LSTM进行分类准确率比较。实验结果表明,DE特征的分类识别效果在五种特征中占最优,β和γ频段上所有特征的识别准确率远高于其他频段,尤其是γ频段。CNN-LSTM模型获得了最高的平均分类准确率92.48%,充分证明了CNN-LSTM模型的有效性。     

适于长短文本分类的CBLGA和CBLCA混联模型

为提高文本分类的准确性和效率,构建了一种基于Attention的CNN-BiLSTM/BiGRU(简称CBLGA)混联文本分类模型.首先通过并联不同卷积窗口大小的CNN(Convolutional Neural Networks)网络同时提取多种局部特征,之后将数据输入至BiLSTM和BiGRU并联组合模型中,利用BiLSTM和BiGRU组合提取了与文本中的上下文有密切关系的全局特征,最后对两个模型所得到的特征值进行了融合并在其中引入了注意力机制.构建基于Attention的CNN-BiLSTM/CNN(简称CBLCA)混联文本分类模型,特点是将CNN的输出分为两部分,其中一部分输入BiLSTM网络中,另一部分则直接和BiLSTM网络的输出进行融合,既保留了CNN提取的文字序列局部特征,又利用了BiLSTM网络提取出的全局特征.实验表明CBLGA模型和CBLCA模型在准确率和效率方面均实现了有效提升.最后,建立了一套针对不同长度的文本进行相应预处理和后续分类工作的分类的流程,使模型无论面对长文本还是短文本数据,均实现了同时提高文本分类的准确率和效率的目标.     

基于注意力模型的卷积循环神经网络城市声音识别

环境声音识别（Eenvironment Ssound Rrecognition ,ESR）在基于情景感知和辅助技术等领域发挥着重要作用。卷积神经网络（CNN）和循环神经网络（RNN）作为两种最具代表性的特征提取方法,在语音和音乐信号处理方面都取得显著效果,然而二者都存在一定缺点,CNN无法有效提取时间特征,RNN在提取空间特征上也存在明显劣势。为了有效的提取并利用时间特征和空间特征,提出一种新模型,利用时间分布卷积神经网络（CNN）从梅尔频谱图中提取城市环境声音特征,然后应用双向长短时记忆网络（BiLSTM）从CNN输出中获取时间信息,最后在BRNN的输出序列上实施注意力机制,从而关注到与城市环境声音最相关的特征进而做出分类判断,注意力机制既提高了分类准确性,又增强了模型的可解释性。实验结果表明,在Urbansound8K数据集中,该模型可获得80.2%的分类准确率,这优于以前在同一数据集的报告结果     

融合Multi-scale CNN和Bi-LSTM的人脸表情识别研究

为了有效改善现有人脸表情识别模型中存在信息丢失严重、特征信息之间联系不密切的问题,提出一种融合多尺度卷积神经网络(Multi-scale CNN)和双向长短期记忆(Bi-LSTM)的模型.Bi-LSTM可以增强特征信息间的联系与信息的维持,在Multi-scale CNN中通过不同尺度的卷积核可以提取到更加丰富的特征信息,并通过加入批标准化(BN)层与特征融合处理,从而加快网络的收敛速度,有利于特征信息的重利用,再将两者提取到的特征信息进行融合,最后将改进的正则化方法应用到目标函数中,减小网络复杂度和过拟合.在JAFFE和FER-2013公开数据集上进行实验,准确率分别达到了95.455％和74.115％,由此证明所提算法的有效性和先进性.     

基于双向长短期记忆网络的流体高精度识别新方法

碳酸盐岩储层的储集空间类型多样、储层性质复杂,导致流体的测井响应受到强非均质性的影响,给流体识别工作带来极大困难。针对该问题,提出基于测井序列信息的双向长短期记忆网络(Bi-LSTM)流体识别模型,从测井响应特征差异性分析及相似性分析两方面出发,确定敏感曲线,结合Bi-LSTM网络的输入要求,建立流体识别样本库,并获得基于Bi-LSTM的流体识别模型。应用该方法对鄂尔多斯盆地马家沟组进行流体识别,与单向LSTM模型及其他3类机器学习算法预测结果进行对比。结果表明基于Bi-LSTM的流体识别模型流体识别的符合率从82.7%提高到91.5%,取得较好的应用效果;该模型既能充分利用井下对应深度测井曲线的响应值,又能兼顾测井曲线随深度的变化趋势和前后关联,最大程度避免储层纵向非均质性带来的影响,提高流体识别能力。     

基于卷积神经网络和稳定性选择的农作物植被光谱分析方法

光谱特征提取是遥感植被精细化识别研究的关键.现有光谱分析方法大多无法直接高效的提取特征波段用于分类,往往依赖特征选择和预处理操作,目标识别精度不高.本文整合卷积神经网络(CNN)和稳定性选择改进光谱分析方法实现统一高效的光谱分析,以玉米、大豆、豆角、葡萄、大枣、辣椒、秋葵、芥蓝、韭菜和草皮10种农作物植被叶片光谱为实验对象,构建适用于农作物分类的CNN模型,获得植被分类结果.利用稳定性选择方法可视化CNN卷积-池化过程的特征选择结果,获得表征不同植被生化参数的特征波段.结果表明:1)改进的光谱分析方法很好的适用于光谱识别,分类准确率维持在97%～100%之间;2)该方法对光谱预处理依赖性最小,对光谱识别表现出较强的鲁棒性和泛化能力;3)特征波段的可视化结果证明了改进的光谱分析方法能够精准的提取农作物植被的敏感特征波段,间接说明了CNN模型卷积池化操作能够准确地提取光谱重要特征波段用于农作物光谱分类.     

用于稳态视觉诱发电位目标识别的多尺度特征融合卷积神经网络方法

针对传统稳态视觉诱发电位(SSVEP)脑电信号目标识别方法分类精度低、提取特征不充分、方法复杂且耗时等问题,提出一种基于多尺度特征融合卷积神经网络的SSVEP信号分类识别方法(SSVEP-MF)。利用小波变换将多通道SSVEP信号整合转化为二维图像作为输入样本集;建立多尺度特征融合卷积神经网络模型(MFCNN),该模型利用三层二维卷积核实现图像样本不同尺度特征的充分提取,构建多尺度特征融合单元对不同层级特征进行融合,并通过全连接等操作完成模型的训练;将样本集输入到MFCNN模型中实现脑电信号特征自适应提取及端到端分类。所提SSVEP-MF方法能够充分提取信号各层级特征,实现短时间视觉刺激下SSVEP信号的有效识别,并具有较高的目标识别效率。实验结果表明,在1 s刺激时长时,相比传统功率谱密度分析方法、典型相关分析方法以及普通卷积结构方法,所提方法的识别准确率分别提升了18.57%、20.08%及7.03%,有效提高了基于稳态视觉诱发电位范式下脑机接口的信号识别性能。     

基于词-标签概率的多标签文本分类研究

针对多标签文本分类任务中如何有效地提取文本特征和获取标签之间潜在的相关性问题,提出一种CNN(convolutional neural networks)结合Bi-LSTM (bi-directional long short-term memory)的模型.首先,通过CNN网络和最大池化提取文本的特征;然后,利用训练的Labeled-LDA(labeled latent dirichlet allocation)模型获取所有词与标签之间的词-标签概率信息;接着,使用Bi-LSTM网络和CNN网络提取当前预测文本中每个词的词-标签信息特征;最后,结合提取的文本特征,预测与当前文本相关联的标签集.实验结果表明,使用词-标签概率获取文本中词与标签之间的相关性信息,能够有效提升模型的F1值.     

基于组合神经网络的中文事件抽取

中文事件抽取通常使用循环神经网络(recurrent neural network, RNN)来进行事件和事件要素的抽取, 但 RNN 在处理长度较长的词语时容易丢失重要信息, 为此提出一种组合卷积神经网络(convolutional neural network, CNN)与双向长短期记忆(bidirectional long short-term memory, Bi-LSTM)网络的中文事件抽取模型 CNN-Bi-LSTM-CRF, 其中 CRF (conditional random field) 为条件随机场. 采用基于注意力机制和语义特征生成的字词联合向量, 使用 CNN 和 Bi-LSTM 模型对字词联合向量进行处理, 以获取其隐含表示, 最后通过 CRF 得出预测结果. 实验结果表明, 所提出的方法与其他现有的中文事件抽取方法相比, 准确率有明显提升.     

不同侧风类型影响下的飞机尾涡数值模拟研究

在航空飞行中,低空风切变极易对处在起飞爬升或进近着陆阶段的飞机带来安全隐患,严重时会导致飞机失速甚至坠毁。低空风切变往往还具有持续时间短、尺度小、突发性强等特点。因此在中国民航和通用航空业高速发展的背景下,加强对飞机遭遇低空风切变的数值模拟仿真和研究具有重要意义和实际价值。采用SST模型并使用FLUENT计算尾涡演化,通过构建H-B尾涡耗散二维模型,应用ANSYS FLUENT UDF(user defined function)编译环境侧风不同的7种情况进行尾涡耗散机理的数值模拟,通过对比成都双流机场实地探测的尾涡发现在非线性垂直切变影响下侧风和涡诱导速度的叠加会导致尾涡对周围的压力分布不对称,引起尾涡对倾斜。     

多深度学习模型决策融合的齿轮箱故障诊断分类方法

针对齿轮故障诊断中单一传感器采集信息不完全、容错性不佳及一种神经网络模型具有局限性,传统信号处理技术提取特征困难等问题,提出了多深度学习模型决策融合的齿轮箱故障诊断分类方法,构建了基于CNN(Convolutional Neural Networks)和改进SDAE(Stacked Denoising Autoencoders)的混合网络模型,根据改进的D-S证据理论实现决策级融合诊断。以时频信号作为CNN的输入,以频域信号作为SDAE的输入,采用Adam优化算法和dropout、批量归一化技术训练该混合模型。实验结果表明,利用该融合方法对齿轮进行故障诊断相比单个的网络模型CNN和SDAE诊断正确率有所提高,为齿轮故障智能诊断分类提供了新路径。     

非涡核区域尾涡遭遇快速建模方法

基于Hallock-Burnham尾流速度模型,建立了尾涡流场、滚转力矩及最大坡度计算模型。通过对非涡核区域尾涡遭遇的仿真,计算尾涡流场中不同位置的飞机最大坡度,按坡度大小进行尾涡流场区域危险等级划分,确定流场中不同危险等级的分布范围;研究分析了飞机飞行高度、重量、马赫数以及前后机间隔等因素的变化对飞机尾涡遭遇的具体影响。通过案例分析计算,验证了模型的快速性,可用于尾涡流场非涡核区域危险性分析。     

基于激光雷达回波的动态尾涡特征参数计算

为了实现对飞机尾涡的有效检测,提高机场跑道利用率,减少飞机延误,本文以尾涡物理模型为基础,分析尾涡的环量和径向速度分布规律,并结合尾涡的下沉及消散模型,提出一种基于激光雷达回波的动态尾涡特征参数计算方法,即利用激光雷达回波数据提取尾涡流场的速度包络,解算出尾涡径向速度分布,并根据其反演出涡核位置及尾涡环量。采用仿真的动态尾涡流场激光雷达探测回波数据进行算例分析,验证了该方法的有效性。     

基于CSP与卷积神经网络算法的多类运动想象脑电信号分类

针对直接利用卷积神经网络(convolutional neural network,CNN)算法对多类运动想象脑电信号分类识别时,因样本量比较少,难以充分训练权值,导致分类效果较差的问题,结合一对多CSP算法与CNN算法对多类运动想象脑电信号进行特征提取与分类。首先,利用CSP算法对多类运动想象脑电信号进行特征提取,形成一维特征数据,作为CNN的输入样本;其次,对传统二维输入样本的CNN结构进行改造,使其适应一维数据的输入样本,对输入样本进行再次特征提取并分类;最后,使用BCI2005desc—Ⅲa的K3b数据进行算法验证;并对不同参数值的确定进行了讨论。算法验证结果表明,单独利用一对多CSP算法得到的分类正确率73%,单独使用CNN算法得到正确率为75%,新算法取得了91.46%的正确率,相比两种原始方法有较大提升。     

基于卷积神经网络的无人机识别方法仿真研究

为了提高卷积神经网络(CNN)的泛化性和鲁棒性,改善无人机航行时识别目标图像的精度,提出了一种CNN与概率神经网络(PNN)相结合的混合模型。利用CNN提取多层图像表示,使用PNN提取特征对图像进行分类以替代CNN内部的BP神经网络,采用均方差和降梯度法训练模型,通过将预处理的图像传输到CNN-PNN模型,对图像纹理和轮廓进行分类识别,并将此模型的仿真结果与卷积神经网络模型、卷积神经网络-支持向量机模型的结果进行对比。仿真结果表明,与其他两种模型相比,CNN-PNN模型具有更好的精准度,识别率高达96.30%。因此,CNN-PNN模型能够快速有效地识别图像,准确度和实时性较高,在图像识别等方面具有很好的应用前景。