基于灰度纹理指纹的恶意代码分类

随着各种新技术的出现,传统的恶意代码的识别和分类技术存在着检测率瓶颈、实时监测效率不高的问题,为了提高准确率,提出了一种基于图像纹理指纹特征与深度学习神经网络结合的分类方法。该方法首先将数据集中恶意代码的二进制文件建模为灰度图,采用改进的灰度共生矩阵提取出恶意代码中的指纹特征图像,并选择不同步长扩展样本量,然后将该指纹特征图像作为输入数据集并采用卷积神经网络模型中进行分类训练。结果表明,该方法可以有效地分类恶意代码,准确率可达96.2%,并在泛化测试中取得了较好的效果。     

WiGNet:一种适用于无线感知场景的手势识别模型

针对现有Wi-Fi感知技术的手势识别研究中存在因感知特征辨识度较低及难以提取而导致识别准确率不高的问题,在对感知数据进行多维重构并施以二维离散小波变换的基础上,提出了一种基于卷积神经网络的高精度手势识别模型WiGNet。首先,在对信道状态信息影响因子分析的基础上,提取振幅数据作为手势识别的基础数据;其次,将感知数据重构为多维矩阵形式,以充分提取手势动作的时空特征;然后,对重构数据在时间和空间维度上进行二维离散小波变换,以实现感知数据的降噪和平滑;最后,使用神经架构搜索技术优化网络深度以及卷积核个数的合理化配置,并提出较好适配重构数据的手势识别模型WiGNet。实验结果表明：对感知数据进行二维离散小波变换后,特征辨识度和模型整体运算速度均有显著提升;WiGNet在自建数据集上和公共数据集上的平均识别准确率分别达到98.1%和96.0%,均优于同类模型。此外,WiGNet在实现高精度手势识别的同时,还能保持较快运算速度,并兼具一定的鲁棒性。     

基于轻量级DenseNet和ZigBee的指纹识别方法

针对传统身份识别方法识别准确率低、模型复杂且运算速度慢等问题,提出一种新的基于轻量级密集连接卷积神经网络(DenseNet)和紫蜂协议(ZigBee)的指纹识别方法.首先,构建指纹识别系统的整体模型,并对该模型进行适当的裁剪以缩减模型复杂度.其次,通过筛选指纹图像、增强有效指纹以及扩充增强后的数据等操作,对采集到的ZigBee协议指纹信息进行预处理.然后,以传统深度残差网络的基本思想为依据,通过前馈的方式改变层间的连接关系并构建轻量级DenseNet.最后,以相同的样本数据为基础分别对轻量级DenseNet模型、普通DenseNet模型和3种传统基于机器学习的身份识别算法模型进行训练.试验结果表明:所提出的基于轻量级DenseNet模型的识别准确度最高,为98.24%,且该模型的运行速度最快,与普通DenseNet模型相比,其模型复杂度降低了94%以上.     

融合多尺度注意力和双向LSTM的行人重识别

将深度学习应用于行人重识别领域,嵌入多尺度注意力融合模块至神经网络中进行多尺度特征提取和表示,可有效提升注意力机制对深度学习网络的识别性能。提出了一种基于SE block的多尺度通道注意力融合模块,并结合ResNet50卷积神经网络提取特征;然后通过双向LSTM网络进一步提取特征序列上下文信息,在提高模型对图像重要特征的提取能力的同时,降低对图像冗余特征的关注度;最后使用级联难采样三元组损失函数和交叉熵损失函数共同训练网络模型,使样本能够在高维特征空间中实现聚类,进一步提升模型识别准确性。所提出算法在Market1501数据集和CUHK03数据集分别进行实验,并在同等条件下和其他注意力模块算法进行比较。为进一步验证各模块作用,对算法进行消融实验,以验证各模块的有效性,实验结果表明,所提出方法可有效应用于行人重识别     

基于YOLOv5s的轻量化朱鹮检测算法研究

针对当前朱鹮检测算法模型参数较多、计算量大的问题，本文设计研究了一种基于YOLOv5s的高性能轻量化网络模型。首先，结合EfficientNet网络中的MBConvBlock对原主干网络进行重构，大幅降低网络参数；同时在浅层网络中采用Stem模块，提升浅层网络的特征提取能力；然后改进卷积注意力模块(CBAM),即将其中的通道注意力替换为高效通道注意力模块(ECA),避免了降维操作，有效提取了邻近通道间的信息，且大幅降低了通道注意力的参数数量，并将其嵌入特征融合网络路径聚合网络(PANet)中，达到了引入微小参数数量而有效提升网络性能的目的，并将其命名为高效卷积注意力模块(ECBAM)。最后，在自建朱鹮数据集和公共数据集PASCAL VOC、COCO上进行实验，实验结果表明，与YOLOv5s算法相比，本文算法模型参数数量降低了52.37%,计算次数降低了54.55%,在自建朱鹮数据集上P_mAP@0.5:0.95仅降低了约2个百分点，达到0.666,在公共数据集PASCAL VOC上P_mAP@0.5达到0.792,在公共数据集COCO上P     

融合分组注意力机制的水稻病虫害图像识别算法

针对传统的水稻病虫害图像识别算法缺乏注意力权重、准确率低下等问题,提出一种基于深度学习的水稻病虫害识别算法.在Inception-ResNetV1卷积模块引入分组注意力(shuffle attention,SA),使得注意力模块参数量大幅降低并提升图像识别的准确度.在自制的水稻病虫害数据集中,病虫害图像识别的准确度高达...     

基于卷积神经网络的室内场景识别

场景识别一直是图像处理领域的重要问题之一,对研究移动机器人定位、计算机视觉等方面具有重要意义.然而,室内场景的复杂性与无序性使室内场景识别研究面临许多挑战.传统的手工提取特征无法充分描述室内场景的信息,而卷积神经网络提取的特征能够包含丰富的场景语义和结构信息,且对于平移、比例缩放、倾斜等形式的变形具有高度不变性,因此提出了应用基于卷积神经网络的GoogLeNet网络模型来完成识别任务的方法.该网络模型在深度学习框架Caffe上对MIT_Indoor数据集的识别准确率为59.7%,高于使用传统手工提取特征的算法的准确率,对比结果说明了深度卷积神经网络在室内场景识别问题上的有效性.     

基于注意力机制的加密流量识别

随着人们网络安全意识的提高,加密流量呈爆炸式增长,流量加密在保护用户隐私的同时,也为安全检测带来了新的挑战。针对传统基于机器学习的流量识别方法存在需要手动设计分类特征、分类准确率不高等问题,提出一种基于卷积神经网络与自注意力机制(Convolutional Neural Network and Self Attention, CSA)的加密流量分类方法,依据网络流量的层次结构特性,采用卷积神经网络提取数据包内字节流的空间特征、自注意力机制提取数据包之间的时序特征。在公开数据集ISCX VPN-NonVPN上的实验结果表明,CSA模型的分类准确率达到了95.0%,相较基准深度模型,准确率和F1值皆有明显的提升。     

基于DenseNet的人脸图像情绪识别研究

针对人脸情绪识别类内差异大,类间差异小的特点,结合学生人脸图像的线上课堂情绪识别的场景,提出多尺度空洞卷积模块提取不同空间尺度特征的稠密深度神经网络模型,实现自然场景下学生人脸图像识别.该模型主要由多尺度空洞卷积和DenseNet神经网络两个子网络组成,其中多尺度空洞卷积由不同空洞率的四分支网络提取不同尺度特征,空洞卷积减小特征图尺寸,减少DenseNet内存资源占用;最后在DenseNet网络中结合Adam优化器和中心损失函数.使用稠密网络的旁路连接,加强情绪特征传递和复用.研究结果表明：基于稠密深度神经网络的情绪识别网络模型能够有效提高情绪分类的准确率,模型对预处理后的FER2013+数据集识别准确率达到93.99%,可为线上教学反馈提供技术支持.     

一种轻量级文本蕴含模型

现有主流文本蕴含模型大多采用循环神经网络编码,并采用各种注意力推理机制或辅以手工提取的特征来提升蕴含关系识别准确率,由于复杂的网络结构和RNNs网络串行机制导致这些模型训练和推理速度较慢.本文提出轻量级文本蕴含模型,采用自注意力编码器编码文本向量,点积注意力交互两段文本,再采用卷积神经网络对交互特征推理,整个结构可根据不同数据的推理难度叠加不同模块数量.在多个文本蕴含数据集实验表明,本文模型在保持较高识别准确率情况下仅用一个块参数仅为665K,模型推理速度相比其他主流文本蕴含模型至少提升一倍.     

基于ARM和深度学习的大数据 指纹识别系统设计

针对传统指纹识别系统在面对大数据指纹图像时具有识别效率不高、需要手动设计提取的特征的缺点,提出了一种基于ARM和深度学习的大数据指纹识别系统.首先,描述了指纹识别系统的原理图.然后,设计了系统硬件框图,采用S3C2410C作为微处理器,采用FPS200指纹图像作为传感器,并设计了两者之间的接口电路;最后,重点设计了指纹识别的软件过程,建立一个可以进行指纹自动识别的通用多层深层神经网络.通过设计系统软硬件并进行测试,结果表明文中设计的指纹识别系统具有很高的指纹识别准确度,能有效处理大数据指纹图像的识别,且与其他基于人工提取特征的方法相比,具有更高的识别正确率和识别效率.     

基于深度迁移网络MobileNetV3的地形识别

传统地形识别算法,主要建立在人工提取特征和训练分类器的前提上,其通用能力有限且准确度不高,或者需要大量的数据集训练基础,这种方法训练的网络模型参数较大且预测耗时较长,不利于移植到移动端。因此,运用迁移学习思想,提出了一种基于深度迁移网络的地形识别算法。采用轻量级卷积神经网络MobileNetV3,在爬虫获取和自建适量数据集基础上,对神经网络进行迁移学习。首先,采用图像分类数据集ImageNet上的预训练成果,根据预训练模型权重对MobileNetV3网络进行初始化,实现对模型大规模共享参数的迁移;然后,通过在自建数据集GXU-Terrain6上进行新的训练,微调模型参数,进而得到新的分类模型;最后,利用训练好的模型对地形类别进行预测,从而完成识别任务。提出算法在GXU-Terrain6测试集上取得了93.00%的平均预测准确率。实验结果表明,基于深度迁移的地形识别算法运用较少数据,可获得较高的识别准确率,网络实时性好,适合向移动端移植。     

基于空时注意力网络的面部表情识别

基于视频序列的面部表情识别问题主要有两个特点:空时性和显著性。近年来,许多研究人员利用卷积神经网络、循环神经网络、三维卷积神经网络等深度学习方法处理该问题的空时特性。但是,面部表情的显著性问题却往往被忽视。随着注意力机制在深度学习网络中的应用发展,其能够有效地解决各类任务中的显著性问题。该文将空时注意力机制应用到面部表情识别中,使得深度网络更多地关注空时特征中的显著性。具体地,该文将空间注意力模块嵌入到卷积网络中,以使空域特征更加关注对表情识别重要的区域,将时间注意力模块嵌入到门控循环单元(gated recurrent units,GRU)后,使得时域特征更加关注信息丰富的视频帧。在RECOLA情感数据库上的实验表明,与一般的深度模型相比,该文的深度空时注意力网络显著提高了面部表情识别的性能。     

基于一维倒残差轻量级网络的无人机个体识别方法

在无人机的个体识别问题中，针对传统的识别方法存在网络模型参数量大和算法时效性差等问题，提出基于一维倒残差轻量级神经网络(1D-IRLNN)的无人机个体识别方法。首先提取反映无人机个体间差异的I/Q包络一维特征作为无人机的浅层特征；其次将深度可分离卷积与倒残差结构等设计思想和一维神经网络模型相结合，设计出跳跃级联的一维倒残差轻量级神经网络；最后利用网络模型提取一维I/Q包络数据中的深层特征，从而实现对无人机个体的快速准确识别。实验结果表明，1D-IRLNN模型的计算量分别是同等体量的深度模型1D-CNN与1D-ResNet的305%和238%，网络模型规模分别是深度模型1D-CNN与1D-ResNet的387%和297%，所提方法相较于其他方法，在保持较高识别准确率的同时具有更快的识别速度且占内存更小。     

基于LSTM和注意力机制的蛋白质-配体结合亲和力预测

蛋白质-配体的结合亲和力预测是药物重定位回归中具有挑战性的任务。深度学习方法可以有效预测蛋白质与配体相互作用的结合亲和力,减少药物发现的时间和成本。由此,基于长短期记忆模块(LSTM)和注意力机制模块(attention)提出了一种深度卷积神经网络模型(DLLSA)。模型由嵌入LSTM和空间注意力模块(spatial-attention)的卷积网络并行模块构建,其中LSTM模块针对蛋白质-配体接触特征的长序列信息,spatial-attention注意力模块聚集接触特征局部信息。采用PDBbind(v.2020)数据集进行训练,CASF-2013和CASF-2016数据集进行验证,模型的皮尔逊相关系数相比于PLEC模型分别提高了0.6%和3%,实验结果显著优于其他相关方法。     

基于注意力特征融合的SqueezeNet细粒度图像分类模型

针对现有细粒度图像分类算法普遍存在的模型结构复杂、参数多、分类准确率较低等问题,提出一种注意力特征融合的SqueezeNet细粒度图像分类模型.通过对现有细粒度图像分类算法和轻量级卷积神经网络的分析,首先使用3个典型的预训练轻量级卷积神经网络,对其微调后在公开的细粒度图像数据集上进行验证,经比较后选择了模型性能最佳的SqueezeNet作为图像的特征提取器;然后将两个具有注意力机制的卷积模块嵌入至SqueezeNet网络的每个Fire模块;接着提取出改进后的SqueezeNet的中间层特征进行双线性融合形成新的注意力特征图,与网络的全局特征再融合后分类;最后通过实验对比和可视化分析,网络嵌入Convolution Block Attention Module(CBAM)模块的分类准确率在鸟类、汽车、飞机数据集上依次提高了8.96%、4.89%和5.85%,嵌入Squeeze-and-Excitation(SE)模块的分类准确率依次提高了9.81%、4.52%和2.30%,且新模型在参数量、运行效率等方面比现有算法更具优势.     

基于Attention的卷积神经网络验证码识别研究

验证码字符识别技术作为数字图像处理的一个重要应用分支,其目的在于准确、快速地分析验证码所携带的字符内容.已有研究通过构建卷积神经网络进行验证码字符识别,并且取得了一定的效果;但是大部分研究使用特征的浅层信息作为模型的输入,受局部感受野的限制而丢失特征,未能充分分析验证码的深层特征信息,并且未能对特征进行充分融合,造成识别准确度还有一定提升空间.提出了一种基于注意力机制的卷积神经网络模型,首先采用Otsu算法对验证码进行预处理后,输入到VGG16模型提取验证码的特征;然后引入注意力机制,自动学习关键信息,得到不同特征的权重;最后基于卷积神经网络进行特征融合,通过训练后得到验证码识别模型.提出的模型在调用Captcha库生成的验证码数据集上进行验证,结果显示提出的方法在不增加时间成本的情况下,验证码识别准确率平均可达到93.27%,对比ResNet、CNN和CNN7基线方法,分别提升了8%、10%和22%.因此,提升了验证码识别的准确率,促进了自动识别车牌等场景落地,推进了验证码识别技术的发展.     

基于改进型深度网络数据融合的滚动轴承故障识别

针对传统智能诊断方法依赖于信号处理和故障诊断经验提取故障特征以及模型泛化能力差的问题,基于深度学习理论,提出将卷积神经网络算法结合softmax分类器,针对数据集不平衡问题引入加权损失函数、正则化以及批量归一化等模型优化技术搭建适于滚动轴承故障诊断的改进型深度卷积神经网络模型。模型从原始实测轴承振动信号出发逐层学习实现特征提取与目标分类。实验结果表明,优化后的深度学习模型可实现对早期微弱故障、不同程度故障的精确识别,在不平衡数据集上也可达到95%的识别准确率,并且模型拥有较快的收敛速度和较强的泛化能力。     

基于多头注意力机制的磷酸化位点预测模型

计算预测蛋白质磷酸化位点的方法常用于位点识别的初筛阶段。为了提升位点初筛的准确率,本文提出一个深度学习模型MAPhos。该模型首先运用氨基酸向量与位置向量的和表示每一个氨基酸残基;随后使用双向GRU循环神经网络捕获各氨基酸残基的特征;接着引入多头注意力机制计算各注意力头的子上下文向量,并将它们连接起来构成肽段的上下文向量;最后通过一个全连接神经网络进行非线性变换和结果预测。真实数据集上的实验结果表明,MAPhos模型预测磷酸化位点在AUC值、灵敏度、正确率、精度和F₁分数统计度量上胜过基于特征提取的模型和基于卷积神经网络的模型,同时与基于卷积神经网络的模型相比具有更好的可解释性,这证明了MAPhos模型更加适用于磷酸化位点识别任务的初筛阶段。     

基于卷积注意力网络的网格质量评价方法

将深度卷积神经网络引入网格质量评价问题有望代替网格工程师完成繁杂的网格质量评价工作，节省计算流体力学数值模拟的人力成本，但现有方法的准确率和效率仍需要提高.因此，本文提出一种基于卷积注意力网络的网格质量评价方法.首先，本文提出在轻量级卷积神经网络模型中嵌入通道注意力的方式以同时提升准确率和效率；其次，设计了一个神经网络模型CANet用于网格质量评价任务；最后，通过Z-Score标准化对数据进行预处理，解决输入数据分布不一致的问题，以进一步提升准确率.实验结果表明，与现有方法相比，CANet可以达到更优的准确率97.06%,并且在效率上也有至少34.9%的提升.