基于Transformer改进的两分支行人重识别算法

针对基于卷积神经网络的行人重识别算法全局信息建模不足的问题，分析了卷积操作的局限性，提出一种基于Transformer改进的全局-局部两分支行人重识别算法.首先利用相对位置编码改进多头自注意力机制，并将其嵌入到Resnet50骨干网络中.之后在全局分支中对图像进行空间几何划分并利用Transformer的全局感受野增强抽象特征的提取能力；在局部分支中对Layer＿3输出进行降维监督，利用多尺度池化获得更丰富的局部特征.实验结果表明，该算法在公开数据集Market-1501和DukeMTMC-reID上的mAP/Rank-1分别达到了93.45%/95.61%和88.79%/90.35%,相对于单纯基于卷积神经网络的算法，本文算法达到更高的精度.     

基于N-gram和Transformer的DGA恶意域名检测

针对使用域名生成算法(DGA)产生的恶意域名隐蔽性强,传统机器学习检测算法提取特征复杂等问题,提出了基于N-gram和Transformer的恶意域名检测方法。对域名数据添加首尾标志位,使用N-gram算法分割成词组元素后转换为向量输入Transformer模型。该模型能够有效的提取域名的字母组合特征,并且捕捉到域名中字母的位置信息,如域名中的首部和尾部字符、字母间的位置关系等特征,从而更准确的识别恶意域名。实验中使用Alexa的合法域名和360安全实验室采集的恶意域名作为数据样本,使用N-gram算法处理二级域名字符串,并与基于机器学习和深度学习的分类算法进行对比,实验结果表明该算法对DGA域名检测准确率达96.04%,能够有效、准确地识别出恶意域名。     

基于卷积和Transformer融合的服装分类算法

针对传统基于卷积神经网络的服装分类算法无法满足海量多样服装分类需求的问题,提出一种卷积注意力融合的服装分类网络.该网络采用并行结构,包含一个ResNet分支和一个Transformer分支,充分利用卷积运算提取的局部特征和自注意力机制提取的全局特征,以增强网络的表征学习能力,从而提高服装分类算法的性能和泛化能力.为验证该方法的有效性,在数据集Fashion-MNIST和DeepFashion上进行了对比实验.结果表明：在数据集Fashion-MNIST上,该方法取得了93.58%的准确率;在数据集DeepFashion上,该方法取得了71.1%的准确率;该方法优于其他对比方法的实验结果.     

基于稀疏Transformer的长短时序关联动作识别算法

针对主流的视频动作识别算法对时序信息的挖掘不充分,而Transformer能够更好地处理长序列和全局依赖性问题,本文将3DCNN和Transformer结合起来,提出了基于稀疏Transformer的长短时序关联动作识别算法,从而实现对视频的全局时序信息进行建模。该算法提取预训练视频模型各个片段特征,嵌入视频特征聚类模块降低输入特征的潜在噪声,并利用基于稀疏自注意力的Transformer长短时序关联模块,引入稀疏掩码矩阵,对相似度矩阵进行掩码操作,抑制较小的注意力权重,选择性地保留重要的长短时序信息,提高模型对全局上下文信息的注意力集中程度。本文在UCF101和HMDB51数据集上进行了大量的实验,验证了本文算法的有效性,在参数量和计算复杂度较小的情况下准确率高于同类权威算法。     

基于GMM-HMM的静态手势识别

提出了一种基于混合高斯模型的隐马尔科夫模型(GMM-HMM)与手势轮廓特征的单幅手势图像识别方法,该方法采用YCr Cb空间阈值处理对手势图像二值化处理,针对理想感兴趣区域提出了一种还原最上层轮廓的新型轮廓算法.将每类手势轮廓特征作为HMM的观察值分别训练对应手势的HMM参数,建立所有手势的HMM模型.分别用Viterbi算法计算测试集数据与每个模型的条件概率来获得识别结果.实验结果表明,该方法不仅对手势库内的特定人的静态手势识别具有较好的效果,且对提取的其他人的静态手势图像识别率也较高.     

基于深度森林算法的分布式WSN入侵检测模型

针对现有的特征选择算法和分类算法在无线传感器网络(WSN)入侵检测系统中检测性能表现不佳、检测实时性差、模型复杂度高等问题,提出一种基于随机森林和深度森林算法的分布式WSN入侵检测模型.该模型首先对传感器节点流量数据进行预处理;然后将轻量级随机森林分类器部署到传感器节点和簇头节点,传感器节点和簇头节点合作对流量数据进行处理,并在基站上采用深度森林算法从大量流量数据中发现攻击行为;最后对WSN中的入侵行为进行实时分类入侵检测.使用无线传感器数据集WSN-DS和NSL-KDD数据集来评估所提出的模型性能.实验结果表明,该模型与现有的入侵检测模型相比,具有良好的检测性能,实时性较高,可避免模型过度拟合.     

基于MM YOLOv4的无人机目标检测算法

针对当前无人机目标图像检测方法精度较低和检测速度过慢的问题,提出一种结合轻量级网络和改进多尺度结构的目标检测算法。首先采用MobileNetV3轻量级网络替换YOLOv4的主干网络,减少模型复杂度,提升检测速度;其次,引入改进多尺度结构的PANet网络,增强高维图像特征和低维定位特征的流动叠加,提升对小目标的分类和定位精度;最后,利用K means方法对目标锚框进行参数优化,提升检测效率。同时结合公开数据集和自主拍摄方式构建一个新的无人机目标图像数据集Drone dataset,并基于数据增强的方法开展算法性能实验。实验结果表明,该算法的mAP达到了91.58%,FPS达到了55帧/s,参数量为44.39 M仅是YOLOv4算法的1/6,优于主流的SSD、YOLO系列算法和Faster R CNN算法,实现了对多尺度无人机目标的快速检测。     

基于轻量级DenseNet和ZigBee的指纹识别方法

针对传统身份识别方法识别准确率低、模型复杂且运算速度慢等问题,提出一种新的基于轻量级密集连接卷积神经网络(DenseNet)和紫蜂协议(ZigBee)的指纹识别方法.首先,构建指纹识别系统的整体模型,并对该模型进行适当的裁剪以缩减模型复杂度.其次,通过筛选指纹图像、增强有效指纹以及扩充增强后的数据等操作,对采集到的ZigBee协议指纹信息进行预处理.然后,以传统深度残差网络的基本思想为依据,通过前馈的方式改变层间的连接关系并构建轻量级DenseNet.最后,以相同的样本数据为基础分别对轻量级DenseNet模型、普通DenseNet模型和3种传统基于机器学习的身份识别算法模型进行训练.试验结果表明:所提出的基于轻量级DenseNet模型的识别准确度最高,为98.24%,且该模型的运行速度最快,与普通DenseNet模型相比,其模型复杂度降低了94%以上.     

基于三通道注意力网络的番茄叶部病害识别

对番茄病害进行识别,近年来一直是植物病害预防的研究热点。由于受到复杂背景干扰,番茄叶部病害识别准确率不高,针对这一问题,提出一种基于三通道注意力机制网络的番茄叶部病害识别方法。该网络基于ResNeXt50残差网络,将注意力模块嵌入至残差网络的ResNeXt模块中可以并行提取目标的通道特征和空间特征,获取有效的语义信息。训练阶段通过设计双损失函数和数据增强进一步提升分类准确度,并通过迁移学习网络预训练参数的方式提高网络训练效率。实验结果表明,使用双损失函数和数据增强后,基于三通道注意力网络的番茄病害识别算法在测试集上的平均识别准确率达98.4%,相比于传统机器学习方法和其他神经网络方法的准确率更高,检测速度满足实时性,Kappa系数为0.96,满足叶部病害识别的高精度要求。该方法能够有效地对10种番茄叶部病害进行识别,为植物病害识别提供了一种新的思路。     

SFSR-Age:一种基于人脸强语义的年龄识别算法

针对因光照、拍摄角度及图片质量等因素导致的经典深度学习算法难以有效提取人脸特征、人物身份识别准确率难以达到理想精度的问题,提出一种基于人脸强语义的年龄识别算法.首先,通过注意力矩阵增强人脸区域的特征权重,达到提取特征区域的目的;其次,使用级联双向长短期记忆(Bi-LSTM)网络学习时序帧之间的特征依赖关系,弥补部分特征缺失对识别精度的影响.在人脸数据集IMDB-WIKI和数据集Adience上进行测试,该算法的年龄识别准确率分别达到78.34%和77.89%.实验结果表明,相比于其他基于深度学习算法的方法,该算法在基于图片数据集的人物年龄识别任务上具有更高的准确率.     

基于互信息-图注意力网络的大学生综合素质分类模型

为对高校大学生综合素质进行科学有效的分类,提出一种基于互信息-图注意力网络的大学生综合素质分类模型(Mutal＿GAT).首先,对原始数据进行预处理和分析,并通过门控循环单元算法(GRU)获得特征向量矩阵;然后,通过互信息方法提取数据之间的关联信息,并以此形成互信息关联矩阵;最后,通过图注意力网络的多头机制实现分类预测.结果表明,Mutal＿GAT模型在均方误差、准确率和召回率3项指标上均优于未加入互信息的图注意力网络、支持向量机、贝叶斯和随机森林随机梯度决策树分类算法.该模型在高校学生综合素质评定领域中具有良好的应用前景.     

一种面向移动端应用的实时目标检测算法

针对目标检测算法部署在移动端存在内存消耗大、精度低等问题,在NanoDet模型的基础上提出一种引入改进注意力机制的轻量级目标检测网络。首先,设计通道双池化及空间双向拆分的注意力模块,在尽可能不增加计算消耗的同时加强网络对感兴趣区域的关注能力;其次,引入空洞卷积及Mish函数增加网络的感受野及特征判别能力,并缩减冗余的降采样单元结构以加快网络的实时性;最后,在MS COCO2017数据集及安卓设备上的实验验证可知,本文算法在少量模型参数下提高了检测准确率,并保证30帧/秒的移动端检测速度,效果优于YOLO系列等轻量级网络。实验结果表明,本文算法参数量较YOLO系列模型参数量更低,更适合移动端和嵌入式设备的实时目标检测场景。     

基于图像自适应增强的轻量级雾天车牌检测和识别算法

针对雾天图像降质带来的车牌识别难题,提出一种采用图像自适应增强的轻量级车牌检测和识别算法。以目标检测网络YOLOv5s和车牌识别网络LPRNet为基础,设计一个改进的图像自适应增强模块级联于YOLOv5s之前,并引入混合注意力(SA)机制改进LPRNet。图像自适应增强模块由带参数的图像去雾和纹理增强模块以及自适应参数预测模块组成。自适应参数预测模块是轻量级卷积神经网络,与YOLOv5s联合训练,为不同程度的带雾图像自动提供合适的去雾和纹理增强参数以获得更准确的车牌检测结果。利用车牌位置的真实标签和实际检测结果,采用混合注意力机制和迁移学习策略得到最终的SA-LPRNet模型,缓解识别模型对检测结果的敏感性以获得更高的车牌识别准确率。在合成的雾天车牌数据集上的实验结果表明：本文算法对雾天车牌检测的mAP@0.5-0.95指标达到70.6%,车牌识别准确率达到93.5%,优于对比算法,且识别速度满足实时性要求。     

Transformer网络在雷达辐射源识别中的应用

由于雷达辐射源信号在时序上具有强相关性,针对卷积神经网络难以提取信号的时序逻辑相关性特征的缺点,本文提出了基于Transformer网络的雷达辐射源个体识别的方法。该方法首先以3台信号发生器模拟雷达辐射源信号,同时采集数据并建立数据库;然后对原始信号提取相位特征以及包络特征;最后采用基于注意力机制的Transformer网络对信号进行进一步的特征提取并分类。实验结果表明,该算法对于包络特征以及相位特征敏感度不同,同时数据样本长度对于识别效果会产生影响,最终结合相位特征的网络模型在信噪比为15 dB时识别率可以达到98.9%。     

改进ACGAN数据增强的番茄叶片病害识别

【目的】为了获得足够的番茄叶片病害图像，提高番茄病害的识别准确率，提出了一种新的基于生成对抗网络的数据增强方法(Hidden parameter label and Attention attached Multi scale ACGAN,HAM＿ACGAN).【方法】在生成对抗网络的基础上，为了补充类内信息，将隐参数标签连接到输入噪声上，以控制不同类别病害的叶片生成；同时设计一个带有残差注意力块的生成器捕获叶片中的病害信息，生成病害特征明显的番茄叶片；最后利用多尺度判别器丰富生成图片的细节纹理。【结论】实验表明，提出的数据增强方法能够生成病害特征明显的番茄叶片，能够满足神经网络训练所需的大量数据，进而提高病害识别网络的识别精度。     

基于深度卷积神经网络的三维模型识别

为了进一步提高三维模型的识别精度,提出了一种基于深度卷积神经网络的三维模型识别方法。将点云数据通过占用网格规范化计算转化为二值3D体素矩阵,通过附加正则化项的随机梯度下降算法提取体素矩阵的特征,再通过共享权重的旋转增强对训练集进行数据增广并以此对模型标签进行预测。实验结果表明,该算法在公开数据集ModelNet40及悉尼城市模型数据集上的识别精度均达到85%左右。与基于同类机器学习的三维模型识别算法相比,在相同训练数据集上该方法网络训练时间短,在相同测试数据集上模型识别准确率高,检索速度快。提出的体素占用网格模型的深度卷积神经网络,可以实现三维点云模型数据集及规范化体素模型数据集的识别和分类工作。     

多尺度改进Xception的花卉图像分类方法

针对传统图像分类方法在花卉图像上存在分类效果不佳的问题,提出一种改进Xception网络的方法。首先结合Res2net中的多尺度模块来提高模型特征信息的丰富度,提出Multi＿Xception网络,接着使用1×1卷积核对多尺度深度可分离卷积模块的输入特征图进行信道压缩,减少模型参数的同时进一步丰富模型特征信息,提出Multi2＿Xception网络。将改进模型应用于Flowers Recognition花卉数据集分类,实验结果表明,该方法相较于原算法分类准确率提升了1.64%,F1-score提升了0.018,验证了多尺度Xception网络的有效性。     

基于改进MobileNet网络的人脸识别方法

针对轻量级卷积神经网络MobileNet应用于人脸识别实时性较差、准确率不高等问题，提出一种改进MobileNet的网络模型—MobileDeepViT。首先，鉴于MobileNet模型有效减少网络参数量特点，本网络以MobileNet为核心，构建具有7层MobileNetV2、3层特征提取层、1层标准卷积和点卷积的深度学习网络；其次，在人脸特征提取过程中引入DeepViT，使网络更有效学习人脸特征；最后，该网络与Inception＿ResNetV1和MobileNetV1在相同的数据集CASIA-WebFace上进行训练，在LFW测试数据集上对训练模型进行评估，并在相同条件下对同一人的不同照片进行欧式距离和实时性测试。实验结果显示：该网络在模型参数更小的情况下，准确率比后二者分别提升了0.21%和0.72%、欧式距离测试结果也比后二者更小，预测时间更短，表明改进后的模型参数量减少、实时性更好、精度和鲁棒性提高。     

面向主属性值的类标特征分析

为了提取一个类标区别于其他类标的本质特征,增强类标数据集的可解释性,提出了一种面向主属性值的类标特征分析方法.该方法首先建立了一种直观的面向主属性值的类标特征模型,然后设计了对应的类标特征抽取算法,最后给出了一种基于类标特征分析的分类算法.实验结果表明:所建立的类标特征模型能够直观、有效地描述类标数据集中各类标的特征,给出的类标特征抽取算法有较高的执行性能,提出的分类算法在针对类标较少的数据集时有较高的分类准确率.     

融合特征增强模块的小样本农业害虫识别

基于深度学习的图像识别技术在具体应用前必须先经过大量带标签样本的训练,然而在实际场景中目标域样本可能非常稀缺,小样本图像识别技术应运而生.为了提升小样本场景下的图像识别准确率,本文提出一个通用的两阶段训练模型以融合现行主流方法并增强其表现.首先,针对训练时不同害虫种类背景相似度过高的问题提出融合双注意力机制的特征加强模块;其次,针对小样本情况下预测可能产生的过拟合问题提出基于高斯分布的特征生成模块以提高泛化能力;最后,将三种典型小样本识别方法统一成两阶段训练模型以融入提出的方法.将该思路及改进首次应用于传统害虫分类数据集IP102,识别准确率可以在基准方法上取得2.11%到6.87%的提升.为了进一步验证本文方法的有效性,在小样本领域公开数据集Mini Imagenet也进行了相应的实验,提升效果同样显著.