基于混合域注意力机制的神经网络反演大气湍流强度

本文提出了一种基于混合域注意力机制的神经网络方法反演大气湍流强度。神经网络的输入为不同大气湍流强度下的退化图像,输出为表征大气湍流强度的折射率结构常数。混合域注意力机制由空间域和通道域双重注意力机制组成,其中空间域注意力机制用于增强退化图像中受湍流影响的区域特征,通道域注意力机制用于增强由湍流引起的颜色和纹理特征。在网络训练阶段,引入的混合域注意力机制让神经网络更专注于退化图像中与大气湍流强度相关的特征,提高了模型的精度。数值实验结果表明,本文提出的方法能够较准确地实现大气湍流强度反演。     

基于混合神经网络的中文隐式情感分析

隐式情感分析是情感计算的重要组成部分,尤其是基于深度学习的情感分析近年来成为了研究热点.本文利用卷积神经网络对文本进行特征提取,结合长短期记忆网络(LSTM)结构提取上下文信息,并且在网络中加入注意力机制,构建一种新型混合神经网络模型,实现对文本隐式情感的分析.混合神经网络模型分别从单词级和句子级的层次结构中提取更有意义的句子语义和结构等隐藏特征,通过注意力机制关注情绪贡献率较大的特征.该模型在公开的隐式情感数据集上分类准确率达到了77%.隐式情感分析的研究可以更全面地提高文本情感分析效果,进一步推动文本情感分析在知识嵌入、文本表示学习、用户建模和自然语言等领域的应用.     

基于BiLSTM-Attention-CNN的XSS攻击检测方法

在基于深度学习XSS检测的研究中,双向长短期记忆网络(BiLSTM)和CNN模型均无法区分输入特征信息中关键特征和噪音特征对模型效果的影响。针对这一问题,引入注意力机制,提出一种将BiLSTM和CNN相结合的XSS检测模型。首先利用BiLSTM提取XSS攻击载荷双向序列信息特征,然后引入注意力机制计算不同特征在XSS检测中的权重,最后将加权后的特征向量输入CNN提取局部特征。实验表明BiLSTM-Attention-CNN相比SVM、ADTree、AdaBoost机器学习算法分别提高了9.45%、7.9%和5.5%的准确率,相比单一的CNN、GRU、BiLSTM提高了检测精度,相比BiLSTM-CNN在保持检测精度的同时减短了5.1%收敛时间。     

基于知识图谱使用多特征语义融合的文档对匹配

为了区分文档间的同源性和异质性,首先,提出一种多特征语义融合模型(Multi-Feature Semantic Fusion Model,MFSFM)来捕获文档关键字,它采用语义增强的多特征表示法来表示实体,并在多卷积混合残差CNN模块中引入局部注意力机制以提高实体边界信息的敏感性;然后,通过对文档构建一个关键字共现图,并应用社区检测算法检测概念进而表示文档,从而匹配文档对;最后,建立两个多特征文档数据集,以验证所提出的基于MFSFM的匹配方法的可行性,每一个数据集都包含约500份真实的科技项目可行性报告。研究结果表明：本文所提出的模型在CNSR和CNSI数据集上的分类精度分别提高了13.67%和15.83%,同时可以实现快速收敛。     

嵌入自适应注意力机制YOLOv3的类圆杆物计数方法研究

为解决类圆杆物生产分装过程中传统计数方法计数准确率低和检测速度慢等问题,采用一种融合GIoU优化算法与注意力机制YOLOv3的类圆杆物检测计数方法(adaptive attentional mechanism YOLOv3,AAM-YOLOv3)。首先使用数据增强技术对标定数据进行扩增,减少模型过拟合现象;然后,以K-means算法聚类训练数据,自适应确定锚框尺寸,并采用GIoU算法优化回归损失函数;最后,引入混合注意力模块(CBAM)强化检测网络提取目标位置有效特征,忽略不重要特征信息,以克服传统YOLOv3算法中因特征提取不充分而导致目标漏检的问题。结果表明,所提出的AAM-YOLOv3模型检测mAP值为97.5%,计数准确率为98.9%,较改进前分别提高5.8%和4.4%,检测速度达到40 fps。所提算法以及检测计数方法可快速高效地实现类圆杆物的准确计数,能满足生产分装过程检测要求。     

基于改进YOLOv5的高速公路隧道车辆和人员检测

针对高速公路隧道内光线昏暗、图像受灯光影响及远距离小目标检测困难等问题,提出了一种改进的YOLOv5高速公路隧道车辆和人员检测算法。首先,使用高斯混合聚类来获得更加匹配数据集目标的一组锚框,提高了模型的检测精度;其次,在特征融合部分引入CARAFE算子,扩大感受野,降低上采样过程特征细节损失;最后,通过向网络中插入坐标注意力 (Coordinate Attention,CA),进一步增强模型对图像各位置特征的提取能力。为验证算法的有效性,在浙江温丽高速公路隧道数据集上进行实验,结果表明：所提算法的平均检测精度(mean Average Precision ,mAP)达到了95.7%,较原模型提升3.8%,对于远距离小目标和受严重灯光影响的目标能够实现更加精准检测,为复杂环境下高速公路隧道内车辆和人员检测提供了一种有效的解决方案。     

水下目标工频磁场扰动信号检测方法研究

为了解决水下目标磁场近程化探测中磁信号衰减快、干扰强及扰动特征不明确、无法有效探测信号等问题,提出了一种基于混合神经网络与注意力机制(Att-CNN-GRU)的工频磁场水下目标时间序列扰动信号检测方法。将CNN,GRU神经网络与Attention机制相结合拟合信号,构建分类神经网络,对目标信号进行分类识别,同时与未引入注意力机制的CNN-LSTM模型及单一CNN和LSTM网络模型的预测及检测性能进行比较。结果表明,相较于传统方法,信号拟合效果将误差分别减小了36.24%,14.44%和4.878%,目标检测准确率达到83.3%。因此,加入Attention机制的CNN-GRU模型检测性能比CNN,LSTM和CNN-GRU模型更优异,作为辅助手段,能有效解决工频磁场探测中扰动信号微弱、扰动规律不明确、背景噪声多等问题,实现对水下目标造成的工频磁场扰动信号的拟合与检测。     

注意力机制下的EMD-GRU短期电力负荷预测

为进一步提高短期电力负荷预测精度,构建一种基于注意力机制的经验模态分解(EMD)和门控循环单元(GRU)混合模型,对时间序列的短期负荷进行预测.首先,对负荷序列进行EMD,将数据重构成多个分量;再通过GRU提取各分量中时序数据的潜藏特征;经注意力机制突出关键特征后,分别对各分量进行预测;最后,将各分量的预测结果叠加,得到最终预测值.仿真结果表明:相对于BP网络模型、支持向量机(SVR)模型、GRU网络模型和EMD-GRU模型,基于EMD-GRU-Attention的混合预测模型能取得更高的预测精度,有效地提高短期电力负荷预测精度.     

基于注意力机制多特征融合与文本情感分析的日志异常检测方法

现有的基于深度学习和神经网络的日志异常检测方法通常存在语义信息提取不完整、依赖日志序列构建和依赖日志解析器等问题.基于注意力机制多特征融合和文本情感分析技术,提出了一种日志异常检测方法 .该方法首先采用词嵌入方法将日志文本向量化以获取日志消息的词向量表示,接着将词向量输入到由双向门控循环单元网络和卷积神经网络组成的特征提取层中分别提取日志消息的上下文依赖特征和局部依赖特征,使用注意力机制分别加强两种特征中的关键信息,增强模型识别关键信息的能力.使用基于注意力机制的特征融合层为两种特征赋予不同权重并加权求和后输入由全连接层构成的输出层中,实现日志消息的情感极性分类,达到日志异常检测的目的 .在BGL公开数据集上的实验结果表明,该模型的分类准确率和F1值分别达到了96.36%和98.06%,与同类日志异常检测模型相比有不同程度的提升,从而证明了日志中的语义情感信息有助于异常检测效果的提升,并且经过实验证明了使用注意力机制的模型可以进一步提高文本情感分类效果,进而提升日志异常检测的准确率.     

基于CBAM-YOLOv5s模型的温室作物病害检测研究

以温室马铃薯为研究对象,设计一种融合卷积块注意力机制(CBAM)的YOLOv5s植物病害检测模型,通过引入CBAM机制来提升YOLOv5s模型对马铃薯叶片中病害区域的显著度,使病害目标在检测模型中的特征表达能力得到增强,达到提高病害目标检测精度的目的。试验结果表明：改进的CBAM-YOLOv5s模型mAP达到了98.1%,比原始YOLOv5模型mAP提升2.3%,比SSD和FasterRcnn模型mAP分别提高8.7%和19%,为马铃薯叶片病害检测提供了一种可靠的检测方法,实现对温室作物叶片病害的精准识别和定位。     

改进的DeepLabv3+同图复制篡改检测算法

为解决现有的篡改检测算法难以提取图像篡改边缘特征、篡改区域定位精度较低问题,提出一种改进的DeepLabv3+同图复制篡改检测算法。该算法在DeepLabv3+网络中引入双重注意力机制模块,用于捕捉上下文信息,以提高模型对篡改区域的适应性;采用残差细化模块对预测掩膜进一步优化,以增强模型对篡改边界的敏感性;使用一种新的混合损失函数用于模型训练,以利于模型在像素级和图像级中学习篡改图像与对应真实掩膜之间的映射关系。实验结果表明,改进的DeepLabv3+同图复制篡改检测算法,在COPYMOVE＿NIST和COPYMOVE＿COCO数据集上的3个评价指标均高于FCN、U-Net及DeepLabv3+算法,检测精度分别达到0.929和0.895,能够有效地提取图像篡改边缘特征,解决边缘像素漏检和误检问题。     

基于CXANet-YOLO的火焰检测方法

快速准确的火焰检测对于降低火灾危害具有重要意义，为了加强模型的火焰特征提取能力以及解决特征图尺寸不平衡的问题，利用XSepConv (Extremely Separated Convolution)、大卷积核、Mish激活函数等构建CXANet-block(ConvolutionExtremelyAttentionNetwork)作为YOLOv5的骨干网络，引入CBAM (ConvolutionBlockAttention Module)注意力机制，提出一种基于CXANet-YOLO的火焰检测方法，通过增加通道注意力和空间注意力来提高检测性能.在自建火焰数据集上进行训练，提升模型的鲁棒性和泛化能力.实验结果表明，CXANet-YOLO模型比基准模型YOLOv5在火焰检测上具有更高的检测精度和检测速度，准确率提高了8.2%，检测速度每秒提升25帧.     

改进YOLOv4的复杂交通场景目标检测方法

针对复杂交通场景下密集小目标居多、目标尺寸差异大、目标间遮挡严重的问题,提出了一种基于YOLOv4框架的复杂交通场景下的目标检测算法。首先,构造多尺度特征融合提取模块作为主干网络特征提取模块,充分提取不同尺度目标特征信息,同时引入轻量化Ghost模块对主干网络特征进行维度调整;其次,将卷积模块与自注意力机制融合,构造倒残差自注意力模块应用到主干网络深层,深层网络在充分提取局部特征信息基础上获得了全局感知;然后,构造轻量级混合注意力模块,抑制背景噪声,增强密集小目标检测能力;最后,在Udacity数据集上进行实验,检测精度达到了84.41%,相比较YOLOv4, mAP(mean average precision)提高了3.07%,对1 920×1 200分辨率图像的检测FPS(frames per second)可达到49,提高了22.5%,精度提升的前提下实现了较好的实时性,更适用于复杂交通场景下的目标检测任务。     

基于Ghost DenseNet SE的恶意代码检测方法

针对现有恶意代码检测模型对恶意代码及其变种识别率不高,且参数量过大这一问题,将轻量化卷积Ghost、密集连接网络DenseNet与通道域注意力机制SE相结合,提出一种基于Ghost-DenseNet-SE的恶意代码家族检测模型.该模型为压缩模型体积、提升识别速率,将DenseNet中的标准卷积层替换为轻量化Ghost模块;并引入通道域注意力机制,赋予特征通道不同权重,用以提取恶意代码的关键特征,提高模型检测精度.在M alim g数据集上的实验结果表明,该模型对恶意代码家族的识别准确率可以达到99.14％,与AlexNet、VGGNet等模型相比分别提高了1.34％ 和2.98％,且模型参数量更低.该算法在提升分类准确率的同时,降低了模型复杂度,在恶意代码检测中具有重要的工程价值和实践意义.     

基于自注意力机制的网络流量异常检测方法

网络中异常流量的有效检测对网络安全至关重要.以机器学习方法为主的异常流量检测技术,对流量数据采用特征选择方法进行降维并提取最优特征,但容易忽略数据特征之间的关联性,存在异常流量的检测率低、误报率高等问题.为了提高异常流量检测性能,论文在提取流量数据特征的过程中引入自注意力机制进行相关性学习,并结合深度卷积神经网络提出一种有效的网络流量异常检测模型.实验结果表明：通过引入自注意力机制,论文所提出的检测方法能够提取更准确的流量特征,并使得异常流量检测率高、误报率低.     

基于注意力机制多特征融合的虚假信息检测

在虚假信息识别任务中,面对图文结合的虚假内容,基于单模态的模型难以进行准确识别.社交媒体中的虚假信息为吸引关注和迅速传播的目的,会使用夸张的词汇煽动读者的情绪.如何将情感特征引入多模态虚假信息检测模型进行多特征融合,并准确地识别虚假信息是一个挑战.为此,本文提出了基于注意力机制多特征融合的虚假信息检测方法(att-MFNN).该模型中先将文本特征和情感特征基于注意力机制融合,再与视觉特征组成多模态特征送入虚假信息识别器和事件分类器中.通过引入事件分类器学习不同事件中的共同特征,提高新事件的识别性能.att-MFNN在微博和推特(Twitter)数据集的准确率达到了89.22%和87.51%,并且F₁、准确率、召回率指标均优于现有的模型.     

基于多重注意力机制的高分辨率遥感影像语义分割

针对当前深度神经网络在处理遥感影像语义分割过程中存在的模型庞大、处理耗时长、实时性低、小目标分割准确率不高的问题,提出了一种嵌入多重注意力机制的Multi-AttnDeepLabv3+(Multiple Attentionbased on DeepLabv3+)语义分割模型.该模型在编码部分使用轻量神经网络作为主干特征提取网络,加入混合注意力机制增强重要特征通道和空间像素的权值比重;在解码部分,在特征融合过程中加入通道压缩激活注意力模块,通过压缩激活操作再次增强重要特征通道的权重,提升模型分割准确率.该模型在多个数据集上取得较好的实验结果 .在相同条件下,此模型训练速度较传统网络模型有明显提升.与同类型轻量级语义分割模型相比,该模型在提升分割效果上具备优势.     

基于RCBAM和SSD的特征融合低照度环境目标检测算法研究

针对低光照、雨雾等恶劣场景对智能驾驶视觉系统检测能力的影响,提出了一种雷达与相机特征融合的网络模型. 基于毫米波雷达信息和注意力模型构建了雷达注意力机制特征模块,该模块可以为特征融合网络提供一个先验信息和增加算法在目标候选区域权重. 测试结果表明,引入雷达注意力机制模块后,特征融合网络的目标检测性能要比仅依赖计算机视觉的检测性能有了明显的提升,并且在复杂场景下的目标检测鲁棒性更强.      

基于视频的航站楼旅客人体特征辨识

为更好地实现航站楼智能监控,在分别分析航站楼不同功能区监控视频图像特征及特征提取效果之后,选择人头纹理特征和路径特征作为在各分区普遍适用且识别与跟踪效果良好的一组识别特征。在混合高斯背景模型前景检测算法基础上,引入基于YCbCr颜色空间阴影去除法实现阴影去除,提高前景检测精度;并基于此,分别利用基于GLCM的算法与光流法实现人头纹理特征与路径特征的提取,提高航站楼人员识别率。     

基于卷积注意力的情感增强微博立场检测

立场检测任务的目的是通过分析用户对特定话题发表的评论以判断其对该话题是支持还是反对的,该任务的关键是捕捉文本信息与其对应话题的相关特征。针对目前已有的微博立场检测模型存在仅考虑文本特征,而未结合话题特征,以及忽略了情感信息对微博立场检测的影响而导致分类效果差的问题,文章提出基于卷积注意力的情感增强微博立场检测模型。该模型通过卷积注意力对文本信息和其对应的话题信息提取特征,同时捕捉其相关特征,然后通过情感增强中词语级情感增强获得带有情感信息的词向量表示,将其与相关特征点相乘得到针对话题的情感增强句向量,其次通过拼接句子级情感增强特征以丰富最终的语义表示,最后对该语义表示进行分类。该模型在NLPCC-2016数据集中取得了较好的结果,相对于目前最优模型在五个话题上分别提高了7.9%、5.8%、5.3%、1.3%和5.2%。