结合注意力机制和卷积神经网络的X射线焊缝缺陷检测

焊接是一种重要的连接技术,但是焊缝缺陷会直接影响焊接结构的性能和使用寿命。焊缝缺陷的种类和特征的多样性增加了缺陷检测的复杂性。首先,提出一种新颖的并行残差注意力模块,在通道和空间维度上充分利用全局平均池化和全局最大池化来捕获全局特征,并与输入特征相乘,自适应的选择缺陷特征,显著提升了网络模型的特征表达能力。其次,针对焊缝缺陷长宽比悬殊的问题,利用注意力机制指导锚框自学习图像特征,预测锚框的位置和形状,围绕缺陷区域自适应生成非均匀分布的任意形状的感兴趣区域。最后,设计了端到端的由注意力引导感知的深度学习网络模型。为验证所提模型的有效性,在包含3 403张图像(其中1 001张有缺陷)的X射线焊缝数据集上,通过定性的分析和定量的对比。实验结果表明：检测指标平均精度均值(mean average precision, mAP)达到了66.74%,与原算法相比提升了5.78%,平均交并比(mean intersection over union, mIoU)提升了7.21%,基本满足对焊缝缺陷的高精度检测。     

多尺度卷积与双注意力机制融合的入侵检测方法

为提高互联网入侵检测方法的准确率,提出一种卷积神经网络与注意力机制结合的入侵检测方法。利用Borderline-SMOTE过采样算法和Min Max归一化对数据进行预处理,有效缓解入侵数据量差异较大问题,提升非平衡数据检测性能;使用卷积神经网络Inception结构多尺度对数据进行特征提取,并配合注意力机制进行维度更新,提高模型处理海量数据时特征表达的准确性。研究结果表明：入侵检测方法的平均准确率为99.57%;相较于SVM方法、CNN方法、RNN方法、BLS-GMM方法,准确率分别提升了4.48%、1.35%、1.62%和0.04%,召回率分别提高了4.48%、1.36%、1.62%和0.14%。     

融合注意力机制的改进型YOLOv5绝缘子缺陷故障检测方法

在电力系统巡检过程中,人工巡检方式难度较高,且存在安全隐患,搭载智能算法的无人机平台代替人工进行绝缘子检测的方法前景较好。针对绝缘子缺陷目标检测过程中存在的速度较慢、准确度较低等不足,提出了融合注意力机制的改进型YOLOv5绝缘子缺陷故障检测方法,该方法在YOLOv5s网络中融入SE注意力模块和CBAM注意力模块,并且将SE注意力模块与网络结构当中的C3模块结合,强化了网络的特征提取能力。通过相关的图像处理方法完成了自建绝缘子数据集的构建,采用了k-means++聚类算法构建自建数据集的先验框,并引入了Mosaic-9数据增强策略,有效解决了训练数据不足难以保证训练效果的问题。实验验证表明,改进后的检测方法,在不影响检测时间的前提下,绝缘子检测的准确度提升9.7%,对电力系统巡检方法具有一定参考意义。     

基于注意力机制和多尺度特征融合的绝缘子缺陷检测方法

随着深度学习的快速发展,利用目标检测算法对航拍绝缘子图像进行缺陷检测成为绝缘子巡检的主要方式.针对传统目标检测算法对小目标的检测精度较低、特征图的表征能力较弱和提取的关键信息较少的问题,提出以YOLOv5l为基础网络的改进的基于注意力机制和多尺度特征融合的绝缘子缺陷检测方法 AMF-YOLOv5l(Attention Mechanism and Multi-Scale Feature Fusion Based on YOLOv5l).首先,通过增加一个小目标检测头,提高模型对小目标的检测性能;然后,构造DSPP(Dilated Spatial Pyramid Pooling)模块,充分融合多尺度特征,增强特征图的表征能力;最后,引入CA(Coordinate Attention)注意力机制,使网络更加专注于关键信息.在航拍绝缘子数据集APID(Aerial Photographic Insulator Dataset)以及两个公共数据集PASCAL VOC和MS COCO上分别验证该方法的可行性.实验结果表明,在APID数据集中该方法的AP(Average Precision)比YOL...     

一种基于注意力导向CNN的晶粒缺陷检测方法

针对半导体生产过程中的晶粒缺陷检测任务,提出了一种融入多头注意力机制的新型CNN模型(Attn-Net).该模型使用深度可分离卷积和标准卷积累加的卷积结构提取输入图像特征,借助多头注意力机制更新特征权重,输出注意力机制筛选的图像分类结果.在13513张晶粒图像构成的数据集上训练、验证及测试,并与VGG-16、ResNe...     

基于卷积神经网络和混合注意力机制的书标检测算法

为实现图书馆中机器人智能排架,提出一种基于卷积神经网络和混合注意力机制的书标检测模型。将DenseNet121引入YOLOv4以提高特征和梯度之间的传递效率,利用SPDC模块实现局部和全局特征融合,进而通过通道和空间混合注意力提高模型的特征表征能力。实验结果表明,模型的平均准确率、整体性能、参数量和模型大小均优于对比方法,且易于部署到嵌入式设备中实现在线检测,从而提高图书乱架治理的智能化水平。     

基于注意力卷积神经网络的中文虚假评论检测

针对现有的虚假评论检测方法未充分利用虚假评论文本特征这一问题,本文提出一种基于多层注意力机制的卷积神经网络模型。首先,使用多种预训练词向量初始化词嵌入层,并进行复值位置编码;然后,将经过多种卷积核卷积得到的多种特征映射依次通过嵌入用户特征的通道级和卷积核级的注意力层,根据特征重要程度分配不同权重;最后,将拟合的评论文本特征表示进行Softmax分类。实验结果表明,与诸多主流优秀神经网络模型相比,本文模型准确率和F₁值分别提高4.74和3.86个百分点。     

基于卷积注意力的情感增强微博立场检测

立场检测任务的目的是通过分析用户对特定话题发表的评论以判断其对该话题是支持还是反对的,该任务的关键是捕捉文本信息与其对应话题的相关特征。针对目前已有的微博立场检测模型存在仅考虑文本特征,而未结合话题特征,以及忽略了情感信息对微博立场检测的影响而导致分类效果差的问题,文章提出基于卷积注意力的情感增强微博立场检测模型。该模型通过卷积注意力对文本信息和其对应的话题信息提取特征,同时捕捉其相关特征,然后通过情感增强中词语级情感增强获得带有情感信息的词向量表示,将其与相关特征点相乘得到针对话题的情感增强句向量,其次通过拼接句子级情感增强特征以丰富最终的语义表示,最后对该语义表示进行分类。该模型在NLPCC-2016数据集中取得了较好的结果,相对于目前最优模型在五个话题上分别提高了7.9%、5.8%、5.3%、1.3%和5.2%。     

基于视觉注意力融合的表面微小缺陷检测

在生产过程中手机等智能设备的屏幕表面可能出现的微小缺陷与灰尘等脏污很相似,传统检测方法易将脏污误检为缺陷。为了提高产品表面微小缺陷的识别准确率,本文提出一种基于视觉注意力融合的检测方法。首先利用金字塔下采样初步识别出潜在目标,以减少图像数据量及提高计算效率,然后将角点检测、伽马变换和Otsu阈值分割等传统检测方法与3种显著性提取方法(布尔图显著性模型BMS、谱残差模型SR和频率调谐模型FT)相结合,建立了融合检测模型。实验结果表明,所提出的融合模型能够较为准确地区分出缺陷与脏污,F₁值可达到0.73,与其他几种显著性检测方法相比,本文方法在对脏污的识别上具有明显优势。     

基于可变形卷积的小肠间质瘤多模型联合检测

小肠间质瘤(GIST)是一种常见的胃肠道肿瘤,目前对GIST的诊断主要依靠CT影像检查。近年来,随着计算机视觉技术在医学影像领域中的广泛应用,极大地提高了诊断效率。针对小肠间质瘤形状大小差异大,病灶区与正常组织器官相似度高的特点,该文提出了一种基于可变形卷积的小肠间质瘤多模型联合检测方案,该方法使用DeepLesion数据集作预训练,在单个检测模型中引入可变形卷积,使网络能够更好地适应小肠间质瘤形态大小差异大的特点,提高特征提取能力。同时对多模型输出的多组检测结果采取非极大值抑制和最高置信度选择的方法选取最高置信度的结果作为模型的输出。在小肠间质瘤数据集上的实验结果表明,该文提出的方法相较于单模型检测在间质瘤检测任务上性能有所提升。     

基于多通道卷积注意力机制的精神状态识别方法

为了获取老年人的精神状态从而更全面地了解老年人的身体状况,提出了基于多通道卷积注意力机制的精神状态识别方法。首先,对多种生理信号进行数据预处理,将不同采样频率的传感器数据进行重采样操作,保证数据长度一致。其次,根据输入信号的结构特征以及信号的长度设计对应卷积模块,使用4个不同大小的一维卷积核同时对信号进行特征提取,以增强模型的特征提取能力。再次,将卷积结果进行拼接,对拼接结果进行最大池化操作增加模型的感受野,在提取局部特征信号的同时实现信号间的长距离特征表达。最后,实验结果表明,总体分类准确率为99.75%,所提方法优于对比方法。     

融合形变卷积和自注意力的素色布匹瑕疵检测

在布匹生产过程中,会产生不同种类的瑕疵,准确的瑕疵检测对于提高纺织工业的生产效率具有重要意义。然而,布匹瑕疵仍存在小目标、极端纵横比、数量不均衡等问题,导致布匹瑕疵检测识别率低、错检漏检频发。因此提出了融合形变卷积和自注意力的素色布匹检测方法。首先,提出了融合形变卷积的多尺度特征提取,缓解模型对不规则瑕疵特征提取能力不足的问题。其次,构建多通道注意力聚合网络,生成新的具有强语义和精确位置信息的瑕疵特征图,提高小目标瑕疵检测的准确率。最后,设计自适应边框生成器,指导生成更精确的瑕疵边界框,解决部分纵横比悬殊的瑕疵无法生成紧密包围框的问题。在标准数据集上的实验结果表明,提出的方法有效提升了布匹瑕疵检测的准确率和效率。     

基于多尺度与混合注意力机制的苹果目标检测

自然环境下,苹果采摘机器人进行采摘任务时易受到环境因素的影响,导致其视觉系统的检测性能降低,出现误检和漏检的情况.针对此问题,在YOLOv3的基础上,提出了一种基于多尺度与混合注意力机制的目标检测模型PM-YOLOv3.首先,改进YOLOv3的特征提取网络,减少网络残差模块的数量,引入多尺度卷积,构建新的特征提取网络;...     

融合注意力机制和新型卷积神经网络的市政道路病害识别

环境和荷载协同作用导致的路面病害对道路使用性能和安全性能的影响日益突出。现有图像智能识别算法难以实现处理速度和计算量的平衡。针对道路病害快速准确实时识别的需求,对石家庄损伤较为严重的路面进行实地拍照,结合已有图片,采用数据增强技术构建了市政道路病害数据集,并且提出了一种基于MobileNetV3网络的轻量化道路病害识别网络模型GEM-MobileNetV3。该模型首先使用Ghost模块代替MobileNetV3网络基本单元中的1×1卷积;然后结合改进后的高效通道注意力机制ECA模块提取病害目标的重要特征;最后将网络浅层的ReLU激活函数替换为泛化能力更强的Mish激活函数,提高模型的整体性能。通过消融实验与对比实验,验证了新模型的有效性。实验结果表明,新模型准确率达到96.33%,其参数量与计算量较MobileNetV3模型分别降低了37.9%和36%。提出的新模型在保持较高识别准确率的同时有效降低了模型复杂度,为在低成本计算平台上实现高准确率实时识别提供了新途径。     

基于注意力机制及卷积神经网络的肺部图像分类

新冠肺炎在全球范围内的突然爆发,使医疗工作者进入了紧张的工作状态.面临此次突发的危机争件,病毒检测速度较慢,检测手段单一等问题也迅速暁露出来,为此,提出了一种基于注意力机制的轻量级卷积神经网络方法,以进行高效肺部图像分类,从而缓解医疗工作压力.提出模型采用MobileNet为基本网络,并融合注意力机制.实验表明,提出网...     

基于注意力机制的卷积循环网络语音降噪

不同噪声在频谱上具有不同的特性,为了解决卷积神经网络对含有不同噪声的语音降噪的局限性,通过引入通道注意力机制作为卷积循环网络的中间层,将卷积层中不同功能的卷积核赋予不同的权重,使模型在训练时能够对输入数据更有针对性地去除噪声部分,从而达到更好的降噪效果。针对含有15种噪声的含噪语音分别应用循环神经网络、编解码卷积网络和卷积循环神经网络等三种模型进行降噪处理,结果表明引入注意力机制的模型相比于其他两种模型,在感知语音质量评价(perceptual evaluation of speech quality, PESQ)和短时客观可懂度(short time objective intelligibility, STOI)评分上都有所提高,且引入注意力机制的模型能够更好地保留语音的谐波信息。     

基于卷积神经网络的磁瓦缺陷检测研究

针对磁瓦缺陷种类多样性及无法准确描述其缺陷的问题,提出一种基于卷积神经网络的缺陷检测方法。构建缺陷类型的数据集,并对数据集中的图像进行预处理;设置卷积神经网络模型参数,训练缺陷分类器;通过训练结果完成对缺陷图像的识别并标注缺陷类型。实验结果表明,该方法检测的准确性和实时性均优于传统检测方法,具有非常好的鲁棒性,为工业生产的实际应用提供了可靠的依据。