深度可分离卷积网络的驾驶状态识别算法

针对嵌入式设备内存小及多分类准确率低等导致驾驶员检测问题,提出经过深度可分离卷积网络改进而成的,快速下采样网络(fast downsampling network,MF-Net)驾驶状态识别系统.即将快速下采样策略应用于深度可分离卷积网络,在12层内执行32倍下采样,以有效降低计算成本、增加信息容量并实现性能改进.实验结果表明:与VGG(visual geometry group)和ResNet 50等其他卷积神经网络(CNN)模型相比,所提出的MF-Net模型深度可分离卷积大大减少参数量,快速下采样方案的运用增加了网络的信息容量,不仅模型较小且在驾驶员状态分类方面能够表现出更好的性能.同时,信息容量的增加可以对更多信息进行编码,加深对图像内容的理解,有利于之后的嵌入式系统移植.     

多尺度并行融合的轻量级卷积神经网络设计

针对传统深度卷积神经网络分类精度不佳,参数量巨大,难以在内存受限的设备上进行部署的问题,本文提出了一种多尺度并行融合的轻量级卷积神经网络架构PL-Net。首先,将上层输出特征图分别送入两种不同尺度的深度可分离卷积层;然后对并行输出特征信息进行交叉融合,并加入残差学习,设计了一种并行轻量型模块PL-Module;同时,为了更好地提取特征信息,利用尺度降维卷积模块SR-Module来替换传统池化层;最后将上述两个模块相互堆叠构建轻量级网络。在CIFAR10、Caltech256和101_food数据集上进行训练与测试,结果表明:与同等规模的传统CNN、MobileNet-V2网络及SqueezeNet网络相比,PL-Net在减少网络参数的同时,提升了网络的分类精度,适合在内存受限的设备上进行部署。     

G-YOLO:基于改进YOLOv5的嵌入式小目标缺陷检测算法

针对人工检测缺陷模式或YOLOv5等深度学习算法对工业产品的缺陷检测存在识别准确率低、模型参数规模大等问题,提出一种对微小缺陷端到端检测的嵌入式算法G-YOLO.该算法使用卷积核为3和卷积核为1的双层卷积FConv模块,改善了原单层卷积带来的参数量较大的问题;改进的轻量级跨阶段GSP模块融合坐标注意力机制用于主干网络中能够利用冗余信息实现廉价的线性操作和聚焦缺陷信息来增强特征,以提高网络对缺陷特征的提取能力;去除原YOLOv5的颈部模块,减少网络的参数量和提升网络检测速度.结果表明,G-YOLO嵌入式算法减少了模型大小,改善了缺陷检测的效果,较好地满足轻量化嵌入式模型的要求.     

基于改进MobileNet网络的人脸识别方法

针对轻量级卷积神经网络MobileNet应用于人脸识别实时性较差、准确率不高等问题，提出一种改进MobileNet的网络模型—MobileDeepViT。首先，鉴于MobileNet模型有效减少网络参数量特点，本网络以MobileNet为核心，构建具有7层MobileNetV2、3层特征提取层、1层标准卷积和点卷积的深度学习网络；其次，在人脸特征提取过程中引入DeepViT，使网络更有效学习人脸特征；最后，该网络与Inception＿ResNetV1和MobileNetV1在相同的数据集CASIA-WebFace上进行训练，在LFW测试数据集上对训练模型进行评估，并在相同条件下对同一人的不同照片进行欧式距离和实时性测试。实验结果显示：该网络在模型参数更小的情况下，准确率比后二者分别提升了0.21%和0.72%、欧式距离测试结果也比后二者更小，预测时间更短，表明改进后的模型参数量减少、实时性更好、精度和鲁棒性提高。     

结合批归一化的轻量化卷积神经网络分类算法

传统的深度卷积神经网络结构复杂,参数量多.针对现有的轻量化卷积神经网络模型结构,提出一种改进的轻量化卷积神经网络BN-MobileNet.采用模型压缩的方法对原结构进行缩减,减少冗余参数,再对深度可分离卷积的结构进行改进,在relu非线性激活层后加入归一化层来对非线性激活层所输出的数据进行归一化处理.同时,使用全局平均池化层来代替全连接层,减小模型结构的复杂度和参数量.通过在标准的分类数据集cifar10和cfar100上进行实验,实验结果表明,本文提出的改进模型能够降低运行的时间和模型的大小,提高了检测的速度,在标准分类数据集上的分类准确率各有2.68％和3.16％的提升.     

图像分类卷积神经网络的进化设计

为解决图像分类中深度卷积神经网络(Convolutional neural networks,CNN)中较为复杂的人工网络设计与调参问题,提出基于ResNet模块的进化卷积、神经网络(Evolutionary convolutional neural network,ECNN)的自动设计方法,并将其运用到图像分类中.该方法基于ResNet模块与2D卷积层,采用进化算法(Evolutionary algorithm,EA)对网络结构及参数进行优化.在NLM官方发布的疟疾数据集下进行实验,不同比例的测试集划分可以达到95.6%的分类准确率,文中算法与AlexNet、VGG16、Xception等人工设计的深度学习分类算法进行了比较,实验结果表明,其准确率提升了约1%.在斯坦福大学发布的Stanford cars车辆图像数据集中进行了算法泛化验证,结果表明,文中算法在不同比例数据的测试中准确率均在94.5%以上,将该算法与深度学习分类算法VGG16进行比较,准确率效果相当,模型测试图像分类耗时仅为VGG16耗时的1/13,且训练参数量较少.两组对比测试实验数据表明,相比人工设计的深度学习算法,本文方法具有较好的图像分类性能与较快的图像分类速度.     

基于DCGAN和改进YOLOv5s的桥梁表面缺陷检测识别

针对人工检测桥梁表面缺陷存在精度低、速度慢和漏检率高等问题,该文提出了基于深度卷积生成式对抗网络(deep convolutional generative adversarial networks,DCGAN)和改进YOLOv5s的桥梁表面缺陷检测识别模型.首先,通过DCGAN网络对自主采集的桥梁表面缺陷图像进行数据增强,建立每类缺陷样本数量较为均衡的数据集; 其次,在YOLOv5s模型基础上嵌入CBAM注意力机制模块,使模型将注意力集中于缺陷区域,从而提升图像分类的准确率; 最后,为验证所提方法的适用性,将包含4类桥梁表面缺陷的数据集进行训练与测试.实验结果表明:该文提出的模型在桥梁表面缺陷检测上的准确率为92%,相比其他深度学习模型具有更高的检测精度和鲁棒性.     

拆分降尺度卷积神经网络入侵检测方法

针对卷积神经网络模型待训参数量过大、多层网络导致特征和梯度消失等问题,论文提出了一种基于拆分层和Inception-ResNet的卷积神经网络模型用于入侵检测。首先将网络流量数据转化为具有空间相关性的图像以适用于卷积神经网络的输入;然后使用Inception-ResNet卷积层增加网络深度,减少模型训练参数数量以及消除梯度消失问题,拆分层在降低图像尺度时基本保持图像原有分类特征;最后采用NSL-KDD数据集对改进模型进行训练和测试。测试结果表明,改进模型相对于Inception-ResNet模型具有更高的检测准确率和少数类样本召回率以及更好的训练时间性能。     

基于YOLOv3的轻量化高精度多目标检测模型

针对当前目标检测模型在边缘设备中的应用占用内存过大、无法达到实时性要求的问题,提出一种基于YOLOv3的轻量化多目标检测模型.采用MobileNet网络进行点卷积和深度可分离卷积运算提取图像特征,显著降低了模型的参数量.同时,为了保证目标检测精度,在训练过程中不仅采用CIOU(completeintersectionoverunion)目标框回归损失函数,而且在损失函数中引入Focal loss,减少正负样本分布不平衡所造成的误差;引入Label Smoothing调整真实样本标签类别在计算损失函数时的权重,有效抑制过拟合问题.经3.5万个实际场景数据训练,本文提出的改进模型在行人和车辆的检测精度上分别达到47.3%和69.67%,模型大小仅为YOLOv3的40%,实现了理想检测精度水平下的模型轻量化.     

一种基于注意力导向CNN的晶粒缺陷检测方法

针对半导体生产过程中的晶粒缺陷检测任务,提出了一种融入多头注意力机制的新型CNN模型(AttnNet).该模型使用深度可分离卷积和标准卷积累加的卷积结构提取输入图像特征,借助多头注意力机制更新特征权重,输出注意力机制筛选的图像分类结果.在13 513张晶粒图像构成的数据集上训练、验证及测试,并与VGG-16、ResNet-50和MobileNet-v2进行对比.相较于现有经典CNN网络模型,Attn-Net检测用时更短(1.26 s),模型尺寸更小(25 MB),在测试集上的分类准确率超过99%,是一种高效且轻量化的晶粒缺陷检测和分类模型.     

基于DenseNet的人脸图像情绪识别研究

针对人脸情绪识别类内差异大,类间差异小的特点,结合学生人脸图像的线上课堂情绪识别的场景,提出多尺度空洞卷积模块提取不同空间尺度特征的稠密深度神经网络模型,实现自然场景下学生人脸图像识别.该模型主要由多尺度空洞卷积和DenseNet神经网络两个子网络组成,其中多尺度空洞卷积由不同空洞率的四分支网络提取不同尺度特征,空洞卷积减小特征图尺寸,减少DenseNet内存资源占用;最后在DenseNet网络中结合Adam优化器和中心损失函数.使用稠密网络的旁路连接,加强情绪特征传递和复用.研究结果表明：基于稠密深度神经网络的情绪识别网络模型能够有效提高情绪分类的准确率,模型对预处理后的FER2013+数据集识别准确率达到93.99%,可为线上教学反馈提供技术支持.     

无人驾驶车辆基于语义分割方法障碍物检测

障碍物检测是无人驾驶车辆环境感知重要的组成部分,语义分割技术能够对障碍物进行像素级检测。为满足无人车系统的实时性要求和对障碍物检测精度要求,提出了一种轻量级语义分割模型。该模型构建了特征提取块,通过跳跃层结构将底层级特征与高层级特征相融合,用于提取更加细化的图像特征信息。运用深度可分离卷积代替标准卷积操作,减少了模型参数量和计算量。利用不同膨胀率的膨胀卷积以获取多尺度目标信息,在上采样时融合不同尺度的特征信息,使得语义信息更加丰富。试验结果表明:提出的轻量级语义分割模型在Cityscapes数据集和ApolloScape数据集上取得了较好的障碍物检测结果,同时也满足无人车的实时性要求。     

语音识别中的DenseNet模型研究

为了解决语音识别中由网络加深导致的低层特征消失、参数量大及网络训练困难的问题,基于Inception V3网络的非对称卷积思想,提出了一种改进的密集连接卷积神经网络(densely connected convolutional neural networks, DenseNet)模型。根据语音识别的长时相关性,通过密集连接块建立起不同层之间的连接关系,从而保存低层特征、加强特征传播;为了得到尺度更丰富的声学特征,将卷积核的范围进行扩大;利用非对称卷积思想分解卷积核,以减少参数量。实验结果表明,相较经典深度残差卷积神经网络模型和原始DenseNet模型,提出的模型在THCHS30数据集上的语音识别性能更好,在保证识别率的情况下,还减少了网络参数量,提高了模型训练效率。     

典型神经网络串联型电弧故障检测及选线方法研究

为解决传统特征分析加机器学习的电弧故障检测方法的准确率和实时性受到特征参数选取的主观性及特征分析过程的影响问题,搭建了三相多负载并联的串联型电弧故障实验系统,对不同支路、不同相发生电弧故障时的干路电流信号时间序列进行分析。将电流信号进行分类、分段、标准化处理并作为检测模型样本;对深度卷积神经网络模型、长短期记忆网络模型、普通神经网络模型进行架构及训练;通过差分处理对网络模型在线分类结果进行优化分析;以准确度和损失函数值、在线测试速度、优化后多分类识别准确率为评价指标,对比分析了3种模型故障检测及选线效果。研究结果表明：基于深度卷积神经网络的串联型电弧故障检测及选线模型对电机类负载故障检测及选线准确率可达96.77%,对变频器类负载故障检测及选线准确率可到98%,准确率高于近几年其他三相回路电弧故障检测模型。     

基于深度学习的网络攻击检测

针对现有的网络攻击检测方法检测精度不高的问题,提出一种基于并行卷积神经网络的在线网络安全攻击检测方法.该并行的深度卷积神经网络一共包含2个深度卷积神经网络用于提取特征:CNN1和CNN2,然后通过全连接层两个特征提取层,并通过软最大化操作将网络攻击的检测转换为攻击的分类模型.采用KDD Cup99作为仿真数据集,并采用训练数据来对深度模型进行训练,当模型的训练误差小于一定阈值时,采用测试数据进行测试.结果表明:将本文所提方法与文献[8]以及文献[9]所提的卷积神经网络进行比较,其结果表明了所提方法不仅具有较高的检测准确率而且具有较低的误报率上.     

基于改进YOLOv5s的轻量化交通灯检测算法

针对目前交通灯检测算法网络模型参数量过大、实时性差的问题,提出了一种基于改进YOLOv5s的轻量化交通灯检测算法.首先,用轻量化网络MobileNetv3替换原主干网络并引入注意力机制,在对检测精度影响不大的前提下降低模型参数量;然后,使用深度可分离卷积替换颈部网络中的传统标准卷积,进一步降低模型参数量;接着,针对交通灯尺度小的特点,删除检测大目标的检测层;最后,改进边框回归损失函数,提升边框检测精度.同时,为了能实时部署在嵌入式平台,该算法对网络进行通道剪枝实现模型压缩和加速.实验结果表明,该算法在嵌入式平台NVIDIA Jetson Xavier NX上能达到48.1帧/s的检测速度,相比原始YOLOv5s牺牲了1.5%的mAP,但是该模型体积压缩了54.3%,检测速度提高为原来的2.6倍,可以满足在交通道路中实时对交通灯检测的需要.     

基于微型计算机和神经网络的果蔬识别

在微型计算机上使用深度卷积神经网络实现果蔬自动识别的复杂图像识别任务,并构造了具有人工智能技术的电子秤系统.采用深度可分离卷积和反向残差网络设计构成的深度神经卷积网络,极大减少了模型的运算量并保持了较高的识别精度,适合硬件资源有限的微型计算机.神经网络经过训练、调参、剪枝优化后,图像识别准确率达到91.9%,推理延时小于1.5 s.这种人工智能系统可以代替人工操作让顾客进行自主购物,适合在无人超市或者避免聚集接触的环境下使用.     

基于检测图像的排水管道缺陷智能辅助分类方法

针对当前地下管网CCTV检测缺陷中存在自动化程度偏低及依赖专业人员技术水平的问题,综合采用图像处理和深度学习技术构建了辅助检测人员快速、准确地识别管道缺陷类型的智能方法。首先,收集十类典型缺陷图像,对其进行图像处理生成样本集;在此基础上,以深度卷积神经网络AlexNet和ResNet50为基础框架,使用预训练AlexNet和ResNet50网络迁移学习管道缺陷特征,通过敏感性分析优化了分类网络参数,然后,通过测试集验证了管道缺陷智能分类模型的准确性,并结合具体工程实例验证建立方法的有效性。结果表明：两类管道缺陷智能分类模型在测试集上分别达到92.00%和96.50%的准确率,实际工程实例准确率达到了85.41%和87.94%,且ResNet50的分类效果更优,具有较好工程适应性。图像处理和深度学习技术可提高排水管道缺陷分类的自动化与准确率,值得进一步进行推广。     

基于注意力机制非对称残差网络和迁移学习的玉米病害图像识别

为实现玉米病害图像快速、准确识别,提出了一种基于非对称注意力机制残差网络(asymmetric convolution attention resnet,ACA-Resnet)的图像检测模型.在残差网络的基础上,通过引入非对称卷积结构减少参数量,加快模型训练速度,同时引入注意力机制,改善模型的表达能力,提高检测准确率.为减小由于病害图片数量不足而造成的过拟合现象,采用迁移学习的方法提高模型的稳定性和泛化能力.结果 表明,ACA-Resnet经过ImageNet数据集预训练后对玉米病害图像的平均识别准确率可达到97.25％,较VGG-16、Inception-V3和ResNet50等网络分类效果更好,相较于Resnet50训练速度明显提升.可见本文方法训练速度快,识别精度高,可为玉米病害检测提供借鉴.     

基于深度学习的化妆品塑料瓶缺陷检测

提出一种基于深度卷积神经网络的化妆品塑料瓶表面缺陷检测算法。采用百万像素级别的工业相机采集大量的塑料瓶图像样本,并通过HSV(hue,saturation,value)颜色空间变换和Otsu阈值分割等方法对图像进行预处理。采用随机图像变换法对数据集进行增强,并对图像进行标准归一化处理。在卷积神经网络模型中应用深度可分离卷积和Dropout技术以减少参数量,从而避免过度拟合。使用训练样本集训练该模型,并在测试集中将结果与几种经典图像识别算法进行比较分析,结果显示,本文算法的识别准确率高达约0.97。由此表明本文算法的效果优于其他经典算法,有望将其应用于化妆品塑料瓶缺陷检测的工业自动化系统,以提升缺陷识别效果,从而提高生产效率。