语音识别中的DenseNet模型研究

为了解决语音识别中由网络加深导致的低层特征消失、参数量大及网络训练困难的问题,基于Inception V3网络的非对称卷积思想,提出了一种改进的密集连接卷积神经网络(densely connected convolutional neural networks, DenseNet)模型。根据语音识别的长时相关性,通过密集连接块建立起不同层之间的连接关系,从而保存低层特征、加强特征传播;为了得到尺度更丰富的声学特征,将卷积核的范围进行扩大;利用非对称卷积思想分解卷积核,以减少参数量。实验结果表明,相较经典深度残差卷积神经网络模型和原始DenseNet模型,提出的模型在THCHS30数据集上的语音识别性能更好,在保证识别率的情况下,还减少了网络参数量,提高了模型训练效率。     

VansNet轻量化卷积神经网络

近年来,研究人员们在卷积神经网络的基础上保证效率的条件下提出了轻量化卷积神经网络,其中SqueezeNet轻量化卷积神经网络在保证精度的前提下,压缩了参数,提高了整体效率。本文针对SqueezeNet网络中由于压缩参数,存在准确率不理想的问题,提出了引入残差网络,增加跳层结构和网络宽度的改进方法 VansNet,相较于AlexNet、ResNet和SqueezeNet三种卷积神经网络其计算量最小且参数量很小。实验结果表明,改进后的VansNet轻量化结构在略增加参数的前提下提高了图像分类的准确率和效率。     

目标跟踪中基于深度可分离卷积的剪枝方法

为了减少跟踪网络中存在的参数量和计算量大的问题,提出了基于深度可分离卷积的剪枝方法。深度可分离卷积将跟踪网络中的传统卷积层分解为逐点卷积和逐层卷积两部分。在逐点卷积中,通过逐点卷积层中权重的大小来评估输入特征图通道在线性组合中的重要程度,将较小的权重及其关联的特征通道裁减掉。在逐层卷积中,通过K-L散度来衡量逐层卷积中滤波器的相似性,将相似的滤波器裁剪掉,减少冗余。通过上述方法进行多轮迭代剪枝,从而减少跟踪网络的参数量和计算量。在VOT数据集上的实验结果表明,在精度没有下降的前提下,剪枝后网络的参数量下降了22.54%,计算量下降了17.8%。在NVIDIA TX2设备上的实验结果表明,剪枝后网络的跟踪速度在CPU上提升了14.95%,在GPU上提升了13.07%。     

改进残差神经网络在遥感图像分类中的应用

针对传统卷积神经网络随着深度加深而导致网络退化以及计算量大等问题,提出一种改进残差神经网络的遥感图像场景分类方法。该方法以残差网络ResNet50作为主框架,在残差结构中引入深度可分离卷积和分组卷积,减少了网络的参数量和计算量,加快模型收敛的同时也提升了分类精度。此外在网络中嵌入多尺度SE block模块对通道特征进行重校准,提取出更加重要的特征信息,进一步提升了网络的分类性能。在AID和UCMerced_Land Use两个公开数据集上的分类精度分别为91.92%和93.52%,相比常规残差网络分类精度分别提高了3.38%和10.24%,证明所提方法在遥感图像场景分类任务中的可行性和有效性。     

G-YOLO:基于改进YOLOv5的嵌入式小目标缺陷检测算法

针对人工检测缺陷模式或YOLOv5等深度学习算法对工业产品的缺陷检测存在识别准确率低、模型参数规模大等问题,提出一种对微小缺陷端到端检测的嵌入式算法G-YOLO.该算法使用卷积核为3和卷积核为1的双层卷积FConv模块,改善了原单层卷积带来的参数量较大的问题;改进的轻量级跨阶段GSP模块融合坐标注意力机制用于主干网络中能够利用冗余信息实现廉价的线性操作和聚焦缺陷信息来增强特征,以提高网络对缺陷特征的提取能力;去除原YOLOv5的颈部模块,减少网络的参数量和提升网络检测速度.结果表明,G-YOLO嵌入式算法减少了模型大小,改善了缺陷检测的效果,较好地满足轻量化嵌入式模型的要求.     

基于改进MobileNet网络的人脸识别方法

针对轻量级卷积神经网络MobileNet应用于人脸识别实时性较差、准确率不高等问题，提出一种改进MobileNet的网络模型—MobileDeepViT。首先，鉴于MobileNet模型有效减少网络参数量特点，本网络以MobileNet为核心，构建具有7层MobileNetV2、3层特征提取层、1层标准卷积和点卷积的深度学习网络；其次，在人脸特征提取过程中引入DeepViT，使网络更有效学习人脸特征；最后，该网络与Inception＿ResNetV1和MobileNetV1在相同的数据集CASIA-WebFace上进行训练，在LFW测试数据集上对训练模型进行评估，并在相同条件下对同一人的不同照片进行欧式距离和实时性测试。实验结果显示：该网络在模型参数更小的情况下，准确率比后二者分别提升了0.21%和0.72%、欧式距离测试结果也比后二者更小，预测时间更短，表明改进后的模型参数量减少、实时性更好、精度和鲁棒性提高。     

基于Debseg-Net的岩屑图像语义分割

岩屑的岩性识别是地质工作中的一项重要内容。为解决传统人工鉴别岩性的低效问题和通用机器学习模型在岩屑岩性识别上的不适用性：包括准确率欠佳、网络参数冗杂、网络效率低下,针对岩屑图像的特征设计了一种岩屑图像的语义分割网络Debseg-Net,该网络采用编解码结构,卷积与转置卷积结合实现对岩屑图像特征的提取与像素级分类,采用深度可分离卷积减少参数量从而可进一步加深网络,使用跳级连接避免迭代过程中的信息丢失。同时提出了一种高效的岩屑图像自标记方法。经多次实验,Debseg-Net在以10口探井收集的640张共计5类岩屑图像数据集上,识别准确率达到98.43%,平均交并比达到90.01%,领先同类型分割网络2.59至7.04个百分点,在实现数字化岩屑录井进程中提供了方法。     

基于深度学习的偏光片缺陷实时检测算法

针对现有的基于深度学习检测缺陷的方法虽然可以保证分类的准确率,但其检测速度慢,模型占用内存大,难以满足在线检测系统的实时性要求等问题,提出了一种基于深度学习的偏光片缺陷实时检测算法。首先,设计了一个新的并行模块用于构建偏光片缺陷检测网络,模块将不同尺寸大小的卷积核相混合,与传统的卷积层相比,可以融合不同尺度的特征并能提取到更丰富的缺陷特征;用深度可分离卷积替代模块中的标准卷积,这可以大大减少网络的参数量和乘法累计运算量(MACCs).其次,用非对称卷积代替并行模块中的深度可分离卷积得到并行非对称卷积模块,可以进一步减少网络的参数量。最后,使用全局均值池化层代替全连接层,大大减少了网络的参数量。实验结果表明,偏光片缺陷分类模型平均每张图片的测试时间为108 ms,模型在测试集上的准确率达到99.4%,同时模型占用内存为0.583 MB,能够满足工业中偏光片缺陷检测的实时性要求。     

基于轻量级Fast-Unet网络的航拍图像电力线快速精确分割

为了满足光学航拍图像中电力线检测的实时性和高精度,提出了一种轻量级Fast-Unet网络电力线检测方法.它以Unet语义分割网络为基础,添加金字塔池化结构增强特征上下文信息的融合.设计深度可分离残差卷积运算,增加了网络深度且进一步减少了网络参数量.使用多损失函数训练Fast-Unet网络,缓解图像中前景与背景类别分布极...     

结合批归一化的轻量化卷积神经网络分类算法

传统的深度卷积神经网络结构复杂,参数量多.针对现有的轻量化卷积神经网络模型结构,提出一种改进的轻量化卷积神经网络BN-MobileNet.采用模型压缩的方法对原结构进行缩减,减少冗余参数,再对深度可分离卷积的结构进行改进,在relu非线性激活层后加入归一化层来对非线性激活层所输出的数据进行归一化处理.同时,使用全局平均...     

高效数据包过滤器部署算法

 整合在路由器上的数据包过滤功能是网络安全的第一道防线，对保护网络的安全有着至关重要的作用。当前的研究主要侧重于对数据包的检测和过滤，忽略了数据包过滤器的部署问题，如果对其部署得当，能极大改善网络的性能和效率。在大规模的网络中，数据包过滤器被部署在管理网络的边界上，即信任网络和非信任网络之间。一般情况下，数据包过滤器被部署在网络边界的每一个路由器上，由于需要遍历路径上的过滤器，大量的时间和空间被消耗，容易造成时延、拥塞、丢包等问题，降低网络的效率。本文依据最短路径优先的思想，提出了一种新的部署算法，通过对比边界上各种风险，移除有操作风险的边界，产生一条最短虚拟路径，更加有效地部署过滤器的位置，给内部节点之间的信任网络提供保护，并使用基于风险的方法对虚拟边界进行离线计算。实验结果表明，使用该算法后，过滤器的数量减少20%～50%，网络的延迟时间变小，网络的连通性也得到改善。     

基于多尺寸特征图卷积方法的玉米雄穗检测

为了解决传统雄穗检测方法因玉米品种不同以及田间环境不同导致的检测误差较大、鲁棒性较差的问题,利用深度卷积神经网络提取特征,并对多尺寸特征图卷积的方法检测玉米雄穗。采用深度卷积神经网络inception作为基础网络来训练提取玉米雄穗特征,同时增加额外的卷积层对图像进行卷积提取特征,最后分别对基础网络中的两层卷积层以及额外的卷积层卷积得到的不同尺度特征图进行分类和位置回归。整体网络结构是多尺度端到端框架,效率高,方便检测不同尺度的雄穗。实验结果表明,此方法提高了雄穗检测的速度和准确率。     

卷积神经网络声学模型的结构优化和加速计算

将卷积神经网络(convolutional neural networks,CNN)声学模型应用于中文大词表连续电话语音识别任务中,分析了卷积层数、滤波器参数等变量对CNN模型性能的影响,最终在中文电话语音识别测试中,CNN模型相比传统的全连接神经网络模型取得了识别字错误率1.2％的下降.由于卷积结构的复杂性,常规的神经网络加速方法如定点量化和SSE指令加速等方法对卷积运算的加速效率较低.针对这种情况,对卷积结构进行了优化,提出了2种卷积矢量化方法:权值矩阵矢量化和输入矩阵矢量化对卷积运算进行改善.结果表明,输入矩阵矢量化方法的加速效率更高,结合激活函数后移的策略,使得卷积运算速度提升了8.9倍.     

基于改进的卷积神经网络图像识别方法

当前的图像特征识别大多采用的是传统的机器学习方法与卷积神经网络方法。传统的机器学习对图像识别的研究,特征提取多是通过人工完成,泛化能力不够强。最早的卷积神经网络也存在诸多缺陷,如硬件要求高,需要的训练样本量大,训练时间长。针对以上问题,提出了一种改进的神经网络模型,在LeNet-5模型的基础上并在保证识别率的情况下,简化网络结构,提高训练速度。将改进的网络结构在MINIST字符库上进行识别实验,分析网络结构在不同参量中的识别能力,并与传统算法进行对比分析。结果表明提出的改进结构在当前识别正确率上,明显高于传统的识别算法,为当前的图像识别提供新的参考。     

基于深度残差网络的车标识别

针对车标识别准确率的问题, 提出一种基于ResNet-18模型改进残差网络的车标识别算法. 首先, 利用残差网络并对其进行改进, 使用改进的线性修正单元Leaky ReLU激活函数代替原激活函数; 其次, 调整传统的残差网络结构, 将批量标准化和激活函数放在卷积层前, 并减少网络参数以加速网络训练. 实验结果表明, 改进后的残差网络模型识别准确率达99.8%.     

深度卷积神经网络的遥感植被检测方法

【目的】植被检测是城市生态研究的重要手段,然而由于遥感图像中植被存在阴影区域、遮挡区域以及色彩上的畸变等,导致当前的植被检测精度较低。基于遥感卫星影像,采用深度学习技术快速有效地检测出城市中的植被区域,为植被资源统计等相关研究提供依据。【方法】选用深度卷积神经网络模型,对高分辨率遥感影像中的植被区域进行检测。对不同的优化器,通过设置不同的卷积核大小,对精度进行对比分析。最后对网络层数进行研究,对设置合适网络层数进行分析,用构造的深度卷积神经网络在实验数据上进行植被区域检测。【结果】利用卷积神经网络处理二维图像时,无需手动提取特征,进行简单少量的预处理后,直接把图像输入到CNN模型中进行训练,即可实现图片的识别分类功能。降低了预处理的难度,同时局部感知和权值共享大幅度地减少了参数量,加快了计算速度。次抽样还能保证图像处理后的平移、旋转、缩放和拉伸的不变性。解决了传统方法计算量和样本量大、结构复杂以及费时的缺点。在采集到的高分辨率紫金山区域的遥感图像中,通过设计的多层卷积神经网络模型对区域中的植被资源进行分析,对比和研究不同的优化器、卷积核和网络层数,植被检测精度达到95.4%,明显高于当前众多植被检测算法。【结论】在深度学习中,目标检测的精度依赖于网络的结构设置,通过对优化器、卷积核以及网络层数进行设定,可以明显提高目标检测效率和精度。     

计算机网络模型中的复杂性现象分析

基于 Transit- Stub分层网络拓扑结构模型 ,提出了一个相对复杂的计算机网络模型 ,并通过对仿真结果的处理 ,揭示并分析了其中存在的诸如相变、幂率等复杂性现象 ,同时定性地研究了网络参数的影响。研究发现 ,网络的规模和带宽以及用户行为的统计分布都将对网络的相变现象有着重要的影响 ,数据流分布和节点排队长度的功率谱分布都呈现出幂率的特征。研究结果表明 :网络带宽的增加有助于抑制拥塞相变带来的影响 ,频域中的幂率现象说明了网络中存在的长相关特性