一种混合阈值剪枝的稀疏化训练图像识别算法

卷积神经网络在图像识别的应用中,有大量的冗余参数,增大了计算量,降低了网络运行速度.针对这个问题,提出了一种混合多阈值的稀疏化训练剪枝算法,通过稀疏化训练和混合全局与局部阈值的剪枝算法,压缩了神经网络的模型.通过对缩放因子L1正则化,使重要性低的通道值接近0,进行稀疏化训练,再引入全局阈值和局部阈值剪枝掉接近于零的通道并防止模型向粗粒度方向压缩,并对其进行训练微调参数,得到了混合阈值剪枝的精简模型.最后为了验证本文方法有效性,在DOTA(a large-scale dataset for object detection in aerial images)数据集中进行测试,该算法在小幅度降低图像识别精度的前提下,成功地压缩模型90％大小,加快了53％的计算速度,取得了较好的效果.     

图像识别中的深度学习模型剪枝技术

为了探索用少量的图像数据指导模型剪枝，同时缩短确定裁剪哪些卷积核的时间，该文提出了一种基于卷积核输出特征图的和值的期望进行模型剪枝的策略。将少量的图像输入剪枝前的深度学习模型中，将同一层卷积核输出的特征图根据和值的期望进行排序，按照一定的剪枝率剪去较小期望值对应的卷积核。根据该文提出的模型剪枝策略，在3个通用的公开数据集CIFAR-10、CIFAR-100、ILSVRC-2012上进行了测试，并与目前主流的一些模型剪枝算法进行了对比。实验证明，该文提出的模型剪枝策略在VGG-16-BN上参数量压缩87.3%,每秒浮点运算次数(FLOPs)压缩78.6%,该模型在CIFAR-10上仍能达到93.19%的分类识别精度。在CIFAR-100数据集上，模型剪枝策略在ResNet-56上FLOPs压缩67%,仍能达到67.96%的分类识别精度。     

基于改进YOLOv5s的轻量化交通灯检测算法

针对目前交通灯检测算法网络模型参数量过大、实时性差的问题,提出了一种基于改进YOLOv5s的轻量化交通灯检测算法.首先,用轻量化网络MobileNetv3替换原主干网络并引入注意力机制,在对检测精度影响不大的前提下降低模型参数量;然后,使用深度可分离卷积替换颈部网络中的传统标准卷积,进一步降低模型参数量;接着,针对交通灯尺度小的特点,删除检测大目标的检测层;最后,改进边框回归损失函数,提升边框检测精度.同时,为了能实时部署在嵌入式平台,该算法对网络进行通道剪枝实现模型压缩和加速.实验结果表明,该算法在嵌入式平台NVIDIA Jetson Xavier NX上能达到48.1帧/s的检测速度,相比原始YOLOv5s牺牲了1.5%的mAP,但是该模型体积压缩了54.3%,检测速度提高为原来的2.6倍,可以满足在交通道路中实时对交通灯检测的需要.     

基于卷积神经网络的壁面清洗机器人障碍物检测识别算法

结合机器人的工作原理以及卷积神经网络(CNN)在图像分类中的应用,提出了一种基于卷积神经网络的壁面障碍物检测识别算法.首先,以壁面障碍物准确识别为目标,构建壁面障碍物图像库;然后,通过对VGG-16网络简化后进行优化,得到适合壁面障碍物准确识别的卷积神经网络模型.在此基础上,设计该网络由输入层、4层卷积层、2层池化层、1层全连接层以及输出层组成,进一步利用3×3卷积核对训练样本进行卷积操作,并将所获取的特征图以2×2领域进行池化操作.重复上述操作后,通过学习获取并确定网络模型参数,得到最佳网络模型.实验结果表明,障碍物的识别准确率可达99.0%,具有良好的识别能力.     

基于深度神经网络剪枝的两阶段遥感图像目标检测

在高分辨率遥感图像目标检测中,受云雾、光照、复杂背景、噪声等因素影响,现有目标检测方法虚警率高、速度慢、精确度低.为此提出基于深度神经网络剪枝的两阶段目标检测(object detection based on deep pruning,ODDP)方法.首先,给出深度神经网络剪枝方法,基于深度神经网络剪枝分别提出自主学习区域提取网络算法与优化训练分类网络算法;然后,将上述两算法用于卷积神经网络,得到两阶段目标检测模型.实验结果表明,在NWPU VHR-10高分辨率遥感数据集上,相比现有目标检测方法,ODDP的检测速度和精度均有一定提升.     

基于Gabor卷积神经网络的图像分类算法研究

为了研究Gabor滤波器在卷积神经网络中的性能和特征提取能力,提出了模拟视觉神经元特性的Gabor卷积神经网络计算模型。利用符合视觉神经元感知特性的Gabor滤波器作为建议神经网络的卷积核,将Gabor滤波器与CNN相结合,从而构建Gabor卷积神经网络。实验采用3个公共图像数据集进行图像分类任务,验证GaborConv网络的各项性能,并与经典的VGG16进行对比分析。实验结果表明,Gabor卷积神经网络的图像分类精度相对CNN有所提高,其收敛速度也明显加快,同时大量减少网络训练参数数量,释放计算机的内存。     

卷积神经网络与ELM的图像分类算法研究

卷积神经网络的全连接层作为一个经典的分类器,是根据传统的梯度下降法来实现训练的,泛化能力有限.针对这一问题,提出了一种将卷积神经网络和极限学习机相结合的混合模型应用于图像分类领域.卷积神经网络用于从输入图像中提取特征,特征映射最终会被编码成一维向量送入极限学习机中进行分类.给出了混合模型的详细设计,包括参数设计、结构分析以及迭代过程中反向传播算法的推导.实验结果表明,混合模型分类精度和快速性优于传统模型.在MNIST数据集上的分类精度达到了99.32％,GTSRB德国交通标志数据集上的分类精度达到99.35％.批尺寸相同时,混合模型的训练时间仅为卷积神经网络模型的9.9％～10.3％,同时测试速度是卷积神经网络模型的1.50～1.56倍,大幅缩短了时间.     

基于剪枝AlexNet的普米语孤立词识别

普米语是1种日渐消亡的无文字的少数民族语言,人们为了让其获得更好的发展与传承,开展了许多基于深度学习的普米语语音识别研究工作.然而,人们为追求更高的识别精度,通常不断的增加模型复杂度,造成了神经网络学习速度慢、训练成本高等问题.为了加快普米语孤立词识别中网络的学习速度、降低网络的训练成本,对卷积神经网络的AlexNet模型采用迭代剪枝算法以逐层剪枝的方式进行修剪,然后从生成的稀疏网络中寻找最佳剪枝网络用于普米语语谱图识别.实验表明,AlexNet剪枝网络在普米语孤立词识别中,能够有效的降低网络计算量、加速模型训练.该网络具有比原网络更快的收敛速度,达到与原网络类似的较高识别精度.     

基于卷积神经网络的乳腺病理图像识别算法

为了协助病理医生诊断乳腺肿瘤,提出了一种计算机自动识别分析乳腺病理图像的方法.该方法采用乳腺病理图像数据集BreaKHis作为数据样本,在卷积神经网络模型VGG-19的基础上,提出了一种VGG-19A的改进网络模型.通过在卷积层中的激活函数前加入BN算法,在全连接层中加入dropconnect层,来优化网络模型的性能,提升网络模型的识别精度.此外,考虑到迁移学习方法能够让网络模型更加充分地学习图像特征,将其引入到VGG-19A网络的训练中.将该网络应用到乳腺病理图像的识别过程中,同时采用PFTAS+QDA,PFTAS+SVM,PFTAS+RF,Single-Task CNN,AlexNet以及VGG-19算法进行了对照试验.结果表明新算法在图像识别的准确性和泛化性能上相较现有方法都有了一定的提升,因而具有一定的临床应用价值.     

融合FV-SIFT特征和深度卷积特征的车辆图像细粒度分类

针对现有的SIFT特征在车辆细粒度分类中存在的分类精度低的问题,提出了一种融合FV-SIFT特征和深度卷积特征的车辆图像细粒度分类算法。首先采用SIFT算法与Fisher Vector算法相结合的方式提取车辆图像的FV-SIFT特征,然后采用VGG-16卷积神经网络提取车辆图像的深度卷积特征,最后将FV-SIFT特征与深度卷积特征进行线性融合并采用支持向量机对融合后的车辆特征进行分类。实验结果表明,该方法的分类准确率达到82.3%,较FV-SIFT算法在分类准确率上提高了15.4%。