基于压缩卷积神经网络的交通标志分类算法

针对车载计算系统很难满足大型卷积神经网络对计算资源和存储空间需求的问题,提出了一种基于压缩卷积神经网络的交通标志分类算法.首先挑选原始VGG-16和AlexNet在GTSRB数据集上进行分类训练;然后对网络模型进行基于泰勒展开的通道剪枝删除冗余的特征图通道;接着使用三值量化方法对剪枝后的网络模型进行参数量化;最后进行了通道剪枝、参数量化和组合压缩的实验.结果表明:本算法有效地压缩了网络模型,减少了运算次数.最终组合压缩的VGG-16网络模型的存储空间减少一半,参数数量为原始模型的9%,每秒浮点运算次数减少为原始模型的1/5,模型加载速度提升了5倍,测试速度提升了2倍,精度为原始模型的97%.     

采用可替代滤波器的卷积神经网络模型剪枝方法

将卷积神经网络模型中某一层的所有滤波器抽象到一个欧几里德空间,对其中能被其他滤波器共同表示的滤波器剪枝,降低滤波器冗余,避免精度损失.使用强化学习进行边训练边剪枝,经过微调恢复神经网络模型性能.结果表明:剪枝并微调后的神经网络模型精度损失较小,参数量与浮点计算量显著减少.     

一种混合阈值剪枝的稀疏化训练图像识别算法

卷积神经网络在图像识别的应用中,有大量的冗余参数,增大了计算量,降低了网络运行速度.针对这个问题,提出了一种混合多阈值的稀疏化训练剪枝算法,通过稀疏化训练和混合全局与局部阈值的剪枝算法,压缩了神经网络的模型.通过对缩放因子L1正则化,使重要性低的通道值接近0,进行稀疏化训练,再引入全局阈值和局部阈值剪枝掉接近于零的通道并防止模型向粗粒度方向压缩,并对其进行训练微调参数,得到了混合阈值剪枝的精简模型.最后为了验证本文方法有效性,在DOTA(a large-scale dataset for object detection in aerial images)数据集中进行测试,该算法在小幅度降低图像识别精度的前提下,成功地压缩模型90％大小,加快了53％的计算速度,取得了较好的效果.     

基于深度学习的快速植物图像识别

植物分类在形态、颜色和纹理上具有高度的相似性和密集的细节信息,传统的机器学习方法无法满足这些大样本的特征提取训练,识别种类与精度受到限制。深度学习可以有效地解决植物图像识别在种类数量、准确度和速度上的难点。本文提出了基于优化的P-AlexNet模型的植物识别算法,基于卷积神经网络(CNN)中的AlexNet网络模型进行优化处理,提高模型的泛化能力、细节特征的表征能力以及识别精度。利用迁移学习热启动更新植物识别种类,利用GPU并行计算加速模型训练和图片识别速度。针对206类植物图片,训练得到验证集精度达到86.7%的模型。以此模型为基础,开发了一款智能植物图像识别平台,包含了Web网站以及Android和IOS的App应用。Web端实验测试结果表明,检测时间平均为1.282s,具有较高的准确性和泛化性以及快速的识别速度。     

基于深度神经网络剪枝的两阶段遥感图像目标检测

在高分辨率遥感图像目标检测中,受云雾、光照、复杂背景、噪声等因素影响,现有目标检测方法虚警率高、速度慢、精确度低.为此提出基于深度神经网络剪枝的两阶段目标检测(object detection based on deep pruning,ODDP)方法.首先,给出深度神经网络剪枝方法,基于深度神经网络剪枝分别提出自主学习区域提取网络算法与优化训练分类网络算法;然后,将上述两算法用于卷积神经网络,得到两阶段目标检测模型.实验结果表明,在NWPU VHR-10高分辨率遥感数据集上,相比现有目标检测方法,ODDP的检测速度和精度均有一定提升.     

基于径向基函数神经网络的语音识别

提出一种基于径向基函数神经网络的改进聚类方法,并将此改进的神经网络应用于语音识别领域,建立一个非特定人的孤立词语音识别系统.此聚类方法采取有监督的学习方式,将训练样本的形心作为隐节点的质心,训练样本的分类数作为隐节点的个数.利用该方法对小词表汉语孤立词进行语音识别.结果表明,采用此算法的径向基函数的神经网络具有更好的分类能力,训练速度和识别率均优于传统的径向基函数网络.     

基于神经网络的汽车操纵逆动力学模型识别

针对驾驶员建模中不确定因素的影响,采用操纵逆动力学方法,反求出驾驶员的操纵输入来避开驾驶员建模.神经网络作为一种较好的识别驾驶员输入的方法,其学习速度和收敛精度会影响识别精度.为了提高汽车操纵逆动力模型识别时神经网络的学习速度和收敛精度,基于Elman网络,采用一种新的动态神经网络结构——状态延迟输入动态递归神经网络(SDIDRNN).首先,建立三自由度人—车闭环模型并以实车试验数据验证了模型的正确性.然后,通过建立SDIDRNN网络模型,取闭环模型的仿真结果做为训练样本,对汽车操纵逆动力模型进行了识别,所得结果及误差分析说明了该神经网络在学习能力上的优越性及识别模型的有效性.     

基于迁移学习和AlexNet的驾驶员行为状态识别方法

为了解决传统基于神经网络算法的驾驶员行为状态识别系统精度过于依赖大量训练样本的问题,本文提出将迁移学习理论和AlexNet引入到驾驶员行为状态的识别研究中。首先对驾驶员行为特征及状态进行深入分析,对驾驶员7种驾驶状态进行了定义,构建了驾驶员状态信息采集系统;然后对基于卷积神经网络的驾驶员状态识别方法研究,建立了驾驶员状态数据集,构建了基于AlexNet卷积神经网络的状态监测系统,通过迁移学习完成了卷积神经网络识别模型。最后通过实验验证了本文提出的驾驶员状态识别算法对7种驾驶员状态识别的有效性。实验表明：该系统准确率达到97.8%,且在实验设备中运行速度达到70帧/分钟,满足较高的准确率要求与实时性要求。     

基于轻量型卷积神经网络的交通标志识别

针对卷积神经网络在交通标志识别实时性不好,对设备硬件要求过高的缺点,提出了一种具有实时性,高精度的基于轻量型卷积神经网络的改进网络。一方面引入深度可分离卷积和激活函数Mish,加快网络的训练和识别速度,降低对硬件设备的要求;另一方面通过对网络架构及层次的改进,同时合理改变卷积核的大小和数目,加强图片特征的表达与传递。在BelgiumTSC交通标志数据集上的实验结果表明,改进后网络明显提高了网络训练速度,同时识别精度也略高于原网络,验证了改进方法的有效性。通过与其他模型相比,该模型能够更快速准确完成交通标志识别任务,验证了该方法的可行性。     

基于全局信息的卷积神经网络模型剪枝微调优化方法

为解决因卷积神经网络模型规模大,模型剪枝方法引起的精度下降问题,提出一种模型剪枝微调优化方法.该方法引入原卷积神经网络模型权重全局信息至剪枝后模型,使原模型信息体现在剪枝后模型的权重上,提升剪枝后模型的精度.在图像分类任务和目标检测任务中的实验结果表明,所提出的微调优化方法可获得更大的压缩率和更小的模型精度损失.     

基于HTK的普米语孤立词的语音识别

基于HTK的普米语孤立词的识别,通过对特定发音人和非特定发音人的语音进行特征分析、预处理、提取MFCC特征参数,从而建立每个普米词的HMM模型,最后采用Viterbi算法进行模型的训练和匹配.实验表明:对特定发音人和非特定发音人,随着普米词个数的增加,识别率虽有所下降,但是变化很小,识别率均超过了95.00%,识别效果很好.语料的信噪比和发音人的发音稳定性是导致识别率下降的重要原因.     

基于SqueezeNet卷积神经网络的车辆颜色识别

为实现车辆颜色的精准识别,辅助现有车牌识别方法在智能交通系统中完成对车辆身份的精确认证,通过分析现有解决方案和探究卷积神经网络在实际应用中的问题,提出基于轻量级卷积神经网络SqueezeNet实现对车辆颜色识别的方法。轻量级卷积神经网络SqueezeNet的参数量是AlexNet网络结构的1/50,同时还能保证精度,避免由于网络结构复杂、参数量大造成的大规模计算和较高的计算机硬件需求,提升了模型的可移植性。选取车辆颜色识别(Vehicle_Color_Recognition)数据集作为研究基础,针对数据集进行了扩充和增强处理。以SqueezeNet为基准探究了特征融合对分类结果的影响,通过对比试验确定将fire7/concat输出特征图和fire9/concat输出特征图相融合。研究结果表明:轻量级卷积神经网络SqueezeNet在保证模型大小2.9 M、单张测试时间15 ms的基础上,训练精度为96.28%,而AlexNet的模型大小为227 M、单张测试时间24 ms、训练精度为96.18%;在实现同等精度的前提下,轻量级卷积神经网络SqueezeNet训练得到的模型更适合移植到如现场可编程门列阵(FPGA)这种开发板上,同时在服务器上的处理速度也更快;融合后的模型最终的分类结果提升为96.48%。利用轻量级卷积神经网络SqueezeNet进行车辆颜色识别可以较好地应用在智能交通系统中,并在一定程度上解决目前车牌识别的难点。     

基于卷积神经网络的乳腺病理图像识别算法

为了协助病理医生诊断乳腺肿瘤,提出了一种计算机自动识别分析乳腺病理图像的方法.该方法采用乳腺病理图像数据集BreaKHis作为数据样本,在卷积神经网络模型VGG-19的基础上,提出了一种VGG-19A的改进网络模型.通过在卷积层中的激活函数前加入BN算法,在全连接层中加入dropconnect层,来优化网络模型的性能,提升网络模型的识别精度.此外,考虑到迁移学习方法能够让网络模型更加充分地学习图像特征,将其引入到VGG-19A网络的训练中.将该网络应用到乳腺病理图像的识别过程中,同时采用PFTAS+QDA,PFTAS+SVM,PFTAS+RF,Single-Task CNN,AlexNet以及VGG-19算法进行了对照试验.结果表明新算法在图像识别的准确性和泛化性能上相较现有方法都有了一定的提升,因而具有一定的临床应用价值.     

基于改进卷积神经网络的中药饮片图像识别

为解决AlexNet网络模型在中药饮片图像识别中存在的识别准确率和鲁棒性不够理想的问题,以常见的50种中药饮片为研究对象,对AlexNet网络模型进行改进优化。首先通过拍摄以及搜索引擎获取中药饮片图像,并对图像进行数据扩充以及细节增强预处理。其次对AlexNet网络模型进行优化改进,通过缩减原网络的卷积核个数和卷积核大小、使用全局平均池化(global average pooling, GAP)替代全连接层以减少网络参数;去除局部响应归一化(local response normalization, LRN)层、引入批量归一化(batch normalization, BN)层和使用Lion优化算法替代随机梯度下降(stochastic gradient descent, SGD)优化算法以提高网络训练速度;使用Mish激活函数替代ReLU激活函数和引入通道注意力机制SENet网络以提高模型的识别精度。实验结果表明,改进后的网络模型相比于AlexNet网络模型,平均识别率提高了6.1%,平均损失率下降了14.4%,网络参数由原来的60 M缩减至1 M,该结果表明在中药饮片数据集上,改进...     

基于PSO-SVM的普米语语谱图识别

使用基于粒子群算法优化支持向量机识别算法实现对普米语语音的识别.首先通过傅立叶变换绘制出每条普米语语料的语谱图;再次,提取每张语谱图的图像特征构建特征向量;最后,运用支持向量机实现对普米语孤立词的分类.在运用支持向量机进行分类时,为了能够找到全局最优解,使用粒子群算法对支持向量机中的惩罚参数c和核函数参数g进行了优化,基于最优参数的分类准确率达到了89. 8%.     

面向语言模型的神经元连接自动学习方法

在自然语言处理中,由于神经网络的结构需要人工设计,容易导致复杂的神经网络结构中存在大量冗余.为了减少冗余,人们常采用剪枝等模型压缩方法,但是这类方法通过一些与训练过程无关的指标直接对模型进行裁剪时往往造成性能损失.因此探索了一种神经网络中神经元连接的自动学习方法,通过在训练中对神经元连接进行动态生长和删除的方法,可以更好地对网络连接进行动态操作,从而得到更紧凑、高效的网络结构.使用该方法在神经语言模型上进行自动生长和消去,在保证网络性能不变的前提下,网络规模可缩小49%.     

基于卷积神经网络的灾难场景图像分类

为了对灾难场景图像进行快速分析和识别,提出了一种基于多分辨率卷积神经网络和残差注意力机制(attention module)相结合的图像分类模型.首先,对灾难场景数据集进行预处理,在相同类型的条件下将其随机划分为训练集和测试集.基于改进的卷积神经网络(convolutional neural network,CNN),提取训练集的图像特征.使用训练集图片的特征进行训练,并且在测试集图片上实现分类测试.选取DenseNet、Xception和MobileNetV2三种模型,以灾难场景数据集(Disaster_Data_Scenes)为数据集进行实验验证.结果表明:改进的Xception和MobileNetV2网络在灾难场景数据集上进行的图像分类实验测试,比原网络精度分别提升了4.56％和3.04％.其中改进的DenseNet网络比原网络模型精度分别提升9.13％、17.88％和10.27％.可见改进的卷积神经网络模型的分类精度得到有效提高.     

基于遗传算法的神经网络油水层识别

文章研究了基于遗传算法的神经网络油水层识别方法,针对神经计算存在因输入信息空间维数较大而使网络结构复杂、训练时间长,以及因冗余属性使网络拟合精度不高等缺点,提出了基于粗集属性约简方法降低了输入信息的空间维数、减少了运算量和简化了神经网络的拓扑结构,利用遗传算法提高神经网络的训练速度。实验结果表明:将混合智能计算方法应用于油水层识别中效果显著,其学习训练速度和拟合精度远优于传统BP神经网络算法。     

基于BP神经网络的非特定人语音识别算法

当前非特定人语音识别算法大多只适于连续语音,且识别精度和速度均较低。为此,提出一种新的基于BP神经网络的非特定人语音识别算法。介绍了标准BP神经网络,针对其收敛速度慢的弊端,通过变化的自适应学习速率,令网络训练针对各种阶段自行设置学习速率值;利用变学习速率构建对应的改进BP神经网络模型。将改进的BP神经网络模型看作识别非特定语音的识别器,输入待识别语音,令累计预测残差达到最小,实现非特定人语音识别。将改进模型应用于非特定人语音识别中进行验证。结果表明所提算法识别率更高、识别速度更快,不仅适于连续语音的识别,也适于不连续语音的识别。     

人工智能在故障诊断中的应用研究

针对神经网络存在的缺点和不足,主要分析神经网络和粗糙集、支持向量机、粒子群、小波相结合使用的方法.粗糙集和神经网络相结合用于故障诊断,可以通过粗糙集的知识约简功能大量消除训练样本中的冗余信息,减少神经网络的输入层节点,简化网络结构,缩短训练时间;基于神经网络和支持向量机的复合故障诊断技术不但可以进一步提高个体模型预测精度,而且可以使故障诊断模型始终处于最优识别状态;粒子群优化神经网络能够加快网络收敛速度,提高训练精度;小波神经网络能够很好地对故障进行分类,具有较高的识别精度.