稀疏自动编码器在文本分类中的应用研究

传统的文本分类算法都是采用期望交叉熵、信息增益和互信息等统计方法,通过设置阈值获取特征集,如果训练集的数据量较大,则容易出现特征项不明确,特征信息丢失等缺陷,为解决上述问题,提出运用“深度学习”中的稀疏自动编码器算法自动提取文本特征,然后结合深度置信网络形成SD算法进行文本分类。实验表明,在训练集较少的情况下,SD算法的分类性能低于传统的支持向量机,但是在处理高维数据时,SD算法则比支持向量机具有较高的准确率和召回率。     

深度学习在轴承故障诊断领域的应用研究

深度学习具有强大的学习能力和特征分类能力,能够在海量、多源和高维测量数据中进行特征提取,具有不依赖人工干预而进行模型诊断和泛化的能力,广泛应用于设备故障诊断领域。阐述了深度学习的典型模型:深度置信网络(DBN)、卷积神经网络(CNN)和自编码器(AE),重点论述了深度学习在轴承故障诊断领域的应用进展。最后讨论了深度学习在轴承故障诊断领域所存在的问题及发展趋势。     

基于特征稀疏化的粉尘图像深度预测

【目的】针对粉尘环境中单幅图像深度预测精度低的问题，提出了一种基于输入特征稀疏化的粉尘图像深度预测网络。【方法】使用粉尘图像的直接传输率与深度的关系设计预估计深度网络，利用图像颜色衰减先验原理进一步获取粉尘图像的稀疏深度特征。将该稀疏深度特征与粉尘图像一起作为深度预测网络的输入。深度预测网络以“编码器-解码器”为模型框架，编码器中使用残差网络(ResNet)对粉尘图像进行编码，设计融合通道注意力机制的稀疏卷积网络对稀疏深度特征进行编码。解码器中采用反卷积以及多尺度上采样的方法，以更好的重建稠密的深度信息。使用最小绝对值损失和结构相似性损失作为边缘保持损失函数。【结论】在NYU-Depth-v2数据集上的实验结果表明该方法能够从粉尘图像中有效预测深度信息，平均相对误差降低到0.054,均方根误差降低到0.610,在δ<1.25时准确率达到0.967.     

DBN和GRU混合的Android恶意软件检测模型

针对Android平台恶意软件数量增长迅猛,种类日益增多的现状,提出了一种基于深度置信网络和门控循环单元网络混合的Android恶意软件检测模型。通过自动化提取Android应用软件的特征,包括权限等静态特征和应用运行时的动态特征进行训练,对Android恶意软件进行检测和分类。实验结果表明,混合了门控循环单元网络和深度置信网络的混合模型,在检测效果上优于传统的机器学习算法和深度置信网络模型。     

基于流形正则的堆叠胶囊自编码器优化算法

针对堆叠胶囊自编码器存在检测性能慢、不能更好挖掘图像局部特征的问题，本文提出基于流形正则的堆叠胶囊自编码器优化算法。采用Scharr滤波器对堆叠胶囊自编码器模型中的图像进行重建，加强图像目标检测的精度，并在损失函数中引入流形正则项，从而加强对原始数据空间局部特征的提取，最终使用基于流形正则的堆叠胶囊自编码器学习参数，选择出更加具有区别性的特征。在MNIST和Fashion MNIST数据集上的实验结果显示，该优化算法相比于原网络结构，图像分类准确率分别提高了0.26和9.23个百分点，且模型训练速度也得到较大提高。     

基于深度置信网络的假手指静脉图像检测算法

针对伪造的手指静脉图像能够成功攻击手指静脉识别系统,从而使得其识别系统安全性能大大降低的问题,提出了一种基于深度置信网络的手指静脉防伪检测的方法;通过逐层无监督的学习方法预训练深度网络的权值参数,以及有监督的BP神经网络微调深度网络的权值参数,从而提取到手指静脉图像的特征,用于静脉图像的检测;实验结果证明所提出的手指静脉防伪检测方法能够有效地识别出假手指静脉图像;通过对比性实验研究,发现此方法提高了手指静脉识别系统的安全性能。     

基于堆栈稀疏自编码器和微动特征的身份认证技术

从人体目标雷达回波数据中提取可分性较好的微动特征是实现目标分类的关键。针对传统谱图结构特征无法对体型相似的人体目标精细识别,提出了基于堆栈稀疏自编码器的人体身份认证方法。首先构造堆栈稀疏自编码器网络,利用人体微动数据进行无监督预训练,在不同层提取人体微动特征,然后将得到的特征输入softmax分类器进行有监督训练,用交叉验证调整网络参数,最后用训练好的网络进行人体目标分类。在不同人走路实测数据集上,3人平均识别率达到了83%,优于提取谱图结构特征分类的方法。     

基于注意力机制和感知损失的遥感图像去噪

遥感图像去噪对于遥感图像在后续的分类、检测等任务中有着非常重要的作用.为了让去噪后的图像更好地保留边缘细节信息,同时增强深度网络对噪声污染区域的辨识能力,本文结合注意力机制以及感知损失来处理遥感图像,提出了一种新的基于残差自编码器的遥感图像去噪网络ARED-VGG.考虑到遥感图像中不同地物大小不同,该网络首先同时使用图像的空间和光谱信息来提取多尺度特征;然后使用残差自编码器网络结构来进行图像空间-光谱多尺度图像重建.为了增加网络的辨识能力,更多地关注网络中提取的高频特征,网络引入了注意力机制.同时为了让去噪后的结果更符合视觉感观,使用了感知损失混合均方误差作为损失函数.从实验结果知,本文所提出的方法在噪声去除和纹理细节保留方面与NLM3D、BM4D、LRMR、HSID-CNN和3DADCNN相比表现更优.在Washington DC mall遥感图像数据集上进行了仿真实验,平均峰值信噪比以及平均结构相似性指标都有较好的结果;在AVIRIS Indian Pines数据集上进行了真实数据实验,以去噪后的结果地物分类指标作为验证,整体分类精度以及Kappa系数分别为96.90%和0.9647;对网络结构进行了消融实验,在两个数据集下,本文所提出的网络结构都能获得更优的结果.本文提出基于注意力机制和感知损失的深度神经网络进行遥感图像去噪,提高了网络的辨识能力,实现了良好的去噪性能,并且有效保持了图像的细节信息和光谱信息.     

基于深度卷积稀疏自编码分层网络的人脸识别技术

面对海量人脸图像识别,传统特征提取方法难以提取有效特征,造成人脸识别准确率较低。提出了一种鲁棒的人脸特征提取算法,即利用深度卷积稀疏自编码网络自动学习人脸中丰富且识别力高的特征。该方法将卷积操作融入自编码网络中,同时加入稀疏化思想,从而形成深度卷积稀疏自编码分层网络(hierarchical deep convolution sparse autoencoder,HDCSAE);用该网络自动提取海量人脸图像的高层鲁棒特征,并将提取的特征作为SVM分类器的输入得到分类结果。在FERET人脸数据库下对该方法进行测试,识别率达到99.47%,比传统的基于提取人为定义特征的人脸识别方法的识别率有所提高。     

基于残差密集块和自编码网络的红外与可见光图像融合

红外与可见光图像融合是复杂环境中获得高质量目标图像的一种有效手段,在目标检测与跟踪、图像增强、遥感、医疗等领域有广泛应用前景.为解决目前基于深度学习的红外与可见光图像融合方法中存在的网络无法充分提取特征、特征信息利用不充分和融合图像清晰度低的问题,本文提出了一种基于残差密集块的端到端自编码图像融合网络结构,利用基于残差密集块的编码器网络将图像分解成背景特征图和细节特征图,然后将两种特征图进行融合,再通过解码器进行重构,还原出最终的融合图像.测试结果表明,本文的方法可以得到清晰度高、目标突出、轮廓明显的融合图像,在SF、AG、CC、SCD、Qabf、SSIM 6个融合质量评估指标上与目前代表性融合方法相比均有不同程度的提升,特别是在融合图像清晰度上优势明显,且对于模糊、遮挡、逆光、烟雾等复杂环境图像有较好的融合效果.      

Video Based Fire Detection Systems on Forest and Wildland Using Convolutional Neural Network

The devastating effects of wildland fire are an unsolved problem, resulting in human losses and the destruction of natural and economic resources. Convolutional neural network(CNN) is shown to perform very well in the area of object classification. This network has the ability to perform feature extraction and classification within the same architecture. In this paper, we propose a CNN for identifying fire in videos. A deep domain based method for video fire detection is proposed to extract a powerful feature representation of fire. Testing on real video sequences, the proposed approach achieves better classification performance as some of relevant conventional video based fire detection methods and indicates that using CNN to detect fire in videos is efficient. To balance the efficiency and accuracy, the model is fine-tuned considering the nature of the target problem and fire data. Experimental results on benchmark fire datasets reveal the effectiveness of the proposed framework and validate its suitability for fire detection in closed-circuit television surveillance systems compared to state-of-the-art methods.     

基于深层迁移学习的DR胸片肺结核病灶检测

针对基于传统机器学习方法设计的DR胸片肺结核检测器存在着泛化能力不强,实际检测精度低等问题,提出了一种基于Focal Loss的深度学习检测方法Tuberculosis Neural Net(TBNN).医学图像的特殊性,存在带标注的数据量小导致无法充分训练深层网络模型等问题.该方法利用肺炎和肺结核同为呼吸道感染疾病且在DR胸片上有相似表征的特点,基于迁移学习原理训练特征提取子网络,减少肺结核胸片样本不足对模型训练造成的影响.首先在大型的肺炎胸片数据集上训练特征提取网络,以获取DR图像中丰富的深层图像语义信息,然后使用样本较少的肺结核数据集微调网络参数,并将多层卷积的输出作为TBNN分类子网络的输入,得到基于DR胸片的肺结核病灶检测模型.实验结果表明,该方法生成的检测模型在分类精度和性能上均优于基于传统机器学习的肺结核检测器.在同等训练数据量和训练周期下,模型性能高于其他采用传统数据增强方法的深层网络肺结核检测算法,且能标识病灶区域,准度上有不低于放射科阅片医生的表现.     

基于自动编码器的短文本特征提取及聚类研究

针对短文本的特点, 提出一种基于深层噪音自动编码器的特征提取及聚类算法。该算法利用深度学习网络, 将高维、稀疏的短文本空间向量变换到新的低维、本质特征空间。首先在自动编码器的基础上, 引入L1范式惩罚项来避免模型过分拟合, 然后添加噪音项以提高算法的鲁棒性。实验结果表明, 将提取的文本特征应用于短文本聚类, 显著提高了聚类的效果, 有效地解决了短文本空间向量的高维、稀疏问题。     

融合子区域局部二值模式特征与深层聚合网络的人脸识别

针对深度网络对人脸噪声敏感,且学习过程容易忽视人脸结构信息的问题,提出融合子区域局部二值模式(local binary pattern,LBP)特征和深层聚合网络的人脸识别算法。将人脸图像划分为不同子区域,并采用局部二值模式对人脸进行预处理,获取子区域人脸的LBP特征。不同子区域LBP特征输入不同的稀疏自动编码器,实现深层特征提取;然后不同稀疏自动编码器的输出特征通过全连接方式实现特征聚合,获得人脸特征向量用于分类。通过大量实验获取了最优的聚合网络模型架构和网络参数取值,改善了人脸识别效果。     

基于改进Mask R-CNN模型的电力场景目标检测方法

为了解决电力施工现场中安全帽佩戴情况以及危险区域行人入侵检测问题,提出一种基于改进Mask R-CNN模型的目标检测方法。首先依据迁移学习策略对Mask R-CNN主干网络进行参数初始化,以提取图像基本特征;然后引入特征金字塔结构进行自下而上的特征图提取,完成多尺度特征融合;接着,通过多尺度变换方法对区域推荐网络进行调整,获取锚点进行回归计算完成检测实验;最终对结果进行分析评价,多目标平均准确率达到了95.22%。将改进后的Mask R-CNN模型用于监控视频分析,针对监控视频像素过低问题,加入拉普拉斯算法锐化边缘,精准率提高到90.9%,验证了拉普拉斯算法对低质量监控视频检测的有效性。     

基于HOG-CSLBP与深度学习的跨年龄人脸识别算法

针对人脸识别中识别精度低的问题,提出一种基于深度学习的跨年龄人脸识别算法.该方法创新性地将方向梯度直方图(Histogram of Oriented Gradient,HOG)和中心对称局部二值模式(Center Symmetric Local Binary Pattern,CSLBPS)组合方法用于人脸图像特征提取,获得包含结构和强度信息的图像融合特征,然后使用二叉树对特征信息进行降维,降维特征作为深度信念网络的可视层输入量,弥补深度新信念网络无法达到图像局部特征要求的缺陷.通过训练好的深度网络模型对测试样本进行学习,在深度信念网络的最顶层对特征进行分类识别.实验结果表明,该方法能高精度实现人脸识别,且与其他方法比较,该方法性能优于其他方法,说明该方法具有可行性和有效性.     

基于深度学习的交通标志检测方法研究

提出了一种基于Faster R-CNN深度学习框架的交通标志检测方法,使用VGG16卷积神经网络自动提取交通标志图像特征,并将卷积特征图传入区域建议网络(RPN)中进行前景目标筛选及回归目标边框,将建议区域框映射到特征图上,经过RoI池化层后输出固定大小的建议框,利用分类网络对建议区域进行具体的类别判断,并精确回归目标的边框。并将算法在德国交通标志数据集GTSDB进行了实验验证,实验结果表明了所提出算法的有效性,该方法对不同光照、遮挡、标志模糊等具有鲁棒性。     

基于深度学习和约束稀疏表达的人脸识别算法

目前的人脸特征匹配算法大多关注于单图像与单图像的匹配而不能有效利用图像序列之间的相关信息,因而提出了一种基于深度学习与约束稀疏表达的人脸特征匹配算法.通过CNN网络对人脸图像进行特征提取,并利用改进的稀疏表达方法自动选取相似的图像序列进行特征匹配,有效地利用了图像序列之间的相关信息.实验结果表明,该算法在LFW和AR数据库上取得了很好的效果并优于传统的SRC,L1-norm和CRC-RLS算法.      

博物馆监控视频中慢速移动稀疏目标异常轨迹检测研究

传统异常轨迹检测方法将轨迹序列看作轨迹特征,无法有效描述轨迹,导致异常轨迹检测结果不可靠。为此,提出一种新的博物馆监控视频中慢速移动稀疏目标轨迹检测方法。采用一种快速计算方法对和目标相似度较高的粒子进行筛选,滤除和均值相差较大的粒子。对跟踪目标进行稀疏表示,为了避免目标被干扰或遮挡,进行非负性约束优化,完成稀疏求解,获取博物馆监控视频中慢速移动稀疏目标跟踪结果。依据跟踪结果将可代表整体轨迹的特征向量与部分可代表局部轨迹的特征向量合成一个整体特征向量,利用整体特征向量对慢速移动稀疏目标轨迹进行描述,通过描述结果和K聚类方法实现目标异常轨迹检测。实验结果表明,所提方法检测的异常轨迹与其他轨迹之间的差异最大,检测结果可靠,实际应用性较高。     

深度学习在目标检测的研究综述

现如今计算机视觉领域的研究热点之一是目标检测,其根本是对图像中指定目标的识别。而深度学习是目前发展快速,应用广泛的一种技术,其具备的学习能力可以在目标检测中对目标进行图像识别、特征提取以及分类识别等操作。通过介绍深度学习的研究进展、分析了各种网络模型的特点。最后总结了深度学习在目标检测领域的应用发展,结合当前问题和挑战,分析了以后的研究发展。