改进深度卷积神经网络及其在变工况滚动轴承故障诊断中的应用

为了解决目前常用的最大池化丢失大量信息和平均池化模糊重要特征的问题,提出了一种小尺度卷积核以跳动的方式进行降采样的方法。该方法用步长为2、激活函数为Rectified Linear Unit(ReLU)的小尺度卷积层代替传统的池化层,既可以使输出图像的尺寸变成输入的一半,实现降采样的功能,又能让小尺度卷积核在训练中自动调整权重挑选有效的特征。与最大池化相比,该方法可有效地提高神经元激活比例并增加神经元活性值的多样性。综合采用提出的池化方法、深度可分离卷积核和全局平均池化层3个策略改进的深度卷积神经网络,在实验室变转速多滚动轴承数据集上进行测试,结果表明,改进后的网络识别正确率达到98.4%,高于作为对比的其他网络,同时还大幅提高了网络的稳定性,减少了40%以上的训练时间。提出的方法可以为科研技术人员在搭建深度卷积神经网络和变工况滚动轴承故障诊断时提供参考。     

深度卷积神经网络的判别性人脸识别算法

针对Softmax(柔性最大值)损失对特征只有可分性的不足,提出一种基于深度卷积神经网络的判别性人脸识别算法.该算法首先根据Softmax损失特征分布,在特征和权重向量间施加一个类内余弦相似性损失,使类内更加紧凑,类间尽可能分离;然后在Softmax损失基础上通过归一化特征来更好地模拟低质量人脸图像,并通过归一化权重来减轻类别不平衡,使与测试时的余弦相似性度量一致;最后联合归一化的Softmax损失和类内余弦相似性损失在预训练模型上进行微调.该算法在人脸识别基准测试集LFW(户外人脸标记)和YTF(You Tube人脸数据库)上分别取得了98.72%和93.38%的识别率,实验结果表明:在大规模人脸身份识别中,该算法提高了特征的判别性,增强了模型的泛化能力,能有效提高人脸识别率.     

基于深度卷积神经网络与中心损失的人脸识别

传统人脸识别方法手工设计特征过程复杂、识别率较低,对于开集人脸识别通用深度学习分类模型特征判别能力较弱。针对这两方面的不足,提出了一种以分类损失与中心损失相结合作为模型训练监督信号的深度卷积神经网络。首先,利用构建的应用场景数据集优调从公共数据集获得初始化参数的深度人脸识别模型,解决训练数据过小和数据分布差异问题,同时提高模型训练速度;然后,以传统损失函数和新的中心损失作为迁移学习过程中的监督信号,使得类内聚合、类间分散,提高模型输出人脸特征的判别能力;最后,对人脸特征进行主成分分析,进一步去除冗余特征,降低特征复杂度,提高人脸识别准确率。实验结果表明,与传统人脸识别算法相比该算法可以自动进行特征提取,并且相对于通用深度学习分类模型该算法通过度量学习使特征表示更具判别力。在自建测试集和LFW、YouTube Faces标准测试集上都取得了较高的识别率。     

卷积神经网络在人脸识别上的研究

卷积神经网络在人脸识别领域里已经有非常好的结果,在LFW(Labeled Faces in the Wild)数据集上的认证识别率已经达到99%以上,超出人的识别率.然而这些网络需要训练庞大的参数或者需要巨大的数据集.通过构造一个比较小的网络,极大地减少了训练参数,并且在有限的训练集上得到了比较好的识别率.为了深入了解卷积神经网络,做了很多实验.例如,比较了在激活层前和激活层后加入正则化对网络训练的影响,同时比较了提取不同的特征维度对实验准确率的影响,另外也比较了欧式距离和余弦距离对实验的影响.通过实验结果我们发现正则化在激活层之前的网络识别率更高,使用余弦距离比使用欧氏距离会有更高的识别率,特征维度越大,人脸识别率越高.     

基于改进的卷积神经网络多姿态人脸识别研究

针对目前的人脸识别算法在面对不同姿态下的人脸图像时识别率低的问题,提出了一种基于改进的卷积神经网络的算法。该算法通过对经典的卷积神经网络LeNet-5 的卷积核数目、卷积核尺寸、池化层方式和正则化手段等参数进行了优化改进,从而能对多姿态人脸图像特征进行有效提取。仿真实验结果表明,该算法在识别率与识别时间上均有显著提高。     

三角稀疏回归分类器及其在稳健人脸识别中的应用

以稀疏表示为代表的回归分类方法对于高斯噪声具有较好的鲁棒性,但容易受到训练样本中离群点数据的影响导致欠拟合或过拟合.通过探索余弦函数对离群数据呈现的周期不敏感特性,使用余弦函数来刻画回归残差,并在复数域空间进行稀疏回归,提出了三角稀疏回归分类器(TSRC)模型.考虑到模型的非凸特性,普通的迭代算法难以获得全局最优解.因此,通过三角函数演算与核函数技巧将TSRC转化为一个凸优化问题,使用交替方向乘子法(ADMM)对模型进行求解,核函数的计算过程从核空间角度解释了模型对离群点鲁棒的本质原因,通过欧拉公式能够完全避开复数域的计算过程,从而起到加速的作用.在AR,Extend-YaleB及NUST-RF带有遮挡和光照变化的人脸识别数据集上进行了识别率与速度的实验,验证了所提出模型的有效性,在Extend-YaleB数据集上测试了所提出方法在不同尺度的训练样本下的运行效率,并与现阶段先进方法进行了对比.     

基于多层特征深度融合的卷积神经网络人脸识别方法

针对传统神经网络在人脸图像的训练过程中没有将高低卷积层信息进行融合,为充分利用图像各层特征信息,提出一种基于三层特征融合的全连接卷积神经网络模型,算法将原有网络最后三层特征结合,并将提取的特征信息与最后一层全连接层结合,从而增加了浅层特征的表达,加强了深层特征的提取效果,促使改进后的卷积神经网络提取的信息更加完备;同时将损失函数和中心函数加权联合,以提高人脸图像的识别率和区分性.在CASIA-webface人脸数据库进行的实验结果表明,改进后的网络模型识别率达到98. 7%,优于DCNN等算法,并将训练好的网络模型应用到YALE、PERET、LFW-A等人脸库上,相比其他方法识别率都有所提升.     

小波神经网络在人脸识别中的应用

人脸识别是一个涉及生理学、心理学、图像处理、计算机视觉、模式识别和数学等多个学科的前沿课题。小波神经网络是在小波分析研究获得突破的基础上提出的一种前馈性网络,避免了BP网络等结构设计上的盲目性,网络训练过程从根本上避免了局部最优等非线性优化问题,有较强的函数学习能力和推广能力。基于小波神经网络,文中提出了一种新的人脸识别算法。该算法利用小波多分辨特性和神经网络的鲁棒性和记忆性,同时结合了加速网络收敛速度的小波神经网络步长调整算法。实验证明该算法有高的检测率和有效性。     

一种改进的深度卷积神经网络图像去噪算法

为了更好地去除图像中的噪声,提出了一种改进的深度卷积神经网络(Dncnn)图像去噪算法。针对现有的Dncnn网络参数量大,对Dncnn网络的第2～16层进行了改进,使网络参数量降低1/3后,仍能保持和Dncnn一样的训练效果。在此基础上,对网络底层的低级语义信息和高层的高级语义信息进行了特征融合,使得网络训练更平稳,并能达到更好的训练效果。实验结果表明无论与图像去噪领域公认最好的去噪算法BM3D相比,还是与深度学习领域先进的图像去噪算法Dncnn相比,改进的Dncnn都有更好的表现。     

自归一化卷积神经网络的人脸识别方法

传统的卷积神经网络(CNN)在人脸识别中应用极为广泛,然而依然存在收敛速度慢的问题,需要进行批归一化,防止梯度弥散.而自归一化卷积神经网络比普通卷积神经网络收敛速度更快,且无需进行批归一化.因此,提出采用自归一化卷积神经网络来进行人脸识别.首先算法由2个卷积层,1个池化层,2个全连接层和1个Softmax回归层组成的自归一化卷积神经网络对人脸特征进行提取并分类;然后通过对不同批次大小和不同网络层数的实验对比找出最佳的实验条件;最后与传统CNN算法和其他算法对比.提出的方法在ORL数据库中的实验识别率可达到98.3%.实验结果表明,自归一化卷积神经网络比普通的卷积神经网络在人脸识别中具有更高的识别率、更快的收敛速度.     

基于LBP与卷积神经网络的人脸识别

卷积神经网络在人脸识别上有较好的效果,但是其提取的人脸特征忽略了人脸的局部结构特征.为了提取更加全面的人脸特征,提出一种基于局部二值模式(local binary pattern,LBP)与卷积神经网络相结合的新方法.首先,提取人脸图片的LBP特征图像,然后把LBP图像与原RGB图像结合作为网络输入数据,并且使用随机梯度下降法训练网络参数,最后用训练得到的网络模型对人脸图片进行识别.通过在LFW(labeled face in the wild)人脸识别数据库上的实验表明,在卷积神经网络中加入LBP图像信息可以提高人脸识别的准确率.另外,当增加训练数据时,提出的方法得到的识别率会进一步提高,更说明提出方法的有效性.     

基于卷积神经网络的带遮蔽人脸识别

基于卷积神经网络Inception-ResNet-v1模型进行训练与学习,实现了在添加遮挡干扰因素下的人脸识别。将图像嵌入到d维度的欧几里得空间,采用Triplet Loss作为损失函数,直接学习特征间的可分性。选取LFW(labeled faces in wild)数据集和摄像头采集的人脸图片制作训练集和测试集。结果表明,模型在眼部被遮挡的情况下识别率为98. 8%,在嘴部被遮挡的情况下识别率为98. 6%,在眼部和嘴部同时被遮挡的情况下识别率为96. 9%。模型在遮挡率为20%～30%时,识别率能够达到98. 2%。从实验结果可以得出,模型在一定遮挡的情况下能得到较好的识别效果。     

改进卷积神经网络在腺癌病理图像分类中的应用

针对传统卷积神经网络(CNN)稀疏的网络结构无法保留全连接网络密集计算的高效性和在实验过程中卷积特征利用率低造成的分类结果不准确或收敛速度较慢的问题,提出了一种基于CNN的多尺度方法结合反卷积网络的特征提取算法(MSDCNN)并对腺癌病理图像进行分类。首先,利用反卷积操作实现不同尺度特征的融合,然后利用Inception结构不同尺度卷积核提取多尺度特征,最后通过Softmax方法对图像进行分类。在腺癌病理细胞图像进行的分类实验结果表明,在最后的卷积特征尺度相同的情况下,MSDCNN算法比传统的CNN算法分类精度提高了约14%,比同样基于多尺度特征的融合网络模型方法分类精度提高了约1.2%。     

卷积神经网络在ADAS中的应用

针对原有卷积神经网络(Convolutional Neural Networks,CNN)算法耗时长,即时性差的缺点提出了一种应用在高级驾驶辅助系统(Advanced Driving Assistant System,ADAS)领域的网络,较诸原有的网络,其达到了较快的运行速度,适用于ADAS这样对FPS要求高的领域。同时使用YOLO算法得到目标在图像中的位置,从而得以实施避障、跟车、变道等后续操作。与Faster R-CNN和ResNet50结合的网络相比每秒帧数(Frames Per Second,FPS)提升89.36%。结果表明,该方法解决了原有网络检测耗时的缺点,具有一定的泛化能力。     

基于改进的深度卷积神经网络的人脸疲劳检测

针对疲劳驾驶检测问题,提出一种以softmax损失与中心损失相结合的深度卷积神经网络算法。首先,利用含有方向的梯度直方图(histogram of oriented gridients,HOG)和级联分类器(support vector machine,SVM)算法的Dlib库中预训练的人脸检测器,来检测驾驶员的脸部区域。其次,使用级联回归(ensemble of regression trees,ERT)算法实现脸部68个关键点标定及眼睛和嘴巴的定位。最后,为了优化softmax损失在深度卷积网络分类中出现的类内间距大的问题,加入中心损失函数,提高类间差异性、类内紧密性以及驾驶员脸部疲劳状态识别准确率。在自建测试集和YawDD哈欠数据集中的实验结果显示,该方法能够准确地识别检测驾驶员疲劳表情,平均识别准确率达到98.81%。与传统的疲劳驾驶检测识别方法相比,该方法可以自动进行疲劳特征提取,并且训练准确率、检测识别率及鲁棒性得到提高;与未改进的深度卷积网络相比,检测识别的概率平均提高了约5.09%。     

经典深度卷积神经网络模型在手绘草图识别中的应用研究

通过设计多组实验策略,在TU-Berlin手绘草图数据集中,对AlexNet、GoogLeNet、VggNet和ResNet四种经典深度卷积神经网络结构进行手绘草图识别对比实验,结果表明相比其他网络结构,ResNet在手绘草图识别任务上具有更好的性能.     

原点无关最近特征分类器及在人脸识别中的应用

受最近特征线分类器的基本设计思想启发,将最近邻法向平面和空间推广,提出了原点无关最近特征平面和原点无关最近特征空间分类器.与最近特征平面、最近特征空间分类器相比,原点无关最近特征分类器最大的优势就在于其定义的特征子空间不依赖于原点位置,而仅由同模式的若干个特征点决定.这种定义提高了相应的模式相似性度量的合理性与有效性.以人脸识别为例,对多种分类器的性能进行比较.实验结果表明,原点无关最近特征分类器在识别率、稳定性等方面均优于同阶的最近特征分类器.     

基于PCA的神经网络在人脸识别中的应用

特征提取部分是要从人脸图像中提取可以区分不同类别人脸的特征信息(有效识别信息)。将图像预处理、二维PCA特征提取和神经网络分类器结合提出了一种改进的图像识别方法,和其他方法进行了比较,在Matlab环境中的仿真结果表明,该算法降低了系统的运算复杂度,提高了人脸识别率。     

基于神经网络多分类器融合系统的人脸识别方法

在主成分分析方法（PCA）的基础上,采用3种神经网络（BP、RBF、LVQ）分类器进行人脸识别实验研究.实验中引入多数投票法（MVS）,构建了多分类器组合决策体系,对分类结果进行决策融合.最后,将使用此决策体系的人脸识别结果与使用单一分类器的人脸识别结果进行对比分析.分析结果显示,采用MVS规则的人脸识别系统,能有效提高人脸识别系统的准确率和稳定性,且方法简单可行.     

基于神经网络多分类器融合系统的人脸识别方法

在主成分分析方法(PCA)的基础上,采用3种神经网络(BP、RBF、LVQ)分类器进行人脸识别实验研究.实验中引入多数投票法(MVS),构建了多分类器组合决策体系,对分类结果进行决策融合.最后,将使用此决策体系的人脸识别结果与使用单一分类器的人脸识别结果进行对比分析.分析结果显示,采用MVS规则的人脸识别系统,能有效提高人脸识别系统的准确率和稳定性,且方法简单可行.