自归一化卷积神经网络的人脸识别方法

传统的卷积神经网络(CNN)在人脸识别中应用极为广泛,然而依然存在收敛速度慢的问题,需要进行批归一化,防止梯度弥散.而自归一化卷积神经网络比普通卷积神经网络收敛速度更快,且无需进行批归一化.因此,提出采用自归一化卷积神经网络来进行人脸识别.首先算法由2个卷积层,1个池化层,2个全连接层和1个Softmax回归层组成的自归一化卷积神经网络对人脸特征进行提取并分类;然后通过对不同批次大小和不同网络层数的实验对比找出最佳的实验条件;最后与传统CNN算法和其他算法对比.提出的方法在ORL数据库中的实验识别率可达到98.3%.实验结果表明,自归一化卷积神经网络比普通的卷积神经网络在人脸识别中具有更高的识别率、更快的收敛速度.     

基于改进的卷积神经网络多姿态人脸识别研究

针对目前的人脸识别算法在面对不同姿态下的人脸图像时识别率低的问题,提出了一种基于改进的卷积神经网络的算法。该算法通过对经典的卷积神经网络LeNet-5 的卷积核数目、卷积核尺寸、池化层方式和正则化手段等参数进行了优化改进,从而能对多姿态人脸图像特征进行有效提取。仿真实验结果表明,该算法在识别率与识别时间上均有显著提高。     

改进Softmax分类器的深度卷积神经网络及其在人脸识别中的应用

提出了一种有效的特征学习方法,构建了9层结构的卷积神经网络,利用Softmax回归算法进行人脸分类识别.卷积神经网络在输出层利用改进的Softmax进行分类,在隐藏层采用修正线性单元作为激活函数,并在网络中加入局部响应归一化处理,有效避免了梯度消失问题.利用大量人脸图像数据对网络进行预训练,得到较好的网络初始权重.在针对YALE,FERET,LFW-A等人脸数据库进行人脸识别实验中,与现有的几种人脸识别方法 SDAEs,RRC,MPCRC,CRC,SRC等进行对比表明,该方法在各人脸数据库的识别中均得到较高的识别率.     

基于LBP与卷积神经网络的人脸识别

卷积神经网络在人脸识别上有较好的效果,但是其提取的人脸特征忽略了人脸的局部结构特征.为了提取更加全面的人脸特征,提出一种基于局部二值模式(local binary pattern,LBP)与卷积神经网络相结合的新方法.首先,提取人脸图片的LBP特征图像,然后把LBP图像与原RGB图像结合作为网络输入数据,并且使用随机梯度下降法训练网络参数,最后用训练得到的网络模型对人脸图片进行识别.通过在LFW(labeled face in the wild)人脸识别数据库上的实验表明,在卷积神经网络中加入LBP图像信息可以提高人脸识别的准确率.另外,当增加训练数据时,提出的方法得到的识别率会进一步提高,更说明提出方法的有效性.     

基于集成卷积神经网络的交通标志识别

以交通标志识别为研究目的,提出一种基于集成卷积神经网络的交通标志识别算法,通过对多个不同结构的卷积神经网络进行集成以提高算法识别率。为了缩短网络训练和测试时间以及提高网络识别率,对单个卷积神经网络的结构进行了优化。使用ReLU(rectified linear unit)激活函数来代替传统的激活函数,使用批量归一化(batch normalization,BN) 方法对卷积层输出数据进行归一化处理,将卷积神经网络的分类器用支持向量机(support vector machine,SVM)代替。使用德国交通标志识别数据库(german traffic sign recognition benchmark,GTSRB)进行训练和测试,实验结果表明,提出的算法识别率为98.29%,单幅交通标志图像测试时间为1.32 ms,对交通标志具有良好的识别性能。     

基于图像集匹配(ISM)的正则化最近点法在视频人脸识别中的应用

针对视频人脸识别中传统的图像集算法受光照、表情、姿态及遮掩等变化而影响识别性能的问题,提出了一种图像集匹配的正则化最近点算法。首先,将图库图像集和探针图像集建模成正则化仿射包,利用迭代器自动确定两个图像集间的正则化最近点;然后,利用最近子空间分类器最小化正则化最近点;最后,根据正则化最近点之间的欧氏距离及结构计算RNP集之间的距离,并利用最近邻分类器完成人脸识别。在Honda/UCSD、CMU Mobo和YouTube三大视频人脸数据库上的实验验证了所提算法的有效性及可靠性,实验结果表明,相比其他几种图像集人脸识别算法,所提算法取得了更好的识别效果,同时,大大减少了训练及测试总完成时间。     

基于改进型C3D网络的人体行为识别算法

针对原始C3D卷积神经网络参数量庞大,以及在压缩网络参数的同时进一步提高视频数据集中人体行为的识别率的问题,提出一种改进型C3D卷积神经网络模型。首先,采用全局平均池化和卷积分类操作取代全连接层,形成全卷积网络形式,之后在模型中分别引入卷积核为(3×3×3)和(1×1×1)的三维卷积层,并在此基础上采用卷积核为(3×1×7)和(3×7×1)的三维卷积层对多个(3×3×3)卷积层合并。最后,将所提方法在数据集UCF101和HMDB51上进行训练测试,并与当前深度学习现有流行算法进行比较。实验结果表明,本文所提方法与原始C3D网络模型相比,在UCF101数据集和HMDB51数据集上识别率分别提高了8.9%和7.9%,参数量压缩为原来的32.9%,并且在模型压缩和识别率上也均优于其他方法。     

基于改进MobileNet网络的人脸识别方法

针对轻量级卷积神经网络MobileNet应用于人脸识别实时性较差、准确率不高等问题，提出一种改进MobileNet的网络模型—MobileDeepViT。首先，鉴于MobileNet模型有效减少网络参数量特点，本网络以MobileNet为核心，构建具有7层MobileNetV2、3层特征提取层、1层标准卷积和点卷积的深度学习网络；其次，在人脸特征提取过程中引入DeepViT，使网络更有效学习人脸特征；最后，该网络与Inception＿ResNetV1和MobileNetV1在相同的数据集CASIA-WebFace上进行训练，在LFW测试数据集上对训练模型进行评估，并在相同条件下对同一人的不同照片进行欧式距离和实时性测试。实验结果显示：该网络在模型参数更小的情况下，准确率比后二者分别提升了0.21%和0.72%、欧式距离测试结果也比后二者更小，预测时间更短，表明改进后的模型参数量减少、实时性更好、精度和鲁棒性提高。     

一种结合Dropblock和Dropout的正则化策略

为了能够全面且高效加快卷积分类网络的收敛速度和提升稳定性,提出了一种新的正则化策略,将Dropblock算法和Dropout算法相结合,从而实现对整个卷积分类网络的浅层、中层和深层网络进行正则化.其中,Dropblock通过隐藏部分特征图实现卷积层正则化,Dropout通过隐藏部分权重参数实现全连接层正则化,从而实现对整个卷积分类网络进行全面正则化.通过Kaggle猫狗分类大赛提供的数据集进行训练和测试实验表明,提出的新的正则化策略可有效加快分类网络的收敛速度和提升稳定性,此外,能有效提高深度卷积分类网络的分类准确率.     

基于改进的SqueezeNet的人脸识别

针对众多基于卷积神经网络的人脸识别技术在追求提高人脸识别率上,忽视了网络模型输入参数,导致模型输入参数多、训练时间长和无法在内存小的硬件上运行等问题,提出一种基于改进的Squeeze Net的人脸识别模型。改进的Squeeze Net模型保留了原网络模型中的小卷积核去提取图片特征,还采用首尾池化层分别引入对应的后续卷积层进行特征融合,提取细微的人脸纹理特征来稳定模型收敛性,防止小的卷积核在复杂的人脸训练集上产生过拟合。针对分类函数Softmax的改进,采用L2范数约束的方法,将最后一层的特征约束在一个球面内,减少相同特征间距,提高网络收敛能力。通过两种改进后的Squeeze Net模型在与其他的先进模型对比,在不降低人脸识别准确率的前提下,具有输入参数少、模型易于收敛和能够运行在内存小的硬件设备的优势。结果在CASIA-WebFace和ORL人脸库上得到了有效性的实验验证。     

深度卷积神经网络的判别性人脸识别算法

针对Softmax(柔性最大值)损失对特征只有可分性的不足,提出一种基于深度卷积神经网络的判别性人脸识别算法.该算法首先根据Softmax损失特征分布,在特征和权重向量间施加一个类内余弦相似性损失,使类内更加紧凑,类间尽可能分离;然后在Softmax损失基础上通过归一化特征来更好地模拟低质量人脸图像,并通过归一化权重来减轻类别不平衡,使与测试时的余弦相似性度量一致;最后联合归一化的Softmax损失和类内余弦相似性损失在预训练模型上进行微调.该算法在人脸识别基准测试集LFW(户外人脸标记)和YTF(You Tube人脸数据库)上分别取得了98.72%和93.38%的识别率,实验结果表明:在大规模人脸身份识别中,该算法提高了特征的判别性,增强了模型的泛化能力,能有效提高人脸识别率.     

基于卷积神经网络的带遮蔽人脸识别

基于卷积神经网络Inception-ResNet-v1模型进行训练与学习,实现了在添加遮挡干扰因素下的人脸识别。将图像嵌入到d维度的欧几里得空间,采用Triplet Loss作为损失函数,直接学习特征间的可分性。选取LFW(labeled faces in wild)数据集和摄像头采集的人脸图片制作训练集和测试集。结果表明,模型在眼部被遮挡的情况下识别率为98. 8%,在嘴部被遮挡的情况下识别率为98. 6%,在眼部和嘴部同时被遮挡的情况下识别率为96. 9%。模型在遮挡率为20%～30%时,识别率能够达到98. 2%。从实验结果可以得出,模型在一定遮挡的情况下能得到较好的识别效果。     

基于ISM的正则化最近点法在视频人脸识别中的应用

针对视频人脸识别中传统的图像集算法受光照、表情、姿态及遮掩等变化而影响识别性能的问题,提出了一种基于图像集匹配的正则化最近点算法。首先,将图库图像集和探针图像集建模成正则化仿射包,并利用迭代器自动确定两个图像集间的正则化最近点;然后,利用最近子空间分类器最小化正则化最近点;最后,根据正则化最近点之间的欧氏距离及结构计算RNP集之间的距离,并利用最近邻分类器完成人脸的识别。在Honda/UCSD、CMU Mobo和YouTube三大视频人脸数据库上的实验验证了本文算法的有效性及可靠性,实验结果表明,相比其它几种较为先进的图像集人脸识别算法,本文算法取得了更好的识别效果,同时,大大减少了训练及测试总完成时间。     

基于卷积神经网络的图书页面检索方法

针对现有图书页面检索方法检索精度低的问题,利用任务无关数据集训练卷积神经网络,提出了一种基于卷积神经网络的图书页面检索方法.首先将待检图书页面图像进行图像分割和畸变校正,降低背景的干扰和几何畸变的影响;然后将校正后的图像输入卷积神经网络提取图像特征;最后使用夹角余弦距离来度量待检图像和候选图像的相似度.实验结果表明:本方法在测试数据集上的Top-5命中率为97.31%,而直接使用任务无关数据集训练的卷积神经网络的Top-5命中率仅为58.47%.本方法避免了耗费大量的时间和精力去收集大规模图书页面图像数据库,而且利用卷积神经网络强大的图像特征描述能力,取得了优异的图书页面检索精度.     

基于多层特征深度融合的卷积神经网络人脸识别方法

针对传统神经网络在人脸图像的训练过程中没有将高低卷积层信息进行融合,为充分利用图像各层特征信息,提出一种基于三层特征融合的全连接卷积神经网络模型,算法将原有网络最后三层特征结合,并将提取的特征信息与最后一层全连接层结合,从而增加了浅层特征的表达,加强了深层特征的提取效果,促使改进后的卷积神经网络提取的信息更加完备;同时将损失函数和中心函数加权联合,以提高人脸图像的识别率和区分性.在CASIA-webface人脸数据库进行的实验结果表明,改进后的网络模型识别率达到98. 7%,优于DCNN等算法,并将训练好的网络模型应用到YALE、PERET、LFW-A等人脸库上,相比其他方法识别率都有所提升.     

面向深度卷积神经网络的确定性连接丢弃算法

针对深度卷积神经网络中存在的过拟合问题,本文提出了一种确定性连接丢弃的正则化方法。核心思想是根据不同卷积滤波器权重对结果的贡献度不同,确定性丢弃卷积层层间连接,通过降低卷积滤波器权重的空间维度,使得卷积神经网络各层之间的连接更稀疏。通过将算法应用于图像分类任务来验证算法的性能,在MNIST、CIFAR-10和CIFAR-100数据集上,错误率分别为0.32%、5.33%、26.88%,相比于原始实验错误率分别降低0.15%、1.09%、1.36%。实验表明,本算法能够有效处理深度卷积神经网络的过拟合问题,并能提升网络的鲁棒性和泛化能力。     

基于深度特征学习的图像自适应目标识别算法

针对传统图像识别算法过程繁琐、特征提取困难等问题,提出一种基于深度特征学习的图像自适应目标识别算法。首先对每层网络单个特征图的输入进行批量归一化(BN)处理,其次采用参数化线性修正单元PReLU对参数进行自适应调节,比较BN算法作用在激活函数前后输出的表现性能,构建自适应卷积神经网络模型CNN-BN-PReLU.实验从网络层数、卷积核数目、网络优化及经典卷积神经网络模型4个方面进行比较分析,结果表明,在DDSM数据集上,CNN-BNPReLU较优化前准确率提高了8.5%,训练时间大幅减少71.83%,其敏感度、特异度及AUC值均有显著提升,分别达到了96%,87%和0.91,识别效果远高于LeNet-5和AlexNet,具有较好的应用价值。     

一种改进的深度卷积神经网络的精细图像分类

精细图像分类不同于传统的图像分类,由于精细图像自身的类间相似性和类内差异性,传统的基于手工特征和局部特征组合方法已经很难完整地表达精细图像的特征,因此提出了一种基于改进的深度卷积神经网络模型.由于深度卷积神经网络结构参数和神经元数量巨大,训练模型困难,所以采用高斯分布对前6层参数初始化,其中激活函数采用校正之后的Relus-Softplus函数,在花卉图像数据库OXford-102 flowers中TOP1准确率达到85.75%,TOP3准确率达到了94.50%.实验结果表明:该模型在中等规模数据集上比传统方法优势明显,且比未改进的CNN模型识别率高.     

语音识别中的DenseNet模型研究

为了解决语音识别中由网络加深导致的低层特征消失、参数量大及网络训练困难的问题,基于Inception V3网络的非对称卷积思想,提出了一种改进的密集连接卷积神经网络(densely connected convolutional neural networks, DenseNet)模型。根据语音识别的长时相关性,通过密集连接块建立起不同层之间的连接关系,从而保存低层特征、加强特征传播;为了得到尺度更丰富的声学特征,将卷积核的范围进行扩大;利用非对称卷积思想分解卷积核,以减少参数量。实验结果表明,相较经典深度残差卷积神经网络模型和原始DenseNet模型,提出的模型在THCHS30数据集上的语音识别性能更好,在保证识别率的情况下,还减少了网络参数量,提高了模型训练效率。     

中心损失与Softmax损失联合监督下的人脸识别

深度学习在人脸识别领域已经取得了巨大的成就,针对当前大多数卷积神经网络采用Softmax损失函数进行特征分类,增加新的类别样本会减小类间距离的增长趋势,影响网络对特征判别的问题,采用了一种基于中心损失与Softmax损失联合监督的人脸识别算法,来提高网络对特征的识别能力。在Softmax基础上,首先,分别对训练集每个类别在特征空间维护一个类中心,训练过程新增加样本时,网络会约束样本的分类中心距离,从而兼顾了类内聚合与类间分离。其次,引入动量概念,在分类中心更新的时候,通过保留之前的更新方向,同时利用当前批次的梯度微调最终的更新方向,该方法可以在一定程度上增加稳定性,提高网络的学习效率。最后,在人脸识别基准库LFW上的测试实验证明:所提的联合监督算法,在较小的网络训练集上,获得了99.31%的人脸识别精度。