深度卷积神经网络的判别性人脸识别算法

针对Softmax(柔性最大值)损失对特征只有可分性的不足,提出一种基于深度卷积神经网络的判别性人脸识别算法.该算法首先根据Softmax损失特征分布,在特征和权重向量间施加一个类内余弦相似性损失,使类内更加紧凑,类间尽可能分离;然后在Softmax损失基础上通过归一化特征来更好地模拟低质量人脸图像,并通过归一化权重来减轻类别不平衡,使与测试时的余弦相似性度量一致;最后联合归一化的Softmax损失和类内余弦相似性损失在预训练模型上进行微调.该算法在人脸识别基准测试集LFW(户外人脸标记)和YTF(You Tube人脸数据库)上分别取得了98.72%和93.38%的识别率,实验结果表明:在大规模人脸身份识别中,该算法提高了特征的判别性,增强了模型的泛化能力,能有效提高人脸识别率.     

中心损失与Softmax损失联合监督下的人脸识别

深度学习在人脸识别领域已经取得了巨大的成就,针对当前大多数卷积神经网络采用Softmax损失函数进行特征分类,增加新的类别样本会减小类间距离的增长趋势,影响网络对特征判别的问题,采用了一种基于中心损失与Softmax损失联合监督的人脸识别算法,来提高网络对特征的识别能力。在Softmax基础上,首先,分别对训练集每个类别在特征空间维护一个类中心,训练过程新增加样本时,网络会约束样本的分类中心距离,从而兼顾了类内聚合与类间分离。其次,引入动量概念,在分类中心更新的时候,通过保留之前的更新方向,同时利用当前批次的梯度微调最终的更新方向,该方法可以在一定程度上增加稳定性,提高网络的学习效率。最后,在人脸识别基准库LFW上的测试实验证明:所提的联合监督算法,在较小的网络训练集上,获得了99.31%的人脸识别精度。     

基于深度迁移学习的人脸识别方法研究

针对大数据集上学习的深度人脸模型在实践中的相关问题,提出一种通过迁移一个预训练的深度人脸模型到特定的任务来解决该问题的方案:将深度人脸模型学习的分层表示作为源模型,然后在一个小训练集上学习高层表示以得到一个特定于任务的目标模型;在公共的小数据集及采集的真实人脸数据集上的实验表明,所采用的迁移学习方法有效且高效;经验性地探索了一个重要的开放问题——深度模型不同层特征的特点及其可迁移能力,认为越底层的特征越局部、越通用,而越高层的特征则越全局、越特定,具有更好的类内不变性和类间区分性;无监督的特征可视化与有监督的人脸识别实验结果都能较好地支持上述观点.     

基于联合损失函数的小规模数据人脸识别

小规模数据人脸识别的难点在于数据量少而变化多,直接用深度神经网络进行训练易出现过拟合现象.针对此问题,本文提出了基于联合损失函数的小规模数据人脸识别算法,即利用联合损失函数,在基于Softmax损失函数的大规模公开人脸数据集上得到的预训练模型上重新训练.该方法既能充分使用模型参数,也能够提高模型的特征表征能力.除此之外,本文中还使用了传统特征后处理方法进行对比评估,证明了该方法在小规模人脸数据集上的有效性.实验表明,本文方法能大幅度提高模型在学校新生人脸数据集的检索精度.      

基于GAN改进的人脸表情识别算法及应用

针对传统人脸表情识别算法存在的特征提取能力差、 识别率低和误分类率较高等问题, 提出一种基于生成对抗网络(GAN)改进的人脸表情识别算法. 利用生成对抗网络的博弈思想, 分别设计特征提取器、 特征合成器和判别器, 通过判别器与特征提取器之间的对抗训练, 不断增强特征提取器提取特征的能力和分类器对人脸表情识别的准确率, 并将其应用在工作人员工作状态智能监测中, 根据表情识别结果判断工作状态, 从而合理分配实验室资源, 提高实验室资源利用率. 改进算法在CK+数据集上多次实验的结果表明： 该算法有较高的鲁棒性, 能有效提高人脸表情识别率.     

基于深度卷积稀疏自编码分层网络的人脸识别技术

面对海量人脸图像识别,传统特征提取方法难以提取有效特征,造成人脸识别准确率较低。提出了一种鲁棒的人脸特征提取算法,即利用深度卷积稀疏自编码网络自动学习人脸中丰富且识别力高的特征。该方法将卷积操作融入自编码网络中,同时加入稀疏化思想,从而形成深度卷积稀疏自编码分层网络(hierarchical deep convolution sparse autoencoder,HDCSAE);用该网络自动提取海量人脸图像的高层鲁棒特征,并将提取的特征作为SVM分类器的输入得到分类结果。在FERET人脸数据库下对该方法进行测试,识别率达到99.47%,比传统的基于提取人为定义特征的人脸识别方法的识别率有所提高。     

基于改进的深度卷积神经网络的人脸疲劳检测

针对疲劳驾驶检测问题,提出一种以softmax损失与中心损失相结合的深度卷积神经网络算法。首先,利用含有方向的梯度直方图(histogram of oriented gridients,HOG)和级联分类器(support vector machine,SVM)算法的Dlib库中预训练的人脸检测器,来检测驾驶员的脸部区域。其次,使用级联回归(ensemble of regression trees,ERT)算法实现脸部68个关键点标定及眼睛和嘴巴的定位。最后,为了优化softmax损失在深度卷积网络分类中出现的类内间距大的问题,加入中心损失函数,提高类间差异性、类内紧密性以及驾驶员脸部疲劳状态识别准确率。在自建测试集和YawDD哈欠数据集中的实验结果显示,该方法能够准确地识别检测驾驶员疲劳表情,平均识别准确率达到98.81%。与传统的疲劳驾驶检测识别方法相比,该方法可以自动进行疲劳特征提取,并且训练准确率、检测识别率及鲁棒性得到提高;与未改进的深度卷积网络相比,检测识别的概率平均提高了约5.09%。     

基于特征关联性的人脸高层特征研究

在特殊应用领域,注册者只能注册一张人脸信息,使得人脸注册信息极为有限,给人脸识别带来很大的限制。文章以参考集为基础,开展了基于特征关联性的人脸高层特征研究,通过对参考集中该人脸的所有图片特征均值和训练集、测试集中数据进行距离计算,将对应训练集、测试集中的各人脸的距离依次组合构成向量作为该脸的高层特征,该方法在很大程度上解决了注册信息缺失的问题;在Multi-PIE库和扩展YaleB库中进行了实验,并与基于稀疏表示的分类(sparse representation-based classifier,SRC)算法进行了对比。实验表明:该算法比余弦距离分类方法人脸识别的正确率提高5%~6%;与SRC算法相比,该算法更具有优越性。研究结果对单训练样本条件下的人脸识别研究有一定作用。     

基于密集连接机制的无线信号调制识别

为提高复杂信道环境下无线通信系统对调制信号的检测识别能力,以及针对当前调制识别方法存在的模型复杂、计算量大、输入数据特征不完备等问题。提出一种改进的深度学习算法模型,对真实无线环境下的9种常见调制信号进行识别研究。该算法通过对原始的同相正交(in-phase quadrature, IQ)数据进行幅度相位计算,以此增加模型输入数据的特征信息,采用改进的密集神经网络(dense neural network, DenseNet)对常见调制信号进行识别分类。实验结果表明：在相同的训练数据样本中,相比其他深度学习调制识别算法,改进算法性能最优。在信噪比为0时,DenseNet平均识别率达到84.6%。改进的IQ输入数据明显提高了无线信号的检测识别率,在信噪比为-10 dB和-5 dB时,调制信号的识别率提高了10%。     

适用于样本分布差异的迁移学习调制识别算法

针对大量有标签样本的数据驱动模型方法存在数据分布不完备问题,结合实际环境中通信信号样本差异大的特点,提出一种对抗域适应迁移算法.通过类判别器和域判别器对抗训练,使特征提取器能够提取到既具有类差异性又具有域不变性的特征.以无监督学习方式对目标域信号进行分类,以提升调制识别算法在实际环境中拟合存在分布差异数据集的自适应能力.对实际信号样本集中调制方式相近的9类调制信号在不同信噪比条件下进行测试,域适应迁移方法通过对抗训练有标签高信噪比的源域样本和无标签低信噪比的目标域样本,结果发现该算法的平均识别准确率较以往直接训练的平均识别准确率大幅提升.     

基于深度卷积神经网络的三维模型识别

为了进一步提高三维模型的识别精度,提出了一种基于深度卷积神经网络的三维模型识别方法。将点云数据通过占用网格规范化计算转化为二值3D体素矩阵,通过附加正则化项的随机梯度下降算法提取体素矩阵的特征,再通过共享权重的旋转增强对训练集进行数据增广并以此对模型标签进行预测。实验结果表明,该算法在公开数据集ModelNet40及悉尼城市模型数据集上的识别精度均达到85%左右。与基于同类机器学习的三维模型识别算法相比,在相同训练数据集上该方法网络训练时间短,在相同测试数据集上模型识别准确率高,检索速度快。提出的体素占用网格模型的深度卷积神经网络,可以实现三维点云模型数据集及规范化体素模型数据集的识别和分类工作。     

基于深层迁移学习的DR胸片肺结核病灶检测

针对基于传统机器学习方法设计的DR胸片肺结核检测器存在着泛化能力不强,实际检测精度低等问题,提出了一种基于Focal Loss的深度学习检测方法Tuberculosis Neural Net(TBNN).医学图像的特殊性,存在带标注的数据量小导致无法充分训练深层网络模型等问题.该方法利用肺炎和肺结核同为呼吸道感染疾病且在DR胸片上有相似表征的特点,基于迁移学习原理训练特征提取子网络,减少肺结核胸片样本不足对模型训练造成的影响.首先在大型的肺炎胸片数据集上训练特征提取网络,以获取DR图像中丰富的深层图像语义信息,然后使用样本较少的肺结核数据集微调网络参数,并将多层卷积的输出作为TBNN分类子网络的输入,得到基于DR胸片的肺结核病灶检测模型.实验结果表明,该方法生成的检测模型在分类精度和性能上均优于基于传统机器学习的肺结核检测器.在同等训练数据量和训练周期下,模型性能高于其他采用传统数据增强方法的深层网络肺结核检测算法,且能标识病灶区域,准度上有不低于放射科阅片医生的表现.     

融合加速稳健特征的子空间人脸识别方法

为了充分利用人脸特征信息更加准确全面地描述人脸,提高现有识别算法的识别率,提出一种融合改进的加速稳健特征和子空间特征进行人脸识别的方法。利用AAM形状模型的训练方法,训练得到41个点的人脸形状模型;对每幅图像进行特征点初歩定位,找到并保留与初歩定位的特征点空间距离最近的SURF特征点。将SURF特征点描述子利用PCA降维,得到改进的SURF局部特征向量。然后利用PCA对图像进行全局特征提取,将局部特征与全局特征进行融合,组成全新的特征向量。最后通过特征向量的匹配实现识別。对包括本算法和PCA-SIFT算法在内的6种不同识别算法进行了验证。实验结果表明,提出的算法在改变ORL人脸库中训练集样本数的情况下,识别率均优于其他算法;在样本数为5的情况下比PCA-SIFT方法提高了4.3%,可见该算法提高了人脸的识别率具有较强的鲁棒性和分类性。     

基于多层特征深度融合的卷积神经网络人脸识别方法

针对传统神经网络在人脸图像的训练过程中没有将高低卷积层信息进行融合,为充分利用图像各层特征信息,提出一种基于三层特征融合的全连接卷积神经网络模型,算法将原有网络最后三层特征结合,并将提取的特征信息与最后一层全连接层结合,从而增加了浅层特征的表达,加强了深层特征的提取效果,促使改进后的卷积神经网络提取的信息更加完备;同时将损失函数和中心函数加权联合,以提高人脸图像的识别率和区分性.在CASIA-webface人脸数据库进行的实验结果表明,改进后的网络模型识别率达到98. 7%,优于DCNN等算法,并将训练好的网络模型应用到YALE、PERET、LFW-A等人脸库上,相比其他方法识别率都有所提升.     

融合子区域局部二值模式特征与深层聚合网络的人脸识别

针对深度网络对人脸噪声敏感,且学习过程容易忽视人脸结构信息的问题,提出融合子区域局部二值模式(local binary pattern,LBP)特征和深层聚合网络的人脸识别算法。将人脸图像划分为不同子区域,并采用局部二值模式对人脸进行预处理,获取子区域人脸的LBP特征。不同子区域LBP特征输入不同的稀疏自动编码器,实现深层特征提取;然后不同稀疏自动编码器的输出特征通过全连接方式实现特征聚合,获得人脸特征向量用于分类。通过大量实验获取了最优的聚合网络模型架构和网络参数取值,改善了人脸识别效果。     

面向同源蛋白质探测的一种新型混合深度学习模型

根据蛋白质氨基酸链探测其同源蛋白质,进而预测蛋白质的功能,是生物信息学研究领域的一个重要挑战,也是众多生物医学研究领域的基础研究内容,有着重要的科研价值和广泛的应用需求。其研究难点在于:(1)如何学习对同源蛋白质预测有效、有用的蛋白质特征信息;(2)如何更好地运用蛋白质特征信息,实现同源蛋白质的探测与识别。为了解决同源蛋白质探测与识别研究中的关键难点,本文提出一种基于混合深度学习架构的同源蛋白质探测与识别模型(HDLM-PHP)。通过采用统一的"管道式"深度学习架构,将蛋白质特征学习和探测识别统一为一个整体,提高同源蛋白质探测与识别的效能。采用多组并行的深度卷积神经网络,学习蛋白质的各种属性信息,以期获得丰富的待检测蛋白质和靶蛋白质的高级相关性特征,并通过全连接方式使用多层RBM结构融合和精炼这些相关性特征为全局相关性特征。通过统一的深度网络连接方式,以探测和识别任务为导向,学习到对于同源蛋白质预测最有效、最全面的蛋白质特征信息。在标准数据集SCOPe上,对所提模型进行性能与效率评测,结果表明:本文提出的模型能有效地学习到符合任务导向的蛋白质特征数据,提升同源蛋白质探测与识别的准确度和召回率,优于现有的模型和算法。     

基于改进型深度网络数据融合的滚动轴承故障识别

针对传统智能诊断方法依赖于信号处理和故障诊断经验提取故障特征以及模型泛化能力差的问题,基于深度学习理论,提出将卷积神经网络算法结合softmax分类器,针对数据集不平衡问题引入加权损失函数、正则化以及批量归一化等模型优化技术搭建适于滚动轴承故障诊断的改进型深度卷积神经网络模型。模型从原始实测轴承振动信号出发逐层学习实现特征提取与目标分类。实验结果表明,优化后的深度学习模型可实现对早期微弱故障、不同程度故障的精确识别,在不平衡数据集上也可达到95%的识别准确率,并且模型拥有较快的收敛速度和较强的泛化能力。     

基于ME-ANet模型的糖尿病视网膜病变分级

糖尿病视网膜病变(Diabetic Retinopathy，DR)是一种致盲率很高的眼科疾病。不同病变等级的视网膜图像之间差异小且病灶点分布无规律。针对现有深度模型对DR中的相似病灶点识别率低，严重影响模型分类精度的问题，本研究以深度学习为基础，构建新的模型架构进行训练，提出一种集成MobileNetV2和EfficientNetB0深度模型的注意力网络：ME-ANet。模型集成分为头部和主干两部分，将深度模型的浅层部分融合构成网络的头部，训练时采用迁移学习的策略对网络模型参数进行初始化，减少训练中的过拟合问题。主干部分利用上述两种模型的核心结构，设计3个阶段集成模块进行特征提取。同时设计全局注意力机制(Global Attention Mechanism，GAM)并分别嵌入到3个阶段的集成模块中。模型的改进加速了网络的收敛速度，该网络模型实现了对图像浅层信息的特征融合提取，减少了微病灶特征信息在训练过程中的卷积丢失问题，模型的分类精度进一步得到改善。通过模型集成构建特征提取主干网络，提高了模型对低级特征信息的学习，注意力机制抑制非病变特征信息，强化典型病灶特征学习，从而实现细粒度分类，进一步提升了模型的分类性能。     

基于改进的SqueezeNet的人脸识别

针对众多基于卷积神经网络的人脸识别技术在追求提高人脸识别率上,忽视了网络模型输入参数,导致模型输入参数多、训练时间长和无法在内存小的硬件上运行等问题,提出一种基于改进的Squeeze Net的人脸识别模型。改进的Squeeze Net模型保留了原网络模型中的小卷积核去提取图片特征,还采用首尾池化层分别引入对应的后续卷积层进行特征融合,提取细微的人脸纹理特征来稳定模型收敛性,防止小的卷积核在复杂的人脸训练集上产生过拟合。针对分类函数Softmax的改进,采用L2范数约束的方法,将最后一层的特征约束在一个球面内,减少相同特征间距,提高网络收敛能力。通过两种改进后的Squeeze Net模型在与其他的先进模型对比,在不降低人脸识别准确率的前提下,具有输入参数少、模型易于收敛和能够运行在内存小的硬件设备的优势。结果在CASIA-WebFace和ORL人脸库上得到了有效性的实验验证。