一种改进YOLOv3的手势识别算法

为了解决YOLOv3算法在手势识别中存在识别精度低及易受光照条件影响的问题,提出了一种改进的YOLOv3手势识别算法。首先,在原来3个检测尺度上新增加1个更小的检测尺度,提高对小目标的检测能力;其次,以DIoU代替原来的均方差损失函数作为坐标误差损失函数,用改进后的Focal损失函数作为边界框置信度损失函数,目标分类损失函数以交叉熵作为损失函数。结果表明,将改进的YOLOv3手势识别算法用于手势检测中,mAP指标达到90.38%,较改进前提升了6.62%,FPS也提升了近2倍。采用改进的YOLOv3方法训练得到的新模型,识别手势精度更高,检测速度更快,整体识别效率大幅提升,平衡了简单样本和困难样本的损失权重,有效提高了模型的训练质量和泛化能力。     

基于可调节判别器的领域适应

当前基于对抗学习的领域适应(DA)对目标样本的适应性较差,导致目标域的预测精确度较低,为此提出基于可调节判别器的领域适应(A-DADA)算法.首先,利用两个判别器分类概率的距离作为权重应用到目标域对抗训练损失函数中,旨在减少已对齐目标样本对抗训练的次数同时增加未对齐目标样本的对抗训练次数;其次,将平方熵损失函数作为最小...     

基于神经网络语言模型的动态层序Softmax训练算法

针对词向量训练过程中层序Softmax算法无法进行增量训练及海量数据训练低效的问题,提出了动态层序Softmax算法.通过对数据样本的增量加载,采用结点置换方法动态构建编码树,实现对样本的增量训练.为避免损失函数因样本量较少而呈现震荡式下降,利用梯度的一阶矩估计与二阶矩估计动态调整参数更新方向与学习率,通过梯度迭代缩小权值变化范围和收敛训练误差,提高词向量的训练效率.以维基百科中文语料作为数据进行了试验,完成了训练效率和质量的分析.结果表明:相较于现有方法动态层序Softmax算法显著提高了训练效率,当增量样本大小为10 kB～1 MB时,训练增速有近30倍的提升,有效地缩短训练周期.     

中心损失与Softmax损失联合监督下的人脸识别

深度学习在人脸识别领域已经取得了巨大的成就,针对当前大多数卷积神经网络采用Softmax损失函数进行特征分类,增加新的类别样本会减小类间距离的增长趋势,影响网络对特征判别的问题,采用了一种基于中心损失与Softmax损失联合监督的人脸识别算法,来提高网络对特征的识别能力。在Softmax基础上,首先,分别对训练集每个类别在特征空间维护一个类中心,训练过程新增加样本时,网络会约束样本的分类中心距离,从而兼顾了类内聚合与类间分离。其次,引入动量概念,在分类中心更新的时候,通过保留之前的更新方向,同时利用当前批次的梯度微调最终的更新方向,该方法可以在一定程度上增加稳定性,提高网络的学习效率。最后,在人脸识别基准库LFW上的测试实验证明:所提的联合监督算法,在较小的网络训练集上,获得了99.31%的人脸识别精度。     

基于改进AlexNet的可变形卷积皮肤病变识别算法

为了有效解决类间相似度高、类内差异化大、数据类别不平衡的皮肤病变识别,提出了基于改进AlexNet的可变形卷积网络皮肤病变识别算法. 构建改进的AlexNet可变形卷积网络模型,增加采样偏移量,使不同位置的卷积核采样点可根据图像内容自适应变化,自动调整不同尺度或感受野,提取比标准卷积更精细的特征. 使用交叉熵损失函数和焦点损失函数的加权损失函数,削弱易分类样本在训练中所占的权重,使模型专注于相似度高、易错分的样本,解决样本比例不平衡的问题,优化模型的识别率. 在HAM10000数据集上进行仿真实验,主客观的实验结果表明, 提出的方法在7种皮肤病变上的识别优于现有方法,具有更高的准确性、特异性和鲁棒性.      

深度自编码与改进损失函数在极端不均衡故障诊断中的应用

在实际应用中,滚动轴承大多时候都是在正常状态下工作,因此收集到的故障数据较少,这就会产生数据不均衡的问题.这种数据不均衡问题极大地影响着模型的拟合和泛化能力,导致模型产生过拟合情况,而往往忽视对小类别样本的学习.尤其当故障样本数极少时,此问题更突出.针对这个问题,提出一种基于改进交叉熵损失函数的深度自编码器的诊断模型,首先提取振动数据的小波包能量,其次将小波包能量输入到深度自编码器中,最后通过SoftMax分类器得到诊断结果.改进的加权损失函数可以根据各类别样本的数量调整权重系数,样本数量越少,系数越大,使得模型在训练时更专注于数量较少的样本.通过在凯斯西储大学及西安交通大学的轴承数据集上的两个实验表明,加权损失函数可以提高极端不均衡数据的诊断精度.     

基于深度学习的公路路面病害检测算法

针对公路路面病害图像存在背景干扰多、病害信息弱、尺度差异大等问题,提出了一种基于深度学习的公路路面病害检测方法。以YOLOv4算法为基础,在检测网络中引入可变形卷积,并提出基于路径聚合网络(path aggregation network, PANet)的自适应空间特征融合结构,充分学习公路路面病害的细节特征,实现不同尺度特征信息的高效融合;采用平均准确率损失(average precision loss, AP-loss)函数作为分类损失函数,促使网络在训练过程中更加注重于正样本。实验表明,在公路路面病害检测中,改进YOLOv4算法的平均准确率达到了95.34%,每张图像的平均检测时间为0.071 s。与快速基于区域的卷积神经网络(faster region-based convolutional neural networks, Faster R-CNN)算法相比,所提出的算法在持有较高检测准确率的同时,减少了运算时间,可以满足公路路面病害检测的准确性与实时性需求。     

基于加权损失函数的粘连白细胞分割算法

针对粘连白细胞很难精准分割的问题,提出一种基于深度学习的粘连白细胞分割算法.首先,将急性淋巴细胞白血病患者的血液细胞显微图像的色彩空间由RGB转换至HSV,滤除红细胞并提取白细胞;其次,对提取结果中的粘连白细胞,将细胞边界设定为除前景和背景外的第三类,在深度学习分割模型训练过程中引入基于类别权重的加权交叉熵损失函数,使...     

基于上下文感知和注意机制的多学习情绪识别方法

为提高人脸图像情绪识别效率与准确性,在探讨了深度神经网络、注意机制与损失函数基础上,提出基于上下文感知与注意机制的多学习情绪识别网络结构．该网络主要由场景特征提取、身体特征提取与融合决策3个子网络组成,并采用单双输出结构,实现多标签情绪分类与连续空间情绪回归任务．考虑到多标签情绪分类时标签的不平衡性,提出了一个改进的焦点损失（focal loss,FL）函数,可为小样本或难分类样本分配更多的权重,从而提高了网络训练效率．利用EMOTIC数据集进行仿真,结果表明平均绝对误差回归组合损失训练性能更优,分类平均准确率与回归平均误差率分别为28.5%和0.098,该方法对于小样本或难分类样本具有更好的分类效果．      

基于改进的半监督阶梯网络SAR图像识别

针对目前SAR(Synthetic Aperture Radar)图像中样本人工标记成本高、传统算法分类识别较低的情况,提出一种基于改进半监督阶梯网络(Semi-supervised Ladder Network,SSLN)的SAR图像分类识别方法 .首先在原SSLN模型的解码器网络中使用卷积神经网络代替全连接层,对编码器输出的每层数据进行全局深度特征提取,这样做有利于图像降噪,实现对输出数据的重构.其次,为解决SAR图像各类数据集分布不均衡的问题,同时提高网络的泛化性能,对阶梯网络训练层中各类别损失函数的权重进行优化,根据各类别样本数所占总样本数的比重,对少样本类别损失函数调高权重,对多样本类别损失函数调低权重.在公开数据集MSTAR(Moving and Stationary Target Automatic Recognition)上的实验表明,改进后的半监督阶梯网络分类的识别准确度明显优于SSLN算法,且具有更好的泛化性.     

基于模型微调与AM Softmax的极化SAR图像分类

针对极化SAR图像分类中卷积神经网络（CNN）方法训练时间长、收敛速度慢,原始Softmax函数无法对极化SAR图像的类内差异有效应对的问题,提出一种基于模型微调与加性边际Softmax（AM-Softmax）的极化SAR图像分类方法。该方法通过预训练网络的整体微调,来改进CNN模型的效率和分类准确率,然后以AM-Softmax替代Softmax,以解决SAR图像中类内变化较大的问题,进一步提升分类精度。实验表明该方法具有快收敛的优势并且能够较好解决极化SAR图像类内差异较大的问题,模型的分类总体精度达到96%以上。     

YOLOv3-ADS:一种基于YOLOv3的深度学习目标检测压缩模型

基于原有YOLOv3模型占用存储空间较大,所需初始化数据集样本和参数较多的问题,本文提出了一种基于YOLOv3的深度学习目标检测压缩模型YOLOv3-ADS.该模型使用拼接、叠加等方法对较少的有代表性的初始数据集进行数据增强,引入了DIoU损失函数,提升了目标检测的准确度.最后,通过稀疏训练和剪枝率阈值设置实现了YOL...     

深度卷积神经网络的判别性人脸识别算法

针对Softmax(柔性最大值)损失对特征只有可分性的不足,提出一种基于深度卷积神经网络的判别性人脸识别算法.该算法首先根据Softmax损失特征分布,在特征和权重向量间施加一个类内余弦相似性损失,使类内更加紧凑,类间尽可能分离;然后在Softmax损失基础上通过归一化特征来更好地模拟低质量人脸图像,并通过归一化权重来减轻类别不平衡,使与测试时的余弦相似性度量一致;最后联合归一化的Softmax损失和类内余弦相似性损失在预训练模型上进行微调.该算法在人脸识别基准测试集LFW(户外人脸标记)和YTF(You Tube人脸数据库)上分别取得了98.72%和93.38%的识别率,实验结果表明:在大规模人脸身份识别中,该算法提高了特征的判别性,增强了模型的泛化能力,能有效提高人脸识别率.     

基于卷积神经网络的交通标志识别方法

交通标志识别在自动驾驶过程中起着十分重要的作用。为了解决识别精度低的问题,提出一种基于卷积神经网络的识别方法,通过改进深度相互学习网络完成对交通标志的识别,使用ResNet-19网络作为特征提取部分,使用全局平均池化层作为分类器部分,使用交叉熵损失和相对熵损失作为损失函数部分,并增加超参数α与δ来衡量这两个损失在训练中的权重;同时,引入一种使用不同初始值的批量归一化层训练的技巧,以此来提高模型的收敛速度。试验研究中,改进的方法用在德国交通标志识别测试集上达到了98.90%的识别精度,比改进前精度提高了2.17%,与目前优秀的交通标志识别模型相比,本方法精度仍有一定的提高。试验结果表明在复杂的环境中,本方法可以准确地识别交通标志,这为后续相关研究提供了良好的技术支持。     

基于自编码器的深度对抗哈希方法在覆冰电网图像检索中的应用

为了提高覆冰电网图像的检索性能,提出一种基于自编码器的深度对抗哈希方法。首先,通过在现有的生成器和鉴别器之上添加新的编码鉴别器以鼓励生成的图像样本更好地表示真实数据分布。其次,构建哈希编码网络以学习生成紧凑的二进制哈希码。我们在WGAN-GP损失的基础上引入了新的基于长尾柯西分布的交叉熵损失和量化损失函数以优化汉明空间检索性能。实验结果表明,该深度对抗哈希方法能够通过编码鉴别器和柯西损失函数解决模式崩溃和图像模糊的问题,图像检索性能相比于其他方法有明显提高。     

ALBERT与双向GRU的多标签灾情信息预测

针对灾害求助信息辨识不准确、响应能力不足的问题,本文提出了基于ALBERT和双向GRU的文本多标签分类模型。首先利用ALBERT预处理语言模型对文本信息进行编码,获取文本的动态词特征向量,并送入双向GRU神经网络进行训练,根据不同的单词赋予不同的权重,应用Attention机制进行解码。利用模拟退火算法求解最优阈值,以微平均值作为评价函数,确定样本的标签类别归属。与逻辑回归、朴素贝叶斯和LSTM长短期记忆神经网络等模型进行比较,结果显示,多标签分类模型具有更高的准确率,达到95%,汉明损失仅到0.05,能够更好地辨别灾情求助信息,提高救援效率。     

一种基于特征偏移补偿的深度智能化教学评价方法

针对慕课(MOOC)评论中存在少数类特征偏移的问题, 提出一种基于特征偏移补偿的深度智能化教学评价方法. 该方法首先使用Glove预训练模型获取MOOC评论的分布式词向量; 然后采用浅层卷积神经网络, 通过多个卷积核学习教学评价的语义, 引入不同类别评论的数量设计影响因子, 归一化该影响因子并应用到交叉熵损失函数中; 最后基于Coursera平台的本科学生教学评论数据集, 通过与其他损失函数在F₁,gmean,balance,gmeasure等评价指标上进行性能对比实验. 实验结果表明, 基于归一法的特征偏移补偿损失函数在gmeasure指标上比基类损失函数得到了最多15.40%的性能提升, 并且采用该损失函数的分类模型也表现出较强的稳定性.     

基于新得分函数和对称交叉熵的复T-球形模糊QUALIFLEX法

针对属性权重完全未知或部分已知且评价信息为复T-球形模糊数的多属性决策问题,提出一种基于新得分函数和交叉熵的复T-球形模糊QUALIFLEX法。首先对现有的复T-球形模糊得分函数进行深入分析,提出了一种新的得分函数,解决了现有得分函数在某些情形下评分失效的问题。其次引入复T-球形模糊交叉熵及对称交叉熵的概念,给出一种基于复T-球形模糊对称交叉熵确定属性权重的方法。最后应用QUALIFLEX法确定备选方案的排序,并通过算例和对比分析验证了所提方法的有效性。     

基于注意力机制的细粒度图像分类

针对细粒度图像分类中数据分布具有小型、非均匀和不易察觉类间差异的特征,提出一种基于注意力机制的细粒度图像分类模型.首先通过引入双路通道注意力与残差网络融合对图像进行初步特征提取,然后应用多头自注意力机制,达到提取深度特征数据之间细粒度关系的目的,再结合交叉熵损失和中心损失设计损失函数度量模型的训练.实验结果表明,该模型在两个标准数据集102 Category Flower和CUB200-2011上的测试准确率分别达94.42%和89.43%,与其他主流分类模型相比分类效果更好.     

基于联合损失函数的小规模数据人脸识别

小规模数据人脸识别的难点在于数据量少而变化多,直接用深度神经网络进行训练易出现过拟合现象.针对此问题,本文提出了基于联合损失函数的小规模数据人脸识别算法,即利用联合损失函数,在基于Softmax损失函数的大规模公开人脸数据集上得到的预训练模型上重新训练.该方法既能充分使用模型参数,也能够提高模型的特征表征能力.除此之外,本文中还使用了传统特征后处理方法进行对比评估,证明了该方法在小规模人脸数据集上的有效性.实验表明,本文方法能大幅度提高模型在学校新生人脸数据集的检索精度.