基于伪数据的机器翻译质量估计模型的训练

为向基于深度学习的机器翻译质量估计模型提供高效的训练数据, 提出面向目标数据集的伪数据构造方法, 采用基于伪数据预训练与模型精调相结合的两阶段模型训练方法对模型进行训练, 并针对不同伪数据规模设计实验。结果表明, 在构造得到的伪数据下, 利用两阶段训练方法训练得到的机器翻译质量估计模型给出的得分与人工评分的相关性有显著的提升。     

卡口场景下人脸检测模型的自适应重训练算法

卡口场景下的人脸检测是视频智能监控的关键技术.然而,由于不同的人脸数据集的样本分布之间存在差异,在现有公开数据集上训练得到的人脸检测模型在卡口场景下难以取得令人满意的效果.为了解决上述问题,构建了一个卡口场景下的人脸数据集,并提出了一种简单且有效的模型重训练方法.该重训练方法能在模型检测人脸时,自适应地选取新的训练样本进行模型的重训练.在卡口场景测试集上的实验结果表明,该重训练方法能明显降低聚合通道特征模型的平均漏检率.     

基于MLP神经网络的优化跌倒检测模型研究与实现

该文以多层感知器（Multilayer Perceptron,MLP）神经网络模型为基础,提出了一种高效快速的跌倒检测多层感知模型（Fall Detection Multilayer Perceptron,FDMLP）。该模型基于公开的姿态数据集进行特征强化和标签分类,得到特征值数据集进行训练;通过学习率范围测试确定初始学习率的上下边界值,设置学习率随迭代数次进行指数衰减优化训练过程采用全整数量化的优化策略,将量化后的模型部署到嵌入式设备的Flash中,实现低功耗、高准确率的边缘计算。实验结果显示该文提出的FDMLP神经网络跌倒检测模型在使用特征数据集时候的准确率达99.99%,优于其他同类模型,且结构简单,适合部署在边缘设备上。     

基于并列GRU分类模型的日志异常检测方法

为了能够更有效地检测出系统日志的异常,该文对现有基于深度学习的日志异常检测算法Deeplog进行了研究和改进,提出一种基于并列门循环单元(Gate recurrent unit, GRU)分类模型的日志异常检测方法。该方法包含模型训练阶段和异常检测阶段。在训练阶段,利用日志模板解析器解析原始日志数据集中的日志模板,进而生成日志模板滑动窗口数据集和相应的日志模板频度向量集,并作为输入训练成并列GRU分类模型;在检测阶段,利用并列GRU分类模型,对进程日志序列进行异常检测。试验结果表明,该文提出的异常检测方法比现有方法在查全率、调和分数等评价指标上均有明显改善和提升。     

面向边缘计算的轻量化外力破坏目标检测算法

针对在复杂边缘计算场景下外力破坏目标检测识别精度低与实时性差的问题,提出YOLO-ERFA轻量化目标检测算法。该算法采用跨阶段残差结构的CSPDarkNet53-Tiny作为特征提取网络,在保证模型轻量化的同时提高检测准确率;在此基础上,通过改进空间金字塔池化并融合高效通道注意力机制构建特征增强层以提升模型精度和对多尺度目标的检测能力,并在训练阶段使用改进的Mosaic算法增加样本背景虚化以提高模型在复杂场景下的抗干扰能力。实验结果表明,该方法在测试集上检测平均准确率达到了91.58%,在Jetson TX2平台推理速度达30 FPS,且模型内存大小仅为26.50 MB,提高了算法在边缘计算设备上部署的可行性。     

基于优化损失函数的YOLOv2目标检测器

针对基于深度学习的单阶段目标检测器在训练过程中的样本不均衡问题,设计了一种新型的基于Softmax分类的动态调制交叉熵损失函数。此损失函数能够高效地降低训练过程中的易分负样本的损失权重,相应地提高困难样本的损失权重,从而可以使模型的整个训练过程变得高效。将基于Softmax分类的动态调制交叉熵损失函数代替标准的交叉熵损失函数用于YOLOv2训练中关于类别预测的损失计算,能够一定程度上提升YOLOv2的检测准确率。     

CWGAN-DNN：一种条件Wasserstein生成对抗网络入侵检测方法

针对现有的基于机器学习的入侵检测系统对类不平衡数据检测准确率低的问题,提出一种基于条件Wasserstein生成对抗网络(CWGAN)和深度神经网络(DNN)的入侵检测(CWGAN-DNN).CWGAN-DN N通过生成样本来改善数据集的类不平衡问题,提升对少数类和未知类的检测效率.首先,通过变分高斯混合模型(VGM)对原始数据中的连续特征进行处理,将连续特征的高斯混合分布进行分解;然后利用CWGAN学习预处理后数据的分布并生成新的少数类数据样本、平衡训练数据集;最后,利用平衡训练集对DNN进行训练,将训练得到的DNN用于入侵检测.在NSL-KDD数据集上进行的实验结果表明:利用CWGAN生成的数据进行训练,DNN的分类准确率和F1分数提升了5％,AUC下降了2％;与其他类均衡方法相比,CWGAN-DNN的准确率至少提升了3％、F1分数和AUC提升了1％.     

基于注意力机制和双向长短期记忆网络的电能质量扰动识别

提出一种基于深度学习的电能质量扰动信号分类新方法.该方法应用注意力机制和双向长短期记忆网络构建分类模型,并利用Matlab仿真产生训练数据集与验证数据集.考虑了7种常见的复合扰动信号,并将其作为序列数据直接输入到网络中进行训练和验证.实验结果表明,本方法能准确地识别不同的扰动信号,在验证集上模型的识别准确率可以达到99...     

融合特征增强模块的小样本农业害虫识别

基于深度学习的图像识别技术在具体应用前必须先经过大量带标签样本的训练,然而在实际场景中目标域样本可能非常稀缺,小样本图像识别技术应运而生.为了提升小样本场景下的图像识别准确率,本文提出一个通用的两阶段训练模型以融合现行主流方法并增强其表现.首先,针对训练时不同害虫种类背景相似度过高的问题提出融合双注意力机制的特征加强模块;其次,针对小样本情况下预测可能产生的过拟合问题提出基于高斯分布的特征生成模块以提高泛化能力;最后,将三种典型小样本识别方法统一成两阶段训练模型以融入提出的方法.将该思路及改进首次应用于传统害虫分类数据集IP102,识别准确率可以在基准方法上取得2.11%到6.87%的提升.为了进一步验证本文方法的有效性,在小样本领域公开数据集Mini Imagenet也进行了相应的实验,提升效果同样显著.     

基于改进YOLOv5的车辆目标检测研究

针对现有目标检测算法在自动驾驶等领域的车辆目标检测中存在检测精度不高,实时性和鲁棒性较差等问题,本文提出一种基于YOLOv5的车辆目标检测方法.本文在YOLOv5s网络模型框架下,引入一次性聚合（OSA）模块优化主干网络结构,提升网络特征提取能力;并采用非局部注意力机制进行特征增强;同时利用加权非极大值抑制方法实现检测框筛选.实验结果表明,在自制车辆检测数据集上,改进网络模型与原YOLOv5s模型相比,平均准确率均值（mAP）提升3%,不同目标类检测的平均准确率（AP）均得到提升,且检测速度满足实时性要求,对于密集车辆和不同光照条件下均能较好实现车辆目标检测.     

基于对比学习的暴力检测算法研究

针对现有暴力检测模型实际部署中存在数据标注成本高,提出基于对比学习的半监督模型训练框架,利用对比学习训练模型的表征能力,对比样本采用基于速度和基于全局和局部对比生成方式,对比框架在大量正负样本对比基础上增加正例样本间对比数量,同时利用伪标注对模型进行微调。实验结果显示,对比学习能够帮助模型在RWF2000和RVLS 5%训练数据下提升了3.9%,2.55%准确率,微调阶段能在RWF2000 25%训练数据下帮助模型进一步提升约3%准确率。     

基于对比学习思想的多跳问题生成

针对获取大规模的多跳问答训练数据集耗时耗力的问题,提出一个基于对比学习思想的多跳问题生成模型.模型分为生成阶段和对比学习打分阶段,生成阶段通过执行推理图生成候选多跳问题,对比学习打分阶段通过一个基于对比学习思想的无参考问题的候选问题打分模型对候选问题进行打分排序,并选择最优的候选问题.该模型在一定程度上缩小了无监督方法与人工标注方法的差距,有效缓解了缺少多跳问答数据集的问题.在数据集HotpotQA上的实验结果表明,基于对比学习的多跳问题生成模型能有效扩充训练数据,极大减少了人工标注数据的成本.     

多策略切分粒度的藏汉双向神经机器翻译研究

现有的机器翻译模型通常在词粒度切分的数据集上进行训练,然而不同的切分粒度蕴含着不同的语法、语义的特征和信息,仅考虑词粒度将制约神经机器翻译系统的高效训练.这对于藏语相关翻译因其语言特点而显得尤为突出.为此提出针对藏汉双向机器翻译的具有音节、词语以及音词融合的多粒度训练方法,并基于现有的注意力机制神经机器翻译框架,在解码器中融入自注意力机制以捕获更多的目标端信息,提出了一种新的神经机器翻译模型.在CWMT2018藏汉双语数据集上的实验结果表明,多粒度训练方法的翻译效果明显优于其余切分粒度的基线系统,同时解码器中引入自注意力机制的神经机器翻译模型能够显著提升翻译效果.此外在WMT2017德英双语数据集上的实验结果进一步证明了该方法在其他语种方向上的适用性.     

基于深度神经网络剪枝的两阶段遥感图像目标检测

在高分辨率遥感图像目标检测中,受云雾、光照、复杂背景、噪声等因素影响,现有目标检测方法虚警率高、速度慢、精确度低.为此提出基于深度神经网络剪枝的两阶段目标检测(object detection based on deep pruning,ODDP)方法.首先,给出深度神经网络剪枝方法,基于深度神经网络剪枝分别提出自主学习区域提取网络算法与优化训练分类网络算法;然后,将上述两算法用于卷积神经网络,得到两阶段目标检测模型.实验结果表明,在NWPU VHR-10高分辨率遥感数据集上,相比现有目标检测方法,ODDP的检测速度和精度均有一定提升.     

基于深度学习的桃子检测研究

针对桃子生长环境复杂,不同光照等影响因素使得采摘机器人难以对桃子检测、识别和定位的问题,提出一种基于深度学习的桃子检测方法。在MTCNN基础上,通过对其结构优化调整并增加一分类模型,构建桃子检测模型。在桃子图像数据集上,应用多种数据增强技术对网络进行训练。综合考虑检测性能和速度,对比不同标签方式、不同输入大小和不同网络结构下的测试结果,优选出四阶段网络用于桃子检测。结果表明,该检测器对成熟桃子检测准确率为89.3%。     

基于联邦迁移学习的应用系统日志异常检测研究

迄今为止，基于日志的异常检测研究已经取得了很多进展，然而，在现实条件下仍旧存在两个挑战：（1） 是日志数据通常以“数据孤岛”形式储存在不同的服务器上，单一公司或组织的日志数据中异常样本量不足，且异常模式较为固定，很难通过这些数据训练出一个准确率高的检测模型. 为了解决这个问题，将不同来源的日志数据整合成更大的数据集可以提高模型训练的效果但可能会在数据传输过程中产生日志数据泄露问题；（2） 是不同应用系统类型的日志数据通常在结构和语法上存在差异，简单地整合并用于训练模型效果不佳. 基于以上原因，本文提出一种基于联邦迁移学习的日志异常检测模型训练框架LogFTL，该框架利用基于匹配平均的联邦学习算法，在保证客户端数据隐私安全的前提下于服务器聚合客户端的模型参数形成全局模型，再将全局模型分发给客户端并基于客户端的本地数据进行迁移学习，优化客户端本地模型针对自身常见异常行为的检测能力. 经过实验表明，本文提出的LogFTL框架在联邦学习场景下效果超过了传统的日志异常检测方法，同时也证明了该框架中迁移学习的效果.     

基于ERNIE-BiLSTM-DPCNN的微博长文本谣言检测

为了实现对于微博长文本谣言的检测,使用ERNIE模型对微博长文本数据使用词嵌入技术实现对文本的向量化,将这些词向量作为BiLSTM-DPCNN模型的输入,利用BiLSTM-DPCNN模型的特性,捕捉句子中的上下文信息和长期依赖关系,最终高效地提取特征并进行分类.数据集通过五折交叉验证方法划分,通过设置多组对比实验,实验结果显示：ERNIE-BiLSTM-DPCNN模型的准确率达到98.52%,高于在同一数据集下的其他同组实验,证明该模型对于微博长文本谣言检测具有较好的效果.     

结合情感词典的主动贝叶斯文本情感分类方法

提出一种改进的结合情感词典的主动贝叶斯情感分类方法(SLAB).为了证明提出方法的有效性,选用康奈尔影评数据集和互联网电影资料库(IMDB)数据集作为实验数据,并与基于不确定性采样策略的主动学习方法进行比较.结果表明:文中提出的方法在较少的标注训练集下,能够取得更高的分类准确率,一定程度上解决了基于不确定性采样策略的主动学习方法中的误差累积问题.     

基于边界检测和骨骼提取的显著性检测网络

目前一些方法通过多任务联合实现显著性检测，在一定程度上提升了检测精度，但仍存在误检和漏检问题，其原因在于各任务优化目标不同且特征域差异较大，导致网络对显著性、物体边界等特征辨识能力不足．基于此，借助边界检测和骨骼提取提出一种多任务辅助的显著性检测网络，其包括特征提取子网络、边界检测子网络、骨骼提取子网络以及显著性填充子网络．其中，特征提取子网络利用ResNet101预训练模型提取图像的多尺度特征；边界检测子网络选择前3层特征进行融合，可完整保留显著性目标的边界信息；骨骼提取子网络选择后两层特征进行融合，可准确定位显著性目标的中心位置；所提方法基于边界检测数据集和骨骼提取数据集分别对两个子网络进行训练，保留最好的边界检测模型和骨骼提取模型，作为预训练模型辅助显著性检测任务．为降低网络优化目标与特征域之间的差异，设计了显著性填充子网络将提取的边界特征和骨骼特征进行融合和非线性映射．在4种数据集上的实验结果表明，所提方法能有效恢复缺失的显著性区域，优于其他显著性目标检测方法．     

基于区域卷积网络的行驶车辆检测算法

为解决多种天气与多种场景下主干道路行驶车辆检测存在的实时性、泛化能力差、漏检、定位不准确等问题,研究了基于TensorFlow深度学习框架的区域卷积神经网络(Faster R-CNN)算法,通过引入VGG16神经网络模型,优化ROI Pooling Layer,并采用联合训练方法,得到改进的算法模型。采用UA_CAR数据集进行模型训练,实现行驶中的车辆检测,测试结果与优化前Faster R-CNN比较,MAP提高了7.3个百分点,准确率提高了7.4个百分点,检测用时0.085 s,提高了对多种环境与场景的适应性。