基于Faster-RCNN的遥感图像飞机检测算法

CCCV2017发布遥感图像飞机数据集,用于评测飞机检测算法.针对该遥感图像数据集中的飞机朝向不确定、图像覆盖范围广、图像背景复杂度高,导致飞机检测难度大、检测算法准确率和算法泛化能力低等问题,提出了基于Faster-RCNN的飞机检测改进算法.首先,通过对图像采用翻转以及角度旋转等方式对数据集进行合理的扩增;然后,在扩增后的数据集上,使用深度残差网络对图像进行特征提取,针对数据集中飞机目标的长宽比特点优化区域建议网络;同时,为了防止训练集中正负样本不均衡,采用在线困难样本挖掘方法对数据进行训练.在CCCV2017数据集上评估表明,改进后的Faster-RCNN算法极大提高了初始的Faster-RCNN算法性能,在测试集上m AP达到了89.93%.在NWPUVHR-10、NWPU-RESISC45、UCAS-AOD遥感图像飞机数据集测试表明,该改进模型同样具有良好的性能,从而验证了该模型具有良好的鲁棒性和泛化能力.     

一种基于多分类器协同训练的网络异常检测方法

基于机器学习的网络异常检测方法是入侵检测领域的重要研究内容.传统的机器学习方法需要大量的已标记样本对分类器进行训练,然而已标记样本通常较难获取,导致分类器训练困难;此外单分类器训练面临难以消除的分类偏向性和检测孔洞.针对上述问题,本文提出了一种基于多分类器协同训练的异常检测方法MCAD,该方法利用少量的已标记样本和大量的未标记样本对多个分类器进行协同训练,以减少分类的偏向性和检测孔洞.对比实验采用经典的网络异常检测数据集KDD CUP99对MCAD的异常检测性能进行验证。实验结果表明,MCAD有效地降低了检测器训练代价,提高了网络异常检测性能.     

基于SNGAN的黑盒恶意软件对抗样本生成方法

目前，为了应对数以百万计的Android恶意软件，基于机器学习的检测器被广泛应用，然而其普遍存在防对抗攻击能力差的问题，对恶意软件对抗样本生成方法的研究有助于促进恶意软件检测领域相关研究的发展.黑盒场景下的对抗样本生成技术更加符合现实环境，但相较于白盒场景效果不佳.针对这一问题，本文提出了一种基于SNGAN的黑盒恶意软件对抗样本生成方法，将图像领域的SNGAN方法迁移到恶意软件领域，通过生成器网络和替代检测器网络的迭代训练生成对抗样本，并通过谱归一化来稳定训练过程.该方法能够对已有的恶意软件添加扰动，达到欺骗机器学习检测器的效果.实验结果证明，该方法对多种机器学习分类器均可以有效规避检测，验证了方法的可行性和可迁移性.     

一种基于同类融合的工业数据扩充算法

在基于深度网络的工业板材表面缺陷检测应用中,缺陷图像的类别不平衡和数量不足严重制约了深度网络的应用性能.为了解决此问题,提出一种基于同类融合的工业数据扩充方法以丰富表面缺陷图像训练集.首先根据缺陷特征将表面缺陷图像集中的样本进行分类,随机选择属于同一类别的多个样本执行融合操作以扩充数据量和丰富样本类型,然后将原始数据和扩充的人工数据组合起来作为新训练集,以提升模型分类和检测的能力.以实际生产中采集的钢材表面缺陷图像进行实验,并与生成算法扩充的样本进行比较.实验结果表明,该算法不仅在扩充表面缺陷图像质量上超过了卷积生成对抗网络(DCGAN)和循环一致生成对抗网络(CycleGAN)等生成算法,并在缺陷目标分类和检测任务上取得了更有效的扩充效果.     

基于深度神经网络的入侵检测方法

为改善传统机器学习技术解决海量网络数据和复杂入侵模式对信息网络的入侵检测的不足,提出一种基于深度神经网络的入侵检测方法.采用神经元映射卷积神经网络(NPCNN)为网络结构,使用较少的连接和参数,具有易于训练和泛化能力强等优点.在训练过程中,使用Re LU激活器作为非线性激活函数,采用Adam算法进行模型学习,从而避免了传统深度网络须进行预训练的过程.在NSL-KDD数据集上的实验结果表明:提出的方法较基于传统机器学习的入侵检测方法具有良好的特征表征学习和分类能力,且随着数据量的增大,模型的分类精度有较大的提升.     

基于SMOTE和机器学习的网络入侵检测

网络入侵检测已经广泛运用机器学习模型,但是研究者们多关注模型选择和参数优化,很少考虑数据不平衡的影响,往往会导致少数类入侵样本的检测效果较差.针对该问题,以SMOTE （synthetic minority oversampling technique）数据再平衡算法为研究重点,应用入侵检测数据集KDD99作为原始训练集,使用简单抽样和SMOTE算法生成再平衡训练集.采用多种机器学习模型分别在原始训练集和再平衡训练集进行5折交叉验证.实验结果表明,与原始训练集相比,使用再平衡训练集建模能够在不降低甚至提高多数类样本识别效果前提下,使少数类样本的识别准确率和召回率增强10%～20%.因此,SMOTE算法对不平衡样本下的网络入侵检测有显著的提升作用.      

基于改进加权多源TrAdaBoost算法的无参考图像质量评价方法

基于机器学习的无参考图像质量评价方法依赖于大量训练样本,但训练数据集的构建需要耗费大量人力物力。依据迁移学习理论,面向上述问题,首先提出了一种基于改进加权多源TrAdaBoost(weighted multisource TrAdaBoost,WMTrA)算法。算法的无参考图像质量评价算法采用权重自动更新方式,挖掘辅助图像库中的有价值样本,只需少量目标图像库样本便可以建立准确的图像质量评价模型;然后,将它应用到无参考图像质量评价方法上,检测了其效果。在JPEG,JPEG2000失真图像上的评价结果表明,相比于传统机器学习算法,本文方法能够有效利用现有辅助数据集,减少对目标数据集的数量要求,是一种具有实用性的无参考图像质量评价方法。     

航拍图像车辆检测的数据增强

为快速增加车辆航拍图像的训练数据以提高检测模型的精度,从而提高车辆检测的准确度,提出了一种新的数据增强方法,将数据增强技术应用于提高无人机航拍图像中的车辆检测性能,并提出一套通用工作流和一种新的生成数据增强方法。工作流由Pluralistic Image Completion生成器网络和Tiny YOLOv3检测器网络组成,分别用于新训练数据的生成和边框标注,同时也要均衡考虑相关的性能指标。生成数据增强方法包括训练阶段和增强阶段。训练阶段涉及对生成器网络和检测器网络的分别训练。增强阶段使用生成网络生成新样本,并使用检测器评估这些样本进行增强的可行性。评估后确定可行的样本组成增强训练数据集,用于之后的检测器训练。该方法只需要在训练数据集中对车辆对象加上边界框标注,并不需要任何额外的监督;且允许用更多数量的实例来训练检测器,尤其是在训练实例数量有限的情况下,以此提高车辆检测性能;同时,该方法可以与不同的生成器集成,具有一定的通用性。试验结果表明：在与Pluralistic和DeepFill集成时,该方法可使其平均精度分别提高25.2%和25.7%。     

融于图像多特征的路面裂缝智能化识别

路面裂缝形状不规则复杂程度高。传统路面裂缝识别技术需要对路面图像进行复杂预处理工作进行识别,不能自动化对路面裂缝图像进行分类。为提高对路面裂缝识别精度和效率,本文将基于深度学习方法提出一种自动识别路面裂缝并能减少图像预处理工作量的方法。首先,将原始图像切割为小样本图像,根据图像多特征进行分类,各选取相同类型样本2000张图像构建数据集;其次,利用双线性内插法对裁剪后图像进行上采样,凸显图像特征便于神经网络学习;最后,使用深度学习神经网络对训练样本进行特征提取训练模型。实验结果表明：ResNet101模型评估指标均优于其他深度学习模型和机器学习模型,模型测试精度达0.898,kappa系数为0.815。     

基于Transformer神经网络模型的网络入侵检测方法

网络入侵检测一直以来都是网络安全中亟待解决的关键任务之一,传统网络入侵检测方法主要通过提取多维特征,采用机器学习方法构建检测模型,大多忽略了入侵行为的时间相关性.通过提取网络入侵行为的时序特征,设计基于降维特征的多头自注意力机制Transformer网络模型,以解决传统串行化时序神经网络模型不易收敛且时间开销较大的问题,通过选取最优的损失函数和训练参数进行并行化训练,实现网络入侵行为检测.实验结果表明,基于Transformer网络模型的网络入侵检测方法在多个数据集上均获得了99％以上的精度和检出率.     

基于生成对抗网络的肺结节良恶性诊断算法

针对实性肺结节CT影像数据量少、人工标注耗时耗力等问题,提出一种结合生成对抗网络和集成学习的实性肺结节良恶性计算机辅助诊断方法.首先,使用基于梯度惩罚的生成对抗网络对肺结节CT影像数据集进行扩充,缓解由数据量少、样本类别不均衡导致的模型过拟合.然后,利用卷积神经网络进行CT影像特征提取,并通过主成分分析对深度特征进行降维.最后,联合CT图像特征和有效临床信息,采用集成学习方法构建分类模型预测实性肺结节良恶性.基于多中心临床数据分析表明,相比于传统卷积神经网络模型,所提出方法有更好的预测性能.     

基于卷积神经网络-双向长短期记忆网络的人体活动识别方法

针对人体活动传感器数据的时序性特点,以及当前机器学习算法过度依赖手工特征提取的问题,提出了一种融合卷积神经网络和双向长短期记忆网络的深度学习模型(convolutional neural network-bidirectional long short term memory network,CNN-BiLSTM)进行...     

基于迁移学习和支持向量机的白细胞分类

针对人工镜检分类白细胞准确率和效率低的问题,基于深度学习和机器学习算法,提出了一种基于迁移学习和支持向量机的白细胞分类方法.首先对迁移模型进行微调训练,其次用微调训练后的迁移模型进行特征提取,然后将特征输入至神经网络和支持向量机中进行训练,最后通过神经网络和支持向量机的组合分类器对白细胞进行分类.实验结果表明,白细胞分类准确率由最初微调训练的83.26％,随着迁移模型的优化提升为90.43％,最后通过组合分类器再次提升为93.52％,可以在临床实践中帮助医生提高诊断的准确率和效率.     

基于ME-ANet模型的糖尿病视网膜病变分级

糖尿病视网膜病变(Diabetic Retinopathy，DR)是一种致盲率很高的眼科疾病。不同病变等级的视网膜图像之间差异小且病灶点分布无规律。针对现有深度模型对DR中的相似病灶点识别率低，严重影响模型分类精度的问题，本研究以深度学习为基础，构建新的模型架构进行训练，提出一种集成MobileNetV2和EfficientNetB0深度模型的注意力网络：ME-ANet。模型集成分为头部和主干两部分，将深度模型的浅层部分融合构成网络的头部，训练时采用迁移学习的策略对网络模型参数进行初始化，减少训练中的过拟合问题。主干部分利用上述两种模型的核心结构，设计3个阶段集成模块进行特征提取。同时设计全局注意力机制(Global Attention Mechanism，GAM)并分别嵌入到3个阶段的集成模块中。模型的改进加速了网络的收敛速度，该网络模型实现了对图像浅层信息的特征融合提取，减少了微病灶特征信息在训练过程中的卷积丢失问题，模型的分类精度进一步得到改善。通过模型集成构建特征提取主干网络，提高了模型对低级特征信息的学习，注意力机制抑制非病变特征信息，强化典型病灶特征学习，从而实现细粒度分类，进一步提升了模型的分类性能。     

基于深度卷积神经网络的三维模型识别

为了进一步提高三维模型的识别精度,提出了一种基于深度卷积神经网络的三维模型识别方法。将点云数据通过占用网格规范化计算转化为二值3D体素矩阵,通过附加正则化项的随机梯度下降算法提取体素矩阵的特征,再通过共享权重的旋转增强对训练集进行数据增广并以此对模型标签进行预测。实验结果表明,该算法在公开数据集ModelNet40及悉尼城市模型数据集上的识别精度均达到85%左右。与基于同类机器学习的三维模型识别算法相比,在相同训练数据集上该方法网络训练时间短,在相同测试数据集上模型识别准确率高,检索速度快。提出的体素占用网格模型的深度卷积神经网络,可以实现三维点云模型数据集及规范化体素模型数据集的识别和分类工作。     

非监督特征学习方法在脑电身份识别中的应用

设计并实现了采用非监督特征学习方法对模拟阅读事件相关电位实验中多名受试者脑电信号的特征提取,并对提取的特征向量进行了模式分类.实验中共采集5名受试者脑电信号,每名受试者的特征样本集由其接受模拟阅读靶视觉刺激后100⁴00ms在通道PO3、O1、Oz、O2、PO4、P4、P8、CP6的脑电信号样本组成,各受试者样本集均含400个试次样本.非监督特征学习过程由含6个神经节的BP神经网络完成,后选用支持向量机作为分类器.对比了1试次,2试次、5试次、10试次样本叠加等几种不同情况下采用非监督特征学习方法提取特征的分类正确率.实验结果表明:采用多神经节人工神经网络对5名使用者5试次叠加信号样本提取的特征向量的分类正确率高于90%,显著优于对各单通道时域特征向量的分类正确率,该方法可为以脑电信号为特征的身份识别系统提供一种可行的特征提取方式.     

基于BERT的因果关系抽取

针对传统关系抽取模型依赖特征工程等机器学习方法, 存在准确率较低且规则较繁琐等问题, 提出一种BERT+BiLSTM＋CRF方法. 首先使用BERT(bidirectional encoder representations from transformers)对语料进行预训练; 然后利用BERT根据上下文特征动态生成词向量的特点, 将生成的词向量通过双向长短期记忆网络（BiLSTM）编码; 最后输入到条件随机场（CRF）层完成对因果关系的抽取. 实验结果表明, 该模型在SemEval-CE数据集上准确率比BiLSTM+CRF+self-ATT模型提高了0.054 1, 从而提高了深度学习方法在因果关系抽取任务中的性能.     

基于多注意力机制的端到端滚动轴承故障诊断方法

针对传统滚动轴承故障诊断中复杂的特征提取问题，利用深层残差网络能够增强诊断模型非线性表征能力的特点，通过引入通道注意力与空间注意力机制，提出一种基于多注意力机制端到端的滚动轴承智能故障诊断方法。首先，通过原始振动加速度信号经过积分运算得到速度和位移；然后，将3者组合成具有特征增强的图像，输入至结合了多注意力机制的深层残差网络实现特征提取；最后，利用多分类函数完成滚动轴承故障分类。在本地实验室轴承数据集上进行了验证，结果表明，所提方法的诊断准确率达到了97.50%。验证了基于多注意力机制端到端的滚动轴承智能故障诊断方法的可行性和有效性，可为滚动轴承的精确故障诊断提供支持。     

基于粒子群算法的多尺度反卷积特征融合的道路提取

研究基于传统FCN算法下的不同比例的多尺度特征融合对于复杂场景下道路提取准确度的提高.针对复杂的航拍道路场景,设计了针对于农田环境下的FROBIT农田道路数据集,并使用全卷积神经网络（FCN）对FROBIT农田道路数据集和Massachusetts城市道路数据集进行道路提取工作.本文基于传统的FCN的网络,对其反卷积方式进行改进,采用粒子群算法（PSO）设计了不同比例的多尺度特征融合.通过将本文提出的Multi-Scale FCN网络与传统的FCN神经网络在FROBIT数据集和Massachusetts道路数据集上进行对比实验,结果表明Multi-Scale FCN网络相比于传统的FCN神经网络在提取精度上得到了提高.      

基于多层自动编码机的fisher判别分析

在常见的特征提取方法中,Fisher判别分析（Fisher Discriminant Analysis,FDA）只能提取线性特征,基于核的方法具有提取非线性特征的能力,但对核函数类型及其参数十分敏感. 文中研究如何有效提取数据特征,提出了一种基于多层自动编码机（Stacked AutoEncoders,SAE）和Fisher标准的特征提取算法,该算法中所使用的深度学习网络模型在训练过程中结合无监督特征提取SAE以及有监督的特征提取FDA. 通过与多层自动编码机、极限学习机（Extreme Learning Machine,ELM）等模型提取的特征进行对比,在数据集Pendigits、mnist、ORL和AR上利用支持向量机对数据特征进行分类,结果表明基于SAE的Fisher变换（FDA-SAE）在分类结果准确率以及分类时间上都有较好的效果. 特别是在小数据集AR上,当样本特征较少的情况下效果非常明显.