基于双重相似度孪生网络的小样本实例分割

针对孪生网络在小样本数据集上的应用和优化问题,提出一种基于双重相似度计算和孪生网络的小样本实例分割模型。首先对传统孪生网络进行改进,将孪生网络与残差网络相结合,构建作为本模型骨干网络的孪生残差网络;然后在相似度计算阶段构建了具有两个子网络的双重相似度计算网络,分别用于计算场景图像与参考图像的空域相似度和频域相似度,并进行相似度特征融合;最后通过实例分割网络获得分割结果。此外,还引入Focal Loss损失函数来解决模型训练过程中正、负样本以及难、易样本的不均衡问题。在COCO数据集上的实验结果表明,本文方法的小样本实例分割性能要优于对比算法。     

基于改进深度卷积生成对抗网络的入侵检测方法研究

针对入侵检测系统因采用的网络攻击样本具有不平衡性而导致检测结果出现较大偏差的问题,文章提出一种将改进后的深度卷积生成对抗网络(DCGAN)与深度神经网络(DNN)相结合的入侵检测模型(DCGAN-DNN),深度卷积生成对抗网络能够通过学习已知攻击样本数据的内在特征分布生成新的攻击样本,并对深度卷积生成对抗网络中生成网络所用的线性整流(ReLU)激活函数作出改进,改善了均值偏移和神经元坏死的问题,提升了训练稳定性。使用CIC-IDS-2017数据集作为实验样本对模型进行评估,与传统的过采样方法相比DCGAN-DNN入侵检测模型对于未知攻击和少数攻击类型具有较高检测率。     

基于改进RPN的孪生小样本电力目标检测

为了解决当前电力系统巡检难度大、效率低、数据不足以支撑大规模训练的问题,提出一种基于孪生网络的小样本检测方法。首先,在Faster RCNN(faster region convolutional neural network)目标识别算法的框架下,搭建支持图片和查询图片共享的孪生网络模型;然后,利用改进的RPN(region proposal network)模块产生更高质量的proposals;最后,在检测头上对支持图片和查询图片的RoI(region of interest)进行关联匹配。结果表明,将算法应用于自主构建的EPD(electric power detection)数据集,在仅利用10张支持图片的情况下,就能实现对电力背景下鸟巢异物和绝缘子相关类别的检测,检测指标mAP达到18.92%。与其他算法相比,应用于电力行业目标检测的孪生网络小样本模型,在极端小样本情况下性能优良,同时具有更加轻量化的优势,可为电力检测新方法研究提供参考。     

基于改进的半监督阶梯网络SAR图像识别

针对目前SAR(Synthetic Aperture Radar)图像中样本人工标记成本高、传统算法分类识别较低的情况,提出一种基于改进半监督阶梯网络(Semi-supervised Ladder Network,SSLN)的SAR图像分类识别方法 .首先在原SSLN模型的解码器网络中使用卷积神经网络代替全连接层,对编码器输出的每层数据进行全局深度特征提取,这样做有利于图像降噪,实现对输出数据的重构.其次,为解决SAR图像各类数据集分布不均衡的问题,同时提高网络的泛化性能,对阶梯网络训练层中各类别损失函数的权重进行优化,根据各类别样本数所占总样本数的比重,对少样本类别损失函数调高权重,对多样本类别损失函数调低权重.在公开数据集MSTAR(Moving and Stationary Target Automatic Recognition)上的实验表明,改进后的半监督阶梯网络分类的识别准确度明显优于SSLN算法,且具有更好的泛化性.     

基于优化损失函数的YOLOv2目标检测器

针对基于深度学习的单阶段目标检测器在训练过程中的样本不均衡问题,设计了一种新型的基于Softmax分类的动态调制交叉熵损失函数。此损失函数能够高效地降低训练过程中的易分负样本的损失权重,相应地提高困难样本的损失权重,从而可以使模型的整个训练过程变得高效。将基于Softmax分类的动态调制交叉熵损失函数代替标准的交叉熵损失函数用于YOLOv2训练中关于类别预测的损失计算,能够一定程度上提升YOLOv2的检测准确率。     

基于Faster R-CNN深度学习的网络入侵检测模型

为了提高网络入侵检测性能,采用快速区域卷积神经网络(Faster region-convolutional neural network,Faster R-CNN)深度学习的方法来完成网络入侵检测。在网络上抓取网络数据包,数值化和归一化处理得到网络数据样本,通过卷积神经网络(Convolutional neural network,CNN)进行网络入侵数据特征提取,根据特征提取结果进行区域候选网络训练,生成多样化尺寸的基准矩形框,每个矩形框设置4个修正参数,根据修正参数及多个矩形框坐标,获得网络入侵样本的候选生成区域,最后采用分类回归网络训练,结合空间金字塔池化修正不同尺寸矩形框,并采用Softmax分类器,生成不同网络攻击类型的置信度,从而获得网络攻击类型分类结果。通过差异化设置CNN和区域候选网络训练时的卷积核尺寸和区域候选网络训练时的基准矩形框数目,验证合适样本集的卷积核尺寸和矩形框数目。结果表明,相比常用网络入侵检测算法,合理设置卷积核尺寸和基准矩形框数目,能够获得更高的网络入侵检出率和检测时间性能。     

二分类判别网络的对抗样本检测

在原始图像数据集中,添加特殊的细微扰动能形成对抗样本,经这类样本攻击的深度神经网络等模型可能以高置信度给出错误输出,然而当前大部分检测对抗样本的方法有许多前提条件,限制了其检测能力.针对这一问题,该文提出一个二分类判别网络模型,通过多层卷积神经网络来提取样本数据的主要特征; 应用特殊的判别目标函数,结合不同程度的噪声数据来训练并优化网络模型,以提高模型检测对抗样本的能力; 模型采用端到端的方式,可直接部署到目标模型的源样本中来检测对抗样本的存在,亦可进行大规模应用.实验结果表明:该模型的检测率优于其他相关模型.     

Prefix-LSDPM：面向小样本的在线学习会话退出预测模型

在线学习会话退出预测旨在准确预测在线学习过程中的学习会话退出，是智慧教育领域中十分重要的一项研究任务。针对现有模型在小样本场景下预测准确率较低的问题，提出了基于前缀提示的在线学习会话退出预测模型Prefix-LSDPM。该模型为获取单个学习行为内部特征及连续学习行为之间的隐含关联信息，在改进了键值向量的Transformer网络中对提示形式的合成序列进行掩码学习；为降低模型训练涉及的参数量以适应小样本学习，将学习会话退出预测任务建模形式靠近预训练任务，并在冻结的预训练参数基础上对提示参数进行调优。基于多个数据集的实验结果表明，Prefix-LSDPM的预测准确率优于现有模型，且在小样本学习中仍能达到较好的预测效果。     

一种基于孪生网络的图片匹配算法

随着卷积神经网络（Convolutional Neural Networks,CNN）的不断改进，基于CNN的图片匹配成为图像处理的关键，然而，许多基于CNN的图像相似度检测算法对图像特征的表达能力较差，且曼哈顿距离或欧式距离的计算方式导致在计算损失函数时模型不一定能很好地收敛.针对此问题，提出一种基于孪生网络和注意力机制的方法（CSNET）来提升图像匹配的性能，主要步骤如下：使用将激活函数改进为Mish函数的VGG16网络作为主干网络提取图像的特征，在模型的卷积层加入注意力机制模块（Convolutional Block Attention Module,CBAM），这提高了模型的特征提取能力和鲁棒性，保证训练可以收敛.对模型输入图片对的特征向量的欧氏距离，再利用网络全连接层输出的相似度分数来度量被检图片是否相似.将提出的CSNET与其他图片匹配方法在Omniglot和SigComp2011等数据集上进行比较，实验结果表明，CSNET能有效提高图像相似度匹配的准确性.     

基于深度学习的网络攻击检测

针对现有的网络攻击检测方法检测精度不高的问题,提出一种基于并行卷积神经网络的在线网络安全攻击检测方法.该并行的深度卷积神经网络一共包含2个深度卷积神经网络用于提取特征:CNN1和CNN2,然后通过全连接层两个特征提取层,并通过软最大化操作将网络攻击的检测转换为攻击的分类模型.采用KDD Cup99作为仿真数据集,并采用训练数据来对深度模型进行训练,当模型的训练误差小于一定阈值时,采用测试数据进行测试.结果表明:将本文所提方法与文献[8]以及文献[9]所提的卷积神经网络进行比较,其结果表明了所提方法不仅具有较高的检测准确率而且具有较低的误报率上.     

拆分降尺度卷积神经网络入侵检测方法

针对卷积神经网络模型待训参数量过大、多层网络导致特征和梯度消失等问题,论文提出了一种基于拆分层和Inception-ResNet的卷积神经网络模型用于入侵检测。首先将网络流量数据转化为具有空间相关性的图像以适用于卷积神经网络的输入;然后使用Inception-ResNet卷积层增加网络深度,减少模型训练参数数量以及消除梯度消失问题,拆分层在降低图像尺度时基本保持图像原有分类特征;最后采用NSL-KDD数据集对改进模型进行训练和测试。测试结果表明,改进模型相对于Inception-ResNet模型具有更高的检测准确率和少数类样本召回率以及更好的训练时间性能。     

基于深度卷积神经网络的脑电图异常检测

为解决EEG自动检测的错误率非常高的问题,提出了一种基于深层卷积神经网络(CNN)对脑电图进行异常检测的方法:首先,对多个异构数据源按标准进行重构和预处理,生成了有118 716个样本的训练集和有12 022个样本的测试集;然后,构建有快捷连接的深层CNN模型,以自动化学习ECG特征并进行分类识别; 接着,将模型在训练集上进行试验与调参,保存了性能最好的模型参数; 最后,在测试集上进行预测.预测结果显示该模型达到了94.33%的分类准确率.通过所提方法对脑电信号进行处理与分析,能够自动提取EEG特征并进行异常识别,从而达到快速检测与辅助诊疗的目的.     

基于Softmax函数增强卷积神经网络-双向长短期记忆网络框架的交通拥堵预测算法

对交通状态进行预测,就需要准确识别和判断交通状态。该文没有采用传统的以车辆速度为基准的预测方法,而是使用TTI交通拥堵系数,该系数的计算基于道路自身的自由流速度,可以让具有不同速度等级的街道都统一到TTI系数上来作为拥堵评价,因此相较以传统的车辆速度为基准的预测方法更能表现出道路的拥堵状态。该文提出了一种改进的深度学习预测模型（CS-BiLSTM）,该模型基于卷积神经网络（CNN）和双向长短期记忆网络（BiLSTM）,并结合Softmax函数增强CNN提取出的交通空间特征信息。深度学习预测模型（CS-BiLSTM）中的S代表的就是Softmax的缩写。使用成都市出租车GPS数据进行验证,结果表明,所提出的CS-BiLSTM模型具有更高的准确性,其性能相比C-BiLSTM网络预测框架提升了13%。     

融合RepVGG的YOLOv5交通标志识别算法

准确检测交通标志已成为自动驾驶不可或缺的任务之一。基于现实场景中小而密集的交通标志,传统方式检测交通标志存在精度较低这一缺陷。针对此问题,提出一种融合RepVGG模块的改进YOLOv5的交通标志识别算法。首先将原算法的部分CBS模块替换为RepVGG模块,加强特征提取能力。并在Neck层融合CBAM注意力机制,强化检测模型的抗干扰能力。最后,在网络训练过程中,使用EIOU损失函数来弥补GIOU损失函数的不足,提高算法的检测精度与迭代速度。实验结果表明,改进后的YOLOv5算法,迭代速度更快,在CCTSDB交通标志数据集上的P、R、mAP值分别达到91.55%、85.04%、91.71%,相比YOLOv5算法能够更好的应用到实践当中。     

基于灰狼算法优化深度学习网络的网络流量预测

针对深度学习网络在网络流量预测建模过程中的参数优化难题, 以改善网络流量预测结果为目标, 提出一种基于改进灰狼算法优化深度学习网络的网络流量预测模型. 首先, 收集网络流量历史数据, 并对数据进行相空间重构、 归一化等预处理; 其次, 引入灰狼算法快速搜索到全局最优深度学习网络的相关参数, 并根据最优参数对预处理后的网络流量历史数据进行学习, 建立能挖掘网络流量历史数据变化规律的预测模型; 最后, 与其他算法优化深度学习网络的网络流量预测模型进行对比分析. 实验结果表明, 基于改进灰狼算法优化深度学习网络的网络流量预测精度超过90%, 远高于其他对比模型, 且预测建模过程的建模时间少于对比模型, 可满足网络流量管理的高精度和实时性要求.     

基于自适应神经网络的云资源预测模型

为了避免容器云资源因资源供求不均衡而导致的资源利用率差等问题,需要对未来时刻的资源需求情况进行预测来进行更精准的调度和分配资源,因此,结合神经网络的高效学习能力与自适应调整的学习率,提出一种基于自适应神经网络的云资源预测模型。首先,融合卷积神经网络(convolutional neural network, CNN)和长短期记忆(long short-term memory, LSTM)网络的特点去挖掘历史数据的特征,预测未来的资源需求;然后,根据模型预测情况自适应调整学习率,提高模型预测的精度。使用Microsoft Azure公开数据集进行测试,相较于单一模型CNN、LSTM和未加入自适应学习率的神经网络模型,均方根误差分别下降了17.74%、18.27%和6%,证明了模型的有效性。     

基于多源大数据融合的银行网点选址方法

针对传统银行网点选址方法中存在的人为主观因素较大、数据量支撑不够、考虑因素理想化等问题,提出一种基于多源大数据融合的银行网点选址方法。该方法通过多源数据构造人流量、交通拥堵指数、用户价值、周边竞争网点数和人均收入5个基础特征,并利用协同训练的半监督学习方法扩充训练集。基于基础特征与机器学习算法构建多个子模型,将子模型的输出概率作为特征,构建基于逻辑回归的集成算法,作为银行网点选址模型,同时提出一种优化银行网点权重的损失函数,以保证模型预测中更佳的银行网点具有更高的权重。通过实验分析表明,该算法相较于传统算法预测评估更为准确,能够很好地解决银行网点选址问题。     

一种基于深度强化学习的SDN路由算法

为解决软件定义网络(SDN)中的流量工程(TE)问题,提出了一种深度强化学习路由(DRL-Routing)算法.该算法使用较全面的网络信息来表示状态,并使用一对多的网络配置来进行路由选择,奖励函数可以调整往返路径的网络吞吐量.仿真结果表明,DRL-Routing可以获得更高的奖励,并且经过适当的训练后,能使各交换机之间获得更优的路由策略,从而增大了网络吞吐量,降低了网络延迟和数据丢包率.