基于自注意力机制的网络流量异常检测方法

网络中异常流量的有效检测对网络安全至关重要.以机器学习方法为主的异常流量检测技术,对流量数据采用特征选择方法进行降维并提取最优特征,但容易忽略数据特征之间的关联性,存在异常流量的检测率低、误报率高等问题.为了提高异常流量检测性能,论文在提取流量数据特征的过程中引入自注意力机制进行相关性学习,并结合深度卷积神经网络提出一种有效的网络流量异常检测模型.实验结果表明：通过引入自注意力机制,论文所提出的检测方法能够提取更准确的流量特征,并使得异常流量检测率高、误报率低.     

基于融合多注意力机制的深度学习的盾构荷载预测方法

盾构荷载作为盾构的主要性能指标,准确的荷载预测对于保证盾构安全高效工作和周边环境稳定具有重要意义.鉴于传统预测方法精度差的局限性,本研究以数据的高维度特征和时序特征为切入点,提出一种结合卷积神经网络、双向长短期记忆神经网络和注意力机制的混合模型(CNN-BiLSTM-Multiattention, CBM),对盾构荷载进行精准预测.该模型不仅可以提取数据的高维度特征和时序特征,还能突出高维度特征的重要性和关键时间节点信息.通过实验证明了相较于4种现有的模型,本文所提出的模型在3种评价指标上均优于其他模型,对推力和扭矩预测的准确率达到94.2%和96.2%.     

基于注意力机制的水下目标检测算法

针对传统水下目标检测算法识别精度低的问题,提出一种基于注意力机制的水下目标检测算法(feature refinement and attention mechanism network,FRANet).该算法采用特征融合模块和特征增强模块相结合的方式,使用卷积神经网络提取目标的多尺度特征.同时引入一种由锚框精化模块、空...     

基于注意力机制的加密流量识别

随着人们网络安全意识的提高,加密流量呈爆炸式增长,流量加密在保护用户隐私的同时,也为安全检测带来了新的挑战。针对传统基于机器学习的流量识别方法存在需要手动设计分类特征、分类准确率不高等问题,提出一种基于卷积神经网络与自注意力机制(Convolutional Neural Network and Self Attention, CSA)的加密流量分类方法,依据网络流量的层次结构特性,采用卷积神经网络提取数据包内字节流的空间特征、自注意力机制提取数据包之间的时序特征。在公开数据集ISCX VPN-NonVPN上的实验结果表明,CSA模型的分类准确率达到了95.0%,相较基准深度模型,准确率和F1值皆有明显的提升。     

基于非降维注意力机制的滚动轴承故障诊断方法

针对传统轴承故障诊断算法中存在的故障特征提取困难、模型泛化性差以及噪声环境下诊断准确率低等问题,提出一种可移植非降维注意力机制与深度残差神经网络相结合的故障诊断方法。该方法使用非降维注意力机制对残差块生成的特征图重新分配权重,对特征图采用局部而非全局的跨通道通信方式,自适应学习邻近通道的注意力分数,以增强故障轴承的特征识别率。使用凯斯西储大学轴承故障数据集对本文方法进行验证,实验表明,融合非降维注意力机制的残差网络可以准确识别出不同负载下混有噪声的故障轴承样本,在12 dB信噪比噪声情况下的准确率为99.5%,具有较强的抗噪性能和一定的泛化性能。     

基于注意力机制的远程监督实体关系抽取

关系抽取是许多信息抽取系统中的一个关键步骤,旨在从文本中挖掘结构化事实.在应用传统的远程监督方法完成实体关系抽取任务时存在2个问题:①远程监督方法将语料库中的文本与已标注实体和实体间关系的知识库启发式地对齐,并将对齐结果作为文本的标注数据,这必然会导致错误标签问题;②目前基于统计学的方法过于依赖自然语言处理工具,提取特...     

基于注意力机制的红外小目标检测方法

针对红外小目标占用像素较少、背景相似性强、网络容易受到背景杂波信息干扰的问题,提出了一种基于注意力机制的红外小目标检测方法。利用注意力机制模块抑制背景杂波,增强小目标特征,并使用红外小目标检测模块实现检测任务;为了增强网络鲁棒性,通过高斯噪声与原图通道堆叠输入的数据增强方式提升网络抗杂波干扰的能力。实验表明,提出的方法在MDvsFA数据集中的性能超过了目前最新的对比算法。     

基于深度学习的网络流量分类识别研究

目前互联网上会存在海量的网络流量数据信息,这些海量的网络流量数据信息还未得到充分性的利用,如果有效的采取一些必要的方法或者手段,分析整个的网络流量挖掘信息对于后期的网络发展趋势,挖掘网络当中所存在的异常状态并且有采取针对性的措施,这对于后期的网络应急响应能力的增强、抵御网络不法攻击行为、快速的维护网络空间安全等方面都具有非常重大的价值及意义.本文基于网络流量识别的基本需求,分析了深度学习经典模型-CNN的基本原理,在此基础上将原始流量进行分层处理,并建立了基于注意力机制的改进的CNN算法的网络流量识别模型,最后在国际标准数据集上进行仿真分析.实验测试结果表明,该模型可以实现对各类网络流量有效识别.     

基于注意力机制和CNN-GRU组合网络的海底电缆运行状态预测方法

海底电缆作为各类海上平台能源供给的生命线,一旦发生故障将产生巨大的经济及战略影响,准确预测海底电缆运行状态有助于提前把握其运行风险,从而实现预防性维护。本文在充分挖掘海底电缆运维数据中的动、静态特征的基础上,提出一种基于注意力机制和卷积神经网络-门控循环神经网络（CNN-GRU）海底电缆运行状态预测方法。首先,考虑在线监测、巡检指标、静态试验三类关键影响因素,建立海底电缆运行状态评估指标体系;然后,基于改进层次分析法及多层次变权评估思想构建海底电缆运行状态评估模型;最后,建立基于注意力机制和CNN-GRU组合神经网络模型,将历史运行参数及状态量化结果作为输入特征参量,实现海底电缆运行状态的演化趋势预测。算例分析表明,所提方法可有效预测海底电缆的运行状态,平均百分数误差低至1.04%,与全连接神经网络、CNN、CNN-长短期记忆神经网络(LSTM)等算法相比均具备更优的预测精度。     

基于二向注意力循环神经网络的PM2.5浓度预测

针对PM2.5浓度预测模型效果不稳定、泛化能力差的问题,以循环神经网络和注意力机制为基础,提出了二向注意力循环神经网络（TDA RNN）。首先,TDA-RNN模型通过注意力机制获取输入数据的时序注意力和类别注意力,并将其进行融合;然后通过特征编码器对融合后的数据进行编码,获得中间特征;最后将中间特征与PM2.5浓度的历史信息融合,并通过特征解码器获取预测值。对北京地区的PM2.5浓度进行了预测。结果表明,相比前向型神经网络、长短期记忆神经网络、门控循环单元模型和滑动平均模型,TDA-RNN模型预测精度更高;在抗干扰测试中,当输入数据存在无关因素时,TDA RNN模型的预测精度出现轻微下降,但仍高于其他模型。该二向注意力循环神经网络特征提取能力强,预测精度高,同时可适用于其他场景的多变量时间序列预测。     

基于深度置信网络的车辆交通流预测

提出了一种新的基于深度置信网络的交通流预测方法,利用深度置信网络良好的训练和预测性能,能够很好地学习时序数据集的内部特征,从而准确地预测交通数据流.为了验证算法的有效性,在PeMS数据集上对算法进行了实验测试,并同其他相关预测和分析方法进行了比较,实验结果表明新算法具有较好的预测性能.     

基于混沌理论的局域网流量预测

局域网业务流中广泛存在自相似为特征的现象,并且自相似现象与混沌现象间存在紧密联系.通过采用局域网流量对应的时间序列分析的方法进行研究,基于相空间重构思想,通过C-C算法计算嵌入维和延迟时间;利用小数据量法计算局域网流量时间序列的最大Lyapunov指数来判断其混沌特性;针对基于最大Lyapunov指数的预测方法中只考虑中心点的最邻近点对预测的决定性作用,而忽略了其邻近点邻域内其他各点对预测结果的影响的特点,提出了基于最大Lyapunov指数的加权邻域预测法;最后通过实测局域网流量预测验证方法的有效性.      

基于XGBoost的短时交通流预测模型

为提高路段短时交通流的预测精度,选取路段平均旅行时间作为预测指标,建立了一种基于极端样度上升(extrem gradient boosting,XGBoost)的短时交通流预测模型。首先通过对交通流数据的分析,在考虑交通流时空特性的基础上,分别构建目标路段时间序列训练集、测试集以及时空序列训练集、测试集,然后基于XGBoost模型以及构建的训练样本集建立时间序列预测模型以及时空序列预测模型,并利用训练好的模型进行预测,最后将模型预测结果与线性回归模型、神经网络模型预测结果进行比较。实验结果表明:基于XGBoost的短时交通流预测模型能够对路段未来时段平均旅行时间进行比较准确的预测,其中时间序列预测模型均方根误差为5. 32,时空序列预测模型均方根误差为4. 82,均低于线性回归模型和神经网络模型,且相比于仅考虑时间因素的短时交通流预测模型,同时考虑时空因素的预测模型得到的误差更低,预测效果更好。     

基于复杂网络的空中交通流分形特征分析

为准确把握空中交通流量变化规律,掌握空中交通系统内在特性,需要对空中交通流时间序列进行基于复杂网络的分形特征分析。收集空中交通流量数据,利用可视图方法构建复杂网络模型,分析网络拓扑结构,验证了该网络度分布服从幂律分布,拟合直线斜率为-2.086,证明了网络是无标度网络,具有单分形特征。验证了覆盖整个网络所有节点所需要的最少盒子数目与盒子直径成幂律关系,拟合直线斜率为-0.212 1,相关系数为-0.872 2,再次证明了网络具有单分形特征。通过验证网络广义分形维数关于参数的图像为非线性,拟合直线斜率分别为-1.942、-1.936、-1.78,相关系数均在0.8以上,拟合效果较好,证明了网络具有多重分形特性。通过计算重整化前后网络的幂指数相似,证明了网络具有自相似性。结果表明,应用复杂网络的理论分析空中交通流时间序列是可行有效的,为进一步深入应用研究奠定了基础。     

一种基于局部加权学习的自适应交通流预测机制

结合交通流的特征, 提出了一种自适应的交通流预测机制。首先根据训练数据特点, 按三相交通流理论对交通状态进行分类, 从每个分类对应的训练数据集内提取相应的最佳邻域。在基于局部线性回归模型的预测中, 根据邻域中数据点所处状态分别选择相应局部模型进行预测, 最终预测结果为各局部模型预测值的加权平均。根 据各模型误差确定当前数据所处状态, 增量加入训练数据集。基于真实交通数据的实验证实该方法能够有效提高预测的准确率。     

基于密集残差网络的图像隐藏方案

针对基于编-解码器网络的图像隐写方案生成的含密图像和消息图像质量不高的问题,提出了一种新的基于密集残差连接的编码器-解码器隐写方案,与现有的端到端图像隐写网络不同,本文采用密集残差连接,将浅层网络的特征输送到深层网络结构的每一层,有效的保留了特征图的细节信息,并使用通道和空间注意力模块对特征进行筛选,提高了编-解码器对图像复杂纹理区域的关注度。在LFW、PASCAL-VOC12和ImageNet数据集的实验结果表明,在保证算法安全性的前提下,所提方法能够有效提高图像质量,含密图像和载体图像的峰值信噪比(PSNR)和结构相似性(SSIM)的平均值最高达到了36.2dB和0.98。     

基于神经网络的交通流的预测

在简要介绍智能系统中交通流的实时检测设备的基础上 ,为满足交通流诱导系统的理论需要 ,建立了实时交通流量神经网络预测模型。该模型为交通流诱导系统提供了预测交通状况的一种很好的方法     

基于注意力机制的卷积神经网络机械钻速预测方法

传统机器学习方法在进行机械钻速预测时,受复杂特征提取和人为认知局限性的影响,难以满足现场预测精度要求。基于此,提出一种特征提取和回归预测相结合的机械钻速预测方法。首先,采用箱型图和独热编码对钻井实测数据进行预处理,清除异常数据并将离散特征连续化。其次,应用卷积神经网络(convolutional neural network, CNN)挖掘数据特征,并在网络中引入通道注意力机制(squeeze-and-excitation network, SENet),实现对CNN特征通道重要性程度的合理分配,建立SE-CNN机械钻速预测模型。最后,将SE-CNN模型与CNN模型进行对比分析,结果表明：SE-CNN模型的拟合优度提高了2.1%,平均绝对误差和均方根误差分别降低了1.1%和1.5%。SE-CNN模型具有较高的预测精度,可以用于现场机械钻速预测,为钻井提速提供科学参考。