基于Transformer神经网络模型的网络入侵检测方法

网络入侵检测一直以来都是网络安全中亟待解决的关键任务之一,传统网络入侵检测方法主要通过提取多维特征,采用机器学习方法构建检测模型,大多忽略了入侵行为的时间相关性.通过提取网络入侵行为的时序特征,设计基于降维特征的多头自注意力机制Transformer网络模型,以解决传统串行化时序神经网络模型不易收敛且时间开销较大的问题,通过选取最优的损失函数和训练参数进行并行化训练,实现网络入侵行为检测.实验结果表明,基于Transformer网络模型的网络入侵检测方法在多个数据集上均获得了99％以上的精度和检出率.     

基于改进的SqueezeNet的人脸识别

针对众多基于卷积神经网络的人脸识别技术在追求提高人脸识别率上,忽视了网络模型输入参数,导致模型输入参数多、训练时间长和无法在内存小的硬件上运行等问题,提出一种基于改进的Squeeze Net的人脸识别模型。改进的Squeeze Net模型保留了原网络模型中的小卷积核去提取图片特征,还采用首尾池化层分别引入对应的后续卷积层进行特征融合,提取细微的人脸纹理特征来稳定模型收敛性,防止小的卷积核在复杂的人脸训练集上产生过拟合。针对分类函数Softmax的改进,采用L2范数约束的方法,将最后一层的特征约束在一个球面内,减少相同特征间距,提高网络收敛能力。通过两种改进后的Squeeze Net模型在与其他的先进模型对比,在不降低人脸识别准确率的前提下,具有输入参数少、模型易于收敛和能够运行在内存小的硬件设备的优势。结果在CASIA-WebFace和ORL人脸库上得到了有效性的实验验证。     

基于小数据集的改进LeNet图像分类模型研究

将传统卷积神经网络应用于小数据集上,LeNet模型准确率低并且收敛速度慢,VggNet等模型存在过拟合问题.针对小数据集提出一种改进LeNet模型,该模型在LeNet基础上使用ReLU函数替换sigmoid来提高收敛速度,加入1*1卷积增加模型深度并利用其改变维度的特点来提高识别准确率,通过分解卷积和提出改进Dropout方法减少过拟合.结果表明:改进LeNet模型分类自制小龙虾数据集,比LeNet收敛速度快6000步并且准确率提高约15%,比VggNet和ResNet过拟合程度明显减少;将改进LeNet模型推广应用于开源数据集MNIST和Fashion-MNIST上,改进模型也有良好的表现.     

采用BP算法和深度SAE网络的学生综合能力评价方法

针对现有评价方法需人工提取特征且评价准确率低的问题,提出基于反向传播(BP)算法的深度堆栈编码器(SAE)网络的学生综合能力评价方法.通过SAE网络对输入的学生各项指标成绩进行无监督训练,将SAE学习到的特征结合相应的样本标签,利用柔性最大值分类器(Softmax)进行有监督式分类.采用BP算法进行反向传播调整隐层权重,优化整个模型,以避免过拟合现象的发生.结果表明:该评价方法有利于解决需对传统神经网络进行人工提取和分析特征的问题,可提高评价结果的准确率.     

基于稀疏Transformer的长短时序关联动作识别算法

针对主流的视频动作识别算法对时序信息的挖掘不充分,而Transformer能够更好地处理长序列和全局依赖性问题,本文将3DCNN和Transformer结合起来,提出了基于稀疏Transformer的长短时序关联动作识别算法,从而实现对视频的全局时序信息进行建模。该算法提取预训练视频模型各个片段特征,嵌入视频特征聚类模块降低输入特征的潜在噪声,并利用基于稀疏自注意力的Transformer长短时序关联模块,引入稀疏掩码矩阵,对相似度矩阵进行掩码操作,抑制较小的注意力权重,选择性地保留重要的长短时序信息,提高模型对全局上下文信息的注意力集中程度。本文在UCF101和HMDB51数据集上进行了大量的实验,验证了本文算法的有效性,在参数量和计算复杂度较小的情况下准确率高于同类权威算法。     

融合特征筛选策略的双塔网络鞋印检索算法

鞋印图像识别是计算机视觉在公安一线工作中的一项重要应用。当前公安侦查工作中鞋印图像无法进行精准识别的问题制约了工作效率与质量的提高,归纳起来主要是囿于鞋印现场提取的复杂情况、鞋印花纹图样的复杂特征以及鞋印图像的残缺不全。针对残缺鞋印,为了进一步提高残缺鞋印检索结果,设计了一种融合特征筛选的双塔网络鞋印检索算法。一方面,在网络中引入分区策略,将鞋印图像分为足掌区和足跟区用两个特征网络分别提取图像特征进行融合;另一方面,选择融合ResNet网络和Transformer网络的新型卷积神经网络convNeXt网络作为骨干网络,加入注意力机制模块,提取最后一层卷积特征后用不同的特征筛选方法去除鞋印图像中的无关特征,最后拼接展开成为特征描述符进行相似度计算。在训练阶段,优化学习策略,将其作为完整的图像分类网络进行训练。实验结果表明,本文选取的网络模型优于其他卷积神经网络,在CSS-200和FID-300两个鞋印数据集上取得了较高的准确率。     

基于改进卷积神经网络CNND的电主轴轴承故障诊断方法

目的解决深度学习方法在建立电主轴轴承故障诊断模型时出现的过拟合现象,提高电主轴轴承故障诊断准确率.方法提出一种基于改进卷积神经网络的诊断方法 ,该方法在卷积神经网络的训练过程中融入Dropout优化方法 ,使整个故障诊断模型按照一定的比例随机"关闭"隐藏层中的神经元,减少模型在每一次训练过程中所需要调整的参数数量.结果将Dropout优化方法与卷积神经网络相结合所建立的电主轴轴承故障诊断模型是可行的,其平均诊断准确率能够达到99.012%,远高于基于CNN、CNN+L2和BPNN这3种神经网络诊断方法的诊断准确率.卷积神经网络方法相比于传统的"基于信号处理提取到的特征和机器学习模型"方法 ,更适用于电主轴轴承故障诊断.结论提出的CNND方法实现了卷积神经网络与Dropout优化方法的有机结合,对原始数据进行降维处理使模型学习到的特征更利于电主轴故障的分类,同时根据故障数据的特点确定相关参数的初始值,克服一般深度学习方法在进行电主轴故障诊断时出现的过拟合现象,提高诊断准确率.     

网络安全态势感知研究现状与发展趋势

随着互联网技术的飞速发展,网络空间中网络安全事件频发,影响巨大,全球各国都将网络安全态势感知(network security situation awareness,简称NSSA)视作网络安全战略布局的关键.文章从三个方面对其进行论述:①结合传统态势感知逻辑模型,阐述网络安全态势感知的相关概念;②从网络安全态势要素提取、态势理解、态势预测等几个层面,对网络安全态势感知关键技术进行介绍、分析和对比;③对网络安全态势感知的发展趋势和未来的研究方向进行探讨.     

矿井突水水源判别的改进ESN神经网络模型

针对水化学特征相似的水源类型,采用传统的预测模型难以准确判别。运用水化学成分分析法和FCM聚类分析法对26个典型的水源样本进行相似度分析,并提取了4个相似度较高的水源样本作为待测样本,将其载入一种基于阻尼最小二乘正则化方法的GA_ESN判别模型,并与改进的GA_BP和标准GA_ESN模型的判别结果进行对比。结果表明:改进的GA_BP判别模型效果最差,预测准确率只有50%;标准GA_ESN模型的回判准确率和预测准确率均达到100%,但其判别精度对模型的复杂程度要求较高,且易出现过拟合问题;而改进的GA_ESN判别模型能够弥补上述模型的不足,不仅简化模型训练过程,还能提高水源的判别精度。因此,该模型可作为一种快速有效判别矿井突水来源的新方法。     

基于并行特征提取和改进BiGRU的网络安全态势评估

针对目前网络安全态势评估方法在特征提取、高效性等方面存在的不足，该文提出了一种基于并行特征提取和改进双向门控循环单元(BiGRU)的网络安全态势评估方法，设计了一个由并行特征提取网络(PFEN)和基于注意力机制改进的BiGRU组成的深度学习模型(PFEN-ABiGRU)。PFEN模块由并行的稀疏编码器组成，用于差异化地提取不同网络威胁的关键信息并将提取的特征与原始信息融合；ABiGRU模块通过注意力机制对关键特征进行加权以提高模型的准确性。将训练好的PFEN-ABiGRU模型用于网络威胁检测，根据威胁检测结果，结合提出的网络安全态势量化指标，计算网络安全态势值。实验结果表明，PFEN-ABiGRU在精确率和召回率上均优于对比的其他模型。