无监督异常检测的深度变分自编码高斯混合模型

针对高维数据无监督异常检测难以重构异常样本,无法保留低维空间信息的问题,提出一种深度变分自编码高斯混合模型（deep variational autoencoding gaussian mixture model,DVAGMM）。该模型利用深度变分自编码器为每个输入样本生成低维数据和重构误差,并将这些数据输入高斯混合模型。为更好地学习到原始样本的低维特征,同时避免自编码器自身的局部优化问题,减少重构误差,模型采用联合优化深度变分自编码器和高斯混合模型参数的方法,并利用单独的估计网络促进混合模型的参数学习。实验结果表明,该模型在几个基准数据集上的检测准确率和效果都比其他传统模型更高,以F1值作为综合评价指标,模型的综合分数比第二名高出大约4%。     

基于自编码器的无监督机器异常声检测

针对机器异常声音很少发生并且种类多、不稳定的问题,提出了一种基于自编码器的无监督机器异常声检测方法.首先,利用正常声音的频谱特征训练自编码器,对正常声音的特征进行重建;然后,通过自编码器重建待测音频的特征,利用待测音频的特征和重建的特征两者之间的误差值进行异常检测.采用DCASE2020 Challenge Task2...     

基于回顾蒸馏学习的无监督工业品缺陷检测方法

在自动化工业生产环境中高效地完成产品质检是生产过程中的重要任务之一,提出一种基于回顾蒸馏学习的无监督工业品缺陷检测方法（Retro-KD）.首先,针对缺陷产生的未知性问题,采用无监督的方式训练蒸馏学习模型,同时,为了充分地利用蒸馏学习中的信息传递机制,利用中间层特征提取模块完善教师网络中的特征架构;其次,提出迭代信息融合模块,回顾地传递中间层信息,指导学生网络拟合正样本特征分布,放大缺陷样本差异性;再引入相似性度量（Structural Similarity,SSIM）,增强教师与学生网络在图像空间中的相似度;最后,采用基于梯度变化的缺陷分割方法得到像素级的定位图.在MVTec-AD和Magnetic-Tile两个工业数据集上验证了该方法的有效性,其AUROC(Area under ROC)与ACC(Accuracy)指标分别提升了1.9%与1.3%.     

基于无监督对抗学习的时间序列异常检测

时间序列异常检测是类别不均衡问题,异常现象少有发生,所以获取异常标签的成本高昂,因此基于无监督学习的时间序列异常检测方法更具有实用价值.然而,现有的时间序列异常检测方法存在三个缺陷:难以对复杂的时间序列进行建模、缺乏合理的缺失值处理机制和无法利用先验知识(例如少量的有标签异常).为了解决以上问题,提出一种基于生成对抗神...     

基于PCA的无监督异常检测方法研究

针对现有的无监督异常检测技术的不足之处,提出了一种基于样本分布异常数据实例度量方法;将主成分分析方法应用到异常检测中解决数据集高维数据的降维问题.提出一种新的无监督异常检测算法μ-UAD,并对该算法进了性能评估.实验表明,该算法具有较好的检测性能.     

基于评分迭代的无监督网络流量异常检测

针对计算机网络流量异常检测中缺乏标注信息的挑战,该文提出一种基于评分迭代的无监督异常检测方法。设计了基于自编码器的异常评分迭代过程来学习通用异常特征,获取其初始异常评分。设计了基于深度序数回归模型的异常评分迭代过程来学习判别异常特征,进一步提高异常评分准确性。另外,还通过深度模型、多视图特征、集成学习提高检测准确率。在多个数据集上的实验表明,在无标注信息的情况下,该方法的性能相比对照方法具有明显优势,可以有效地用于现实网络流量异常检测。     

基于卷积收缩自编码器的半监督缺陷识别方法

提出了一种基于半监督卷积收缩自编码器的缺陷识别方法.从未标记数据中获取有效缺陷信息,结合少量标记样本,实现较高的缺陷识别效果,解决了传统的基于卷积神经网络的缺陷识别方法依赖大量标记样本的问题.实验结果表明:本文方法具有较高的识别精度,在少量标记样本下即可获得不错的识别效果,相较于其他方法,准确率提升4.93％～62.9...     

基于无监督迁移成分分析和深度信念网络的轴承故障诊断方法

针对轴承故障样本少导致识别精度低的问题,提出一种基于无监督迁移成分分析(unsupervised transfer component analysis,UTCA)和深度信念网络(deep belief network,DBN)的故障诊断方法。首先利用UTCA的核函数将不同工况样本特征映射到一个共享再生核Hilbert空间中,使得源域和目标域样本集更加相似,并通过最大均值偏差嵌入法(maximum mean discrepancy embedding,MMDE)判断能够迁移的源域数据,将源域样本迁移到目标域中,为深度学习提供充足的训练样本,解决了实际故障样本较少的问题;然后采用DBN模型对源域样本进行训练,再对映射后无标记的目标域样本进行故障诊断分析。利用不同工况下的滚动轴承实验数据进行算法验证,结果表明,与普通DBN、SVM、BPNN以及传统机器学习-UTCA融合方法相比,本文方法对滚动轴承故障的诊断精度更高。     

深度学习源代码缺陷检测方法

针对由于传统的源代码缺陷分析技术依赖于分析人员的对安全问题的认识以及长期经验积累造成的缺陷检测误报率、漏报率较高的问题,提出了一种深度学习算法源代码缺陷检测方法.该方法根据深度学习算法,利用程序源代码的抽象语法树、数据流特征,通过训练源代码缺陷分类器完成源代码缺陷检测工作.其依据的关键理论是应用深度学习算法及自然语言处理中的词嵌套算法学习源代码抽象语法树和数据流中蕴含的深层次语义特征和语法特征,提出了应用于源代码缺陷检测的深度学习一般框架.使用公开数据集SARD对提出的方法进行验证,研究结果表明该方法在代码缺陷检测的准确率、召回率、误报率和漏报率方面均优于现有的检测方法.      

采用多变量耦合网络与变分图自编码器的机械设备异常检测方法

为了全面准确地检测出潜在的设备异常,针对汽轮机、风电转子等高关联耦合分布式系统多测点多源传感器产生的多维多态监测数据,提出了一种基于多变量耦合网络与变分图自编码器的异常检测方法。首先采用去趋势互相关分析(DCCA),定量分析多维变量间的耦合关系,构建复杂系统多变量耦合关系网络。在此基础上,建立基于无监督学习的变分图自编码模型,对系统多变量耦合关系网络进行特征提取,使用正常数据训练该模型,图卷积网络作为编码器学习输入数据的分布,采样获得其潜在表示,以实现耦合网络的重构,采用重建概率作为系统多维多态监测数据异常检测评价指标。最后以某火电厂汽轮机组转子系统监测数据为例开展异常检测分析,结果表明:考虑多维多态监测数据间的耦合关系,提高了系统异常检测的准确性和可靠性;引入基于变分图自编码器的无监督学习方法,降低了经验依赖性并克服了异常样本少的问题。     

变分自编码器和注意力机制的异常入侵检测方法

针对传统的机器学习算法在检测未知攻击方面表现不佳的问题,提出了一种基于变分自动编码器和注意力机制的异常入侵检测方法,通过将变分自编码器和注意力机制相结合,实现使用深度学习方法从基于流量的数据中检测异常网络流量的目标。所提方法利用独热编码和归一化技术对输入数据进行预处理;将数据输入到基于注意力机制的变分编码器中,采集训练样本中隐含特征信息,并将其融入最终潜变量中;计算原始数据与重建数据之间的重建误差,进而基于适当的阈值判断流量的异常情况。实验结果表明,与其他入侵检测方法相比,所提方法明显改善了入侵检测的精度,不仅可以检测已知和未知攻击,而且还可以提高低频次攻击的检测率。     

基于无监督生成推理的网络安全威胁态势评估方法

针对基于数据类别标记的监督式网络数据建模方式在评估网络威胁态势时存在计算成本高,效率低和耗时长的问题,该文提出一种基于无监督生成推理的网络安全威胁态势评估方法。首先,设计一种变分自动编码器-生成式对抗网络(VAE-GAN)模型,将只包含正常网络流量的训练数据集输入到由VAE-GAN组成的网络集合层进行训练,统计每层网络输出的重构误差,并使用输出层的3层变分自动编码器训练重构误差;然后使用包含异常网络流量的测试数据集进行分组威胁测试,统计每组测试的威胁发生概率;最后根据威胁发生概率确定网络安全威胁严重度,结合威胁影响度计算威胁态势值对网络安全威胁态势进行评估。仿真实验结果表明,与反向传播(BP)和径向基函数(RBF)方法相比,该方法能够更直观地评估网络威胁的整体态势,对网络威胁具有更好的表征效果。     

一种羽毛虫蛀缺陷检测方法的研究

羽毛缺陷复杂多样。一般的图像分割方法很难做到既能适用于多蛀斑分割的复杂情况又能很好地满足工业化羽毛缺陷检测中蛀斑分割的精确性要求。根据毛片特性,提出一种基于机器视觉的羽毛虫蛀缺陷的检测方法;首先采用双边滤波算法对羽毛图像做平滑处理,在有效模糊羽毛自身纹理的同时使得蛀斑边缘信息仍能得到很好地保留,以提高边缘检测的准确性;然后采用一种改进的变分水平集方法进行蛀斑分割,算法的初始轮廓线根据毛片的形状自动生成。实验结果表明这种检测方法分割准确;并能适用于多蛀斑的复杂虫蛀缺陷的检测,较好地满足了工业化检测的需要。     

无监督和弱监督视频异常检测方法回顾与前瞻

随着监控技术的不断发展,监控摄像头已经被广泛部署到各种场景中。手动检测视频异常情况已经变得不可能。因此,作为智能监控系统核心的视频异常检测技术正在受到广泛关注和研究。随着深度学习的发展,视频异常检测领域取得了显著的成就,并涌现出许多新的异常检测方法。本文将梳理了应用在不同数据类型上的无监督和弱监督视频异常检测学习方法,分析现有方法的贡献,并比较不同模型的性能。此外,还整理了一些常用的和新发布的数据集,并总结了未来工作要面临的挑战和发展趋势。     

基于模型共享的分布式无监督异常检测

提出一种具有通用性的分布式异常检测框架.首先,利用本地的无监督异常检测算法,建立多个本地检测模型;然后,将各个本地无监督检测模型转换成统一的共享模型;最后,采用集成学习的方法,综合考虑各模型差异性和准确性,实现全局异常检测.实验结果表明,基于模型共享的分布式异常检测不仅能有效地保护数据隐私,减少通信开销,同时能获得和集中式检测相当甚至在某些情况下更好的效果.     

利用深度神经网络的无监督视频表示

在计算机视觉领域中,大多数的视频表示方法都是有监督的,需要大量带有标签的训练视频集,但标注大量视频数据会花费极大的人力和物力.为了解决这个问题,提出了一种基于深度神经网络的无监督视频表示方法.该方法利用改进的稠密轨迹(iDT)算法提取的视频块交替地训练深度卷积神经网络和特征聚类,得到可提取视频特征的深度卷积神经网络模型;通过视频的中层语义特征,实现了无监督视频表示.该模型在HMDB 51行为识别数据库和CCV事件检测数据库上分别进行了动作识别和事件检测的实验,获得了62.6%的识别率和43.6%的检测率,证明了本文方法的有效性.     

基于自监督信息增强的图表示学习

针对图表示学习模型依赖具体任务进行特征保留以及节点表示的泛化性有限等问题,本文提出一种基于自监督信息增强的图表示学习模型(Self-Variational Graph Auto Encoder,Self-VGAE)。Self-VGAE首先使用图卷积编码器和节点表示内积解码器构建变分图自编码器(Variational Graph Auto Encoder,VGAE),并对原始图进行特征提取和编码;然后,使用拓扑结构和节点属性生成自监督信息,在模型训练过程中约束节点表示的生成。在多个图分析任务中,Self-VGAE的实验表现均优于当前较为先进的基线模型,表明引入自监督信息能够增强对节点特征相似性和差异性的保留能力以及对拓扑结构的保持、推断能力,并且Self-VGAE具有较强的泛化能力。     

融合双重自监督信号的图异常检测

图异常检测是网络研究中的一项重要内容。为解决以往工作中常依赖单一自监督信号而不能很好地检测多类型异常的问题,提出一种融合结构和属性的自监督图异常检测模型。首先选取目标节点,再基于图元邻接矩阵采样得到对应的负例节点;其次,构造正负子结构,并基于图卷积网络学习子结构表示以得到结构自监督信号;再次,依托自编码器对属性进行重构以获得属性自监督信号,解决节点匿名化带来的属性平滑问题;最后,通过对比学习对重构前后的正负实例对进行差值学习,以实现异常检测。在4个数据集上进行了3组实验,结果表明模型能够有效检测图中的异常节点。