基于自动编码器和长短时记忆网络的智能汽车故障诊断方法研究

智能汽车故障诊断技术对于保障智能汽车安全行驶具有重要意义,本文针对智能汽车传感器数据异常检测和车辆运动的异常检测提出了一系列故障诊断方法. 针对非时序传感器数据,采用基于超限学习框架的自动编码器,对正常数据进行特征压缩学习其特征表示,再利用压缩的特征重构数据,根据重构误差的大小判断数据是否异常. 针对时序传感器数据,采用多层长短时记忆网络学习时序数据之间的时间依赖关系来预测当下时刻的数据值,根据预测误差的大小判断数据是否异常. 提出一种阈值随误差大小动态变化的自适应阈值确定方法,使得决策变量对于异常值相对敏感. 进一步地,采用车辆自行车运动学模型和Kalman滤波,利用Jarque-Bera测试对预测值和量测值残差的正态性进行检验来检测车辆运动是否异常. 实际场地测试验证了本文所提出的方法可以有效检测非时序或时序传感器数据的异常,并对车辆运动是否异常进行检测.     

基于CNN-LG模型的窃电行为检测方法研究

针对当前电网单一学习器窃电检测方法准确率低、实时性差且无特征提取的问 题,提出一种基于卷积神经网络轻梯度提升机（CNN-LG）模型的窃电行为检测方法. 通过卷积 神经网络（CNN）提取用户用电数据电力特征,将提取特征输入以决策树为基学习器的轻梯度 提升机（LG）分类器对数据进行训练,据此建立基于卷积神经网络轻梯度提升机模型的窃电行 为检测方法 . 采用基于卷积神经网络轻梯度提升机模型对国家电网和爱尔兰智能能源径 （ISET）数据集分别进行窃电行为检测 . 实验结果表明,本文提出方法可快速准确实现电网中 各类窃电行为检测,相比于现有检测方法具有更高准确度、更优泛化性能和实时性.     

基于用电特征分析的异常用电检测方法

针对目前异常用电检测中存在的专变用户窃电率高、窃电模式难以察觉、使用窃电检测模型查找窃电用户过程中训练集不足的问题,提出了一种基于用电特征分析的无监督方式异常用电检测方法.该检测方法引入离群点查找算法,量化了海量数据中不同异常用电行为,将其提取为异常用电特征序列,并且根据专变用户不同计量方式和用电特点,构建了基于局部离...     

基于残差融合的时序数据离群点检测算法

物联网的快速发展产生了海量的高维时序数据,然而时间序列易受到外界变化的环境因素影响而产生离群点。针对现有的离群点挖掘算法不能兼顾时序数据的趋势性、季节性、循环性、不规则性的特点,从而导致检测效果不理想的问题,提出一种基于残差融合的时序数据离群挖掘(residual integration outlier,RIO)算法。首先利用线性自回归移动平均模型(autoregressive integrated moving average model,ARIMA)拟合数据,得到在相同时间粒度下的残差序列,并将该序列作为非线性模型长短期记忆网络(long short-term memory,LSTM)模型的输入,输出残差序列预测值,而后将经由ARIMA模型与LSTM模型处理的序列在相同时间粒度下融合,得到一条经由混合模型两次处理的残差序列。最后,利用基于直方图的离群点模型(histogram-based outlier score,HBOS)检测出该二次残差序列的离群点。实验表明,RIO算法的准确度得到了较为明显的提高,具备良好的实用价值。     

基于双尺度串行网络的视频异常行为检测

针对传统视频异常行为检测模型存在的性能不佳与时间开销较大的问题,从空间和时序维度构造双尺度串行网络的视频异常行为检测模型(Dual-Scale Serial Network,DSS-Net)。首先,利用深度可分离卷积对Vgg-16网络进行改进,并利用改进的特征提取器从空间维度提取特征,从而可以通过减少计算参数量来降低模型的时间开销。接着,在此基础上引入注意力机制,从而强化目标特征的表达能力。最后,利用长短期记忆(Long Short-Term Memory,LSTM)网络从时序维度提取运动视频每一帧之间的上下文时序关系。在当前主流的UCSD Ped1和Ped2数据集以及更具挑战性的UCF数据集上进行测试,结果表明,在3个数据集上DSS-Net的ROC(Receiver Operating Characteristic)线下面积(Area Under Curve,AUC)值分别达到95.30%、96.80%、80.60%,等错误率(Equal Error Rate,EER)分别达到10.60%、12.60%、18.50%,同时具有更强的实时性。相比经典的One-class Neural Network (ONN)和Aggregation of Ensembles (AOE)模型,DSS-Net在Ped1和Ped2数据集上的AUC值分别提升了0.42%和0.94%。此外,DSS-Net也在UMN、ShanghaiTech和CUHK Avenue等数据集上进行了泛化能力和鲁棒性的测试,结果与当前主流模型相比具有一定的竞争力。     

基于t-LeNet与时间序列分类的窃电行为检测

窃电行为是导致电力企业电能与经济效益损失的重要原因.提出了一种基于t-LeNet(Time-Series Specific Version of LeNet Model)与时间序列分类(Time Series Classification, TSC)的窃电行为检测方法:首先,获取用户用电量时序数据,使用降采样方法生成训练集;然后,使用t-LeNet神经网络训练并预测得到分类结果,判断用户是否存在窃电行为.使用国家电网真实用户的用电量数据集进行了实验验证.实验结果表明,所提方法相较于基于Time-CNN(Time Convolutional Neural Network)、MLP(Muti-Layer Perception)的时间序列分类方法,在综合评价指标、精确率、召回率指标上均有不同程度提高,其对窃电行为的检测具有可行性与有效性.     

基于Transformer神经网络模型的网络入侵检测方法

网络入侵检测一直以来都是网络安全中亟待解决的关键任务之一,传统网络入侵检测方法主要通过提取多维特征,采用机器学习方法构建检测模型,大多忽略了入侵行为的时间相关性.通过提取网络入侵行为的时序特征,设计基于降维特征的多头自注意力机制Transformer网络模型,以解决传统串行化时序神经网络模型不易收敛且时间开销较大的问题,通过选取最优的损失函数和训练参数进行并行化训练,实现网络入侵行为检测.实验结果表明,基于Transformer网络模型的网络入侵检测方法在多个数据集上均获得了99％以上的精度和检出率.     

基于大数据的防窃电模型与方法

针对常见的窃电现象及方法，分析了窃电方法的本质特征；利用鱼骨图表示特征参量的方法建立了多维度电参量的相关特征参量集合，并构建了多维度电参量的窃电本质特征模型来揭示窃电方法、本质特征和特征参量三者的关联关系；提出了基于大数据的防窃电模型与方法，包括数据预处理、大数据的防窃电结构化模型；最后通过用电信息系统采集的数据验证了本文结构化防窃电模型与方法的有效性。本文研究成果可为解决大数据条件下窃电行为监控问题提供有效的途径和方法。     

基于多维信息融合的窃电识别技术

针对配电网线路时常发生窃电事故,造成电力企业经济损失的问题,考虑窃电事故发生时,配电线路的电气参数及用户侧计量数据发生明显变化,提出将灰色关联分析与支持向量机(Support Vector Machine, SVM)理论相融合,对配电线路的特征参数和用户用电情况进行比例权重特征分析,结合季节性气象特征和社会经济等多源信息,提高模型输出结果的可靠性,从而精确判断是否发生窃电事故.最后,利用实例数据验证所提方法能够合理地对窃电线路和用户进行监控.     

融合残差网络的CR-BiGRU入侵检测模型

针对当前网络攻击的复杂性和多样性,传统模型提取流量特征不足且准确率较低的问题,提出一种融合残差网络改进的CR-BiGRU混合模型的网络入侵检测方法.首先将数据集进行归一化以及独热编码处理,然后利用基于残差网络的卷积神经网络提取空间特征,最后使用双向门控神经网络提取时间特征,完成模型的训练并实现异常网络的入侵检测.为表明模型的适用性,基于数据集NSL-KDD和UNSW-NB15进行对比分析实验,结果表明,该方法基于上述数据集准确率分别达99.40%和83.79%,明显优于经典网络入侵检测算法,能有效提升检测网络入侵的精度,从而更好保证网络数据的通信安全.     

利用残差分析的网络异常流量检测方法

针对网络异常流量检测中大数据小异常造成的难题,提出了一种新的基于残差分析的网络异常流量检测方法。从多个角度提取网络流量的特征属性,以准确刻画正常行为和异常行为之间的差异性。利用提取的特征属性构建属性矩阵,采用流之间的相似性构建邻接矩阵。使用属性矩阵和邻接矩阵构建网络异常检测模型,采用CUR矩阵分解方法重构属性矩阵得到主模式,对属性矩阵和重构的属性矩阵进行残差计算进而获得残差矩阵。对残差矩阵中的每一个流计算其残差,根据每个流的残差和预设阈值进行异常判定。采集了西安交通大学校园网流量数据进行实验,实验结果表明:所提方法在不需要任何先验知识的情况下能够使异常检测率达到90%以上;与其他异常检测方法相比,所提方法不仅具有较高的检测率,而且能够实现异常源定位。     

联合多重卷积与注意力机制的网络入侵检测

利用深度学习方法建立一种网络入侵检测模型CAL.该模型通过多重卷积提取数据流的深层特征,利用注意力机制提取代表数据流结构特点的关键特征,以提高对不同数据流特点的表达能力,并通过池化计算压缩数据,提高模型泛化能力,使用基于CuDNN加速的长短时记忆网络,在学习数据流上下文特征和时序信息的同时,加速模型收敛.在数据集UNS...     

基于Res-CAN的Tor网站指纹识别模型

网站指纹识别技术通过分析流量特征判断用户访问的网站站点，能够有效监管TOR匿名网络的用户行为。现有的识别方法通常需要大规模的数据样本以获得高的识别准确率，且普遍存在概念漂移问题。针对以上问题，本文提出一种基于残差和协作对抗网络(Residual network and Collaborative and Adversarial Network, Res-CAN)的网站指纹识别模型。该模型使用残差网络(Residual network)作为特征提取器以减少网络的优化难度。同时，将协作对抗网络(Collaborative and Adversarial Network, CAN)应用于网站指纹识别问题，使得特征提取器同时学习领域相关和领域无关特征，实现源域与目标域的特征空间对齐。实验结果表明，本文提出的方法在小样本环境下网站指纹识别准确率达到91.2%,优于现有的利用对抗领域自适应网络(Domain-Adversarial Neural Networks, DANN)迁移学习方法，且抗概念漂移能力较高。     

多通道CNN-BiLSTM的短时温度预测

温度数据具有明显的反向、时序相关性及多尺度特征，提升温度预测精度的关键在于能否有效提取温度数据的上述特征.为提取这些特征，该文提出一种多通道卷积双向长短期记忆网络(convolutional neural network-bidirection long short-term memory, CNN-BiLSTM)的短时温度预测模型.该模型首先利用双向长短期记忆网络(BiLSTM)提取数据的反向特征、时序相关性特征；再利用多通道且不同尺寸、不同膨胀率的卷积神经网络(CNN)提取数据的多尺度特征，组成在学习多尺度特征后的数据，将其和原始数据作为BiLSTM层的多通道输入，输出的数据经过全连接层，形成最终的预测结果.实验结果表明：多通道CNN-BiLSTM的短时温度预测模型能有效地提取数据的时序相关性、反向及多尺度特征，可有效地提升温度预测精度，是一种行之有效的短时温度预测模型.     

基于递归长短期记忆网络和镜头序列注意网络的视频摘要生成

为解决基于长短期记忆网络LSTM的视频摘要生成方法当输入序列过长时LSTM网络中的记忆单元不能集中在长时间序列的跨度上。通过深度学习的方法研究了一种基于递归长短期记忆网络(ReLSTM)和序列注意(SSA)的视频摘要生成模型用以提高深度学习网络学习时序特征的能力。该模型使用ReLSTM网络提取时间特征。同时,利用SSA动态调整每个视频序列输入到ReLSTM网络中的特征权重。结果表明：在数据集TVSum上F1-score平均提高2.5%,最高提高0.2%。在数据集SumMe上F1-score平均提高7.8%,最高提高3.4%。可见该方法能有效地学习镜头之间的时序特征。     

监视过程均值变化的残差控制图检测能力分析

对过程实施统计质量控制的基本假设前提是观测值彼此独立,但实际工作中经常出现过程的观测值存在自相关的现象.若自相关过程的残差满足独立同分布条件,对残差实施控制图监视是解决自相关过程控制的方法之一.应用检测能力指数和平均运行长度两种衡量指标,分析了自相关过程由时间序列模型AR(1)描述时,残差控制图对过程均值变化的检测能力.结果表明,残差EWMA(φ≤1-λ)控制图对过程均值小偏移较灵敏,当φ<0时,残差EWMA控制图对过程均值大偏移的检测能力略差于残差Shewhart控制图.     

基于多层次非负稀疏编码和SVM的窃电检测方法

针对现有方法对新型窃电方式检测准确率不高的问题,文中提出了一种基于多层次非负稀疏编码和支持向量机(support vector machines, SVM)的窃电检测新方法。该方法以月度用电曲线为检测对象,基于多层次非负稀疏编码提取样本的多层次用电模式特征,以及窃电情景分析提取样本的数值统计特征,将二者的融合检测特征输入SVM分类器进行窃电检测。以爱尔兰智能电表数据集构造的算例验证了所提方法能够提高窃电检测的精确率和召回率。     

基于数据挖掘算法的用户窃电嫌疑分析

在详细分析窃电用户用电特性的基础上,搭建了用于处理海量用电数据的分布式存储Hadoop平台,分析和改进了适用于并行处理的BP神经网络算法,进而提出了基于人工神经网络的窃电嫌疑分析模型.根据窃电行为将会导致的用电异常数据,以及参考供电行业同业经验,选取了影响窃电嫌疑系数的十二个指标.结合窃电嫌疑分析模型,分析得出无窃电嫌疑、一般窃电嫌疑和重大窃电嫌疑三种情况.最后结合实例对该模型的精确度进行验证.     

滚动轴承轻量级深度故障诊断模型

针对现有基于振动信号的诊断模型泛化能力差,而深度学习网络对计算量和存储量要求高的问题,提出轻量级融合密集连接网络与残差神经网络的故障诊断模型.首先,利用格拉姆角场将原始时序信号映射为灰度图像,充分利用二维卷积神经网络的性能;然后,融合密集连接网络和残差神经网络的优点构建融合网络模型,并通过鬼影模块降低其性能消耗,形成轻量级和高识别率的深度网络.实验结果表明,该改进的融合深度学习模型在比传统模型具有更强的鲁棒性和适用性的同时,还拥有极低的浮点运算量与参数量资源占用,证明了该方法在滚动轴承故障诊断领域是有效的、可行的.     

四阶段端到端的用户异常用电模式检测网络

为减少输配电过程中用户异常用电行为所造成的经济损失,提出了一种新颖的端到端的用户异常用电检测网络模型,该模型基于主成分分析网络（Principal Component Analysis network,PCANet）.与传统PCANet不同的是,其中采用四阶段特征映射模型.通过前三阶段特征映射提取网络获取用户用电数据中的正常、异常用电序列特征.该过程中,为了提高PCANet的检测精度,将第一阶段PCA所获取的特征通过下采样嵌入到第二阶段PCA中.将第三阶段PCA输出作为第四阶段小波神经网络（Wavelet neural networks,WNN）的输入,从而进一步了提高模型的检测精度.通过实验对比分析文中所提方法与传统异常用电检测方法表明：所提出的方法具有更高的检测准确性与鲁棒性,可以有效检测出用户异常用电行为.