基于样本熵的睡眠脑电分期

运用样本熵从波士顿Beth Israel睡眠脑电实验数据中提取睡眠特征值,对睡眠分期进行研究.针对脑电属于微弱非平稳随机信号、难于提取特征的特点,利用小波变换先有效地消除脑电信号中的噪声,再计算其样本熵用以表征睡眠各分期.计算结果表明,由清醒期到非快速眼动的Ⅳ期过程中,其样本熵值呈规律性逐渐变小,与该库中专家评定的结果相符.这说明经过小波消噪和样本熵处理的脑电信号能准确地反映睡眠各期的变化特征,比用近似熵表征睡眠分期更准确、运算速度更快,完全适用于非平稳随机信号的处理.     

基于Attention机制和ResNet的CNN-BiLSTM短期电力负荷预测模型研究

短期电力负荷预测有利于电力系统的高效运行,对电力市场实现有效调度有重要意义。短期电力负荷受多种因素影响,波动性大、随机性强,使得其预测准确率低。双向长短期记忆网络和卷积神经网络难以在短期负荷序列中提取足够多的信息,本文提出了一种结合注意力机制和残差网络的卷积神经网络-双向长短期记忆网络短期负荷预测方法。首先利用基准模型卷积神经网络-双向长短期记忆网络对输入特征进行信息提取,然后利用注意力机制突出提取到的关键信息,最后通过残差网络创建残差层以充分学习时序特征。通过某公开数据集进行实验,结果表明该方法的平均绝对百分比误差达到2.80%,均方根误差达到2.15,并与常用的五种模型预测结果对比,验证了所提模型的准确性及有效性。     

基于时窗复杂度序列的睡眠脑电分析

运用时窗复杂度序列来分析睡眠脑电,减少了非平稳性及状态空间的不均匀性造成的脑状态信息的丢失,在一定程度上克服了复杂度的自身的局限,有助于不同睡眠期状态特征的提取.另外本文采用ICA、小波变换等方法对脑电进行预处理,实验表明它们能有效地去除脑电中的一些生理干扰,有利于提高复杂度算法在睡眠分期应用中的精确度.     

基于小波包与CNN的滚动轴承故障诊断

滚动轴承的振动信号具有较强的非平稳性,小波包(Wavelet Packet,WP)时频分析方法能有效提取非平稳信号的时频特征,具有精细的时频分辨率。而卷积神经网络(Convolutional Neural Network,CNN)强大的特征学习能力使其具有优于浅层网络的故障识别率。为了更准确地诊断出滚动轴承的运行状态,提出一种基于小波包与CNN相结合的滚动轴承故障诊断方法:对采集的轴承振动信号进行小波包时频分析,得到各类信号的时频特征图,采用fine-tuning技术在CNN模型caffe Net上进行微调,解决少量样本训练CNN模型的问题,最终得到了可用于滚动轴承故障诊断的CNN模型。采用小波包与CNN相结合进行故障诊断,故障识别率达到了99.1%,高于连续小波变换(CWT)和短时傅里叶变换(STFT)与CNN相结合的故障识别率。而采用主成分分析(PCA)与支持向量机(SVM)相结合的故障识别率最低,且对复合故障的识别效果明显不足。     

结合双向LSTM和注意力机制的车辆轨迹预测

为提升智能交通、自动驾驶等系统的管理和服务质量,提出一种双向长短期记忆网络结合注意力机制的车辆轨迹预测模型。采用道格拉斯-普克压缩算法对轨迹数据进行压缩预处理,减少数据中的冗余;在编码器中使用双向长短期记忆网络充分捕获时间相关性特征,并采用自注意力机制获得与邻近车辆之间的全局空间相关性特征;通过解码器的全连接层获取车辆的未来位置,并通过模型迭代获得完整的预测轨迹路线。实验结果表明,提出的模型预测性能优于对比模型。此外,消融实验结果表明,引入轨迹压缩算法与改进的长短期记忆网络结合注意力机制对预测准确度均有积极贡献。     

结合时间注意力机制的Bi-GRU-Atten的短时交通流预测

为使用深度学习模型预测未来高速公路交通流的情况,利用双向门控循环单元算法（Bi-GRU）从双向传播中提取信息,充分学习到历史交通流的时间相关特征,同时采用注意力机制通过正确分配权重来区分交通时间序列的重要性,进一步提高预测的计算效率。采用开源高速公路数据集对模型进行验证,结果表明：与递归神经网络算法、长短期记忆网络算法、双向长短期记忆网络算法,以及没有结合注意力机制的双向门控循环单元算法相比,本文所提算法在计算效率和预测精度方面更优,可以用于短时交通流的预测。     

基于集成卷积神经网络的脑电情感识别

采用脑电情感数据集SEED进行情感识别研究,旨在利用深度学习中的卷积神经网络(CNN)自动提取脑电样本的抽象特征,省去人工选择特征与降维的过程。首先,采用小波包变换(WPT)对脑电信号进行6级分解并构成二维结构样本;然后,通过改变网络深度设计了6个深度不同的CNN模型;最后,通过投票法与加权平均法建立集成模型,提高了识别精度。实验结果表明,本文方法对3种情感类别的平均分类精度达到了93.12%,能够满足情感识别的研究需求。     

基于正态逆高斯和特征贡献度的睡眠分期实验研究

针对自动睡眠分期任务,提出了一种基于正态逆高斯和特征贡献度的睡眠分期实验框架.提取睡眠脑电信号特征,并对信号进行可调Q因子小波分解（TQWT）,针对TQWT子带提取正态逆高斯参数特征;基于SVM模型实现特征贡献度排序与筛选,针对高贡献度特征,比较多种分类器的分期结果并设计多分类器组合自动睡眠分期算法.采用PhysioBank的Sleep-EDF数据集进行验证,取得了89.88%的平均睡眠分期准确率,相较于单一分类器的分期准确率有较大提升,对睡眠障碍的临床诊断与研究具有较大价值.      

基于DSCNN-BiLSTM的入侵检测方法

针对传统的入侵检测方法无法有效提取网络流量数据特征的问题,提出了一种基于DSCNN-BiLSTM的入侵检测方法,该方法引入了深度可分离卷积代替标准卷积从而减少了模型参数,降低了计算量,并应用双向长短期记忆网络(BiLSTM)提取长距离依赖信息的特征,充分考虑了前后特征之间的影响.首先,通过主成分分析法(PCA)对网络流量数据进行特征降维,并创新性地将一维网络流量数据转化为三维图像数据;然后,分别运用深度可分离卷积神经网络(DSCNN)和双向长短期记忆网络(BiLSTM)提取网络流量数据的空间特征和时间特征;最后,利用KDDCUP99数据集进行训练、验证和测试.实验结果表明,与其他传统的入侵检测方法相比,该方法具有更高的准确率和更低的漏报率.     

短期风力发电负荷预测的新方法

以陆上风力发电负荷数据作为研究对象,将注意力机制引入双向长短期记忆与卷积神经网络（CNN）的混合模型来预测短期电力负荷．结果显示:1）注意力机制通过对不同时步的输入进行加权,能够显著提升双向长短期记忆网络的预测性能;2）双向长短期记忆网络-CNN结构比CNN-双向长短期记忆网络结构更适用于短期负荷预测,前者相较后者能够充分利用时序信息,不会在输入初期就丢失关键信息;3）基于注意力机制的双向长短期记忆网络-CNN混合模型的均方根误差（RMSE）、平均绝对百分比误差（MAPE）分别达到了575.35和7.02%,比次佳模型（基于注意力机制的双向长短期记忆网络-CNN混合模型）分别降低了2.75%和9.65%,其在风电短期负荷预测方面有很好的应用前景．      

基于宽卷积核神经网络与BiLSTM的渔船轨迹分类方法

【目的】针对使用船舶自动识别系统(automatic identification system, AIS)数据进行船舶类型识别中原始特征较少和时空特征利用不充分的问题,提出了基于数据块的双向长短期记忆卷积神经网络的渔船类型分类方法。【方法】首先将数据以数据块的形式输入模型,保留短时内的时序特征;然后利用宽卷积核深度卷积神经网络(wide convolutional kernel deep convolutional neural network, WDCNN)模型首层的大卷积对数据进行特征提取;最后采用双向长短期记忆网络(bidirectional long-short-term memory networks, BiLSTM)提取数据的深层时间信息,得到最终的船舶分类结果。【结果】在真实的船舶AIS数据集上进行测试后发现：本模型较主流船舶分类模型对渔船分类的正确率有一定的提升,F₁值达到了5%左右的提高。【结论】本试验模型更有利于海事部门对渔船的监管,同时对海上渔场、鱼群分布的研究也有一定的参考价值。     

双向多尺度LSTM的短时温度预测

针对长短期记忆网络(long short-term memory,LSTM)无法有效提取温度数据的多尺度特征和反向特征的问题,该文提出了一种双向多尺度跳跃LSTM(bidirectional multi-scale skip long short-term memory,BMS-LSTM)的短时温度预测模型.该模型以LSTM为核心单元,采用双向深层网络结构提取反向特征; 根据温度数据日的周期性设置跳跃连接数提取多尺度特征,解决了指数增长的跳跃连接数后期跳跃尺度过大的问题; 最后使用全连接层进行特征融合预测.实验结果表明:BMS-LSTM成功提取了温度数据的多尺度特征和反向特征,预测均值误差仅为3.890,优于对比模型,是一种有效的短时温度预测模型.     

基于FMEA和Bi LSTM的风电机组变桨系统状态监测与诊断

为提高风电机组变桨系统运行状态监测与诊断的准确性,提出基于失效模式与影响分析和双向长短期记忆网络的监测与诊断方法.用失效模式与影响分析方法分析变桨系统运行状态的特征信号,以此作为训练模型的输入量,运行状态作为输出量,建立循环神经网络模型、长短期记忆网络模型以及双向长短期记忆网络模型,采用某风电场数据采集与监视控制系统数...     

振幅整合脑电图在正常睡眠脑电分期中的应用

该文提出了振幅整合脑电图用于正常年轻人睡眠脑电分期的方法。记录了13例正常年轻人约8小时睡眠脑电数据,分为训练组(6例)和测试组(7例)。计算训练组每一例的振幅整合脑电图(aEEG);提取aEEG的上边带曲线作为其特征曲线;提取不同分期的aEEG上边带中位数和四分位距特征;将这些特征进行综合统计分析,得出aEEG在不同睡眠期的边界和波动范围的数值指标;利用此指标对训练组和测试组的脑电数据进行睡眠自动分期。测试组和训练组的分期结果与ZEO系统结果有较好的一致性,证明了aEEG的一组特征值作为睡眠分期决策指标的可行性。     

引入Huber损失函数的睡眠脑电数据增强模型研究

针对目前睡眠脑电数据的标记仍以专家评判为主,导致数据标记不足,以及影响睡眠状态自动评估的不同阶段睡眠脑电数据类不平衡等问题,提出了一种基于生成式对抗网络（generative adversarial network,GAN）的数据增强模型,用以扩充不同睡眠阶段的脑电数据．通过引入Huber函数来改进辅助分类器生成式对抗网络（auxiliary classifier GAN,ACGAN）模型的损失函数,解决数据模糊等品质问题．该模型无须对数据进行特征提取,其生成和判别网络都采用一维卷积神经网络(one-dimensional convolutional neural network,1D-CNN),并以一维噪声和类别向量为生成器输入信号．分别采用手写体数字图像数据集与睡眠脑电数据集评估该模型的性能．将改进前的模型与其他损失函数模型进行了对比试验,结果表明改进模型的数据增强效果与睡眠分期效果,从可视化评估到定量评估均优于其他模型．研究结果以期为深度学习引入睡眠脑电分析中提供一种行之有效的方法．      

基于小波包能量的脑电信号特征提取方法

在脑机接口研究中,针对运动想象脑电信号的特征抽取,提出了一种基于小波包变换和AR模型的特征提取方法.该方法首先利用小波包变换对大脑C3和C4处采集的2路运动想象脑电信号进行3层分解,抽取小波系数的能量特征;然后,利用Burg算法提取脑电信号的5阶AR模型系数;最后,将这2类特征组合,使用基于马氏距离的线性判别分类器对左右手运动想象脑电模式进行分类,正确率达到91.43%.该方法提取的特征向量较好地反应了运动想象脑电信号的事件相关去同步和事件相关同步的变化时程,为BCI研究中脑电信号的模式识别提供了新的思路.此外,该方法的识别率高,复杂性低,适合应用于在线脑机接口中.     

基于双输入和BiLSTM-MHSA的评论文本方面情感分类方法

【目的】针对方面情感分类输入类别在不同领域之间差异较大,汽车用户评论文本语义信息不全,语义特征难以提取等问题,提出基于双通道输入的并行双向编码表征(bidirectional encoder representation from transformers, BERT)双向长短期记忆多头自注意力模型的方面情感分类方法。【方法】首先采用了方面情感和方面抽取的双重标签进行标注;其次通过并行的方面抽取和方面情感分类任务通道,分别使用BERT、双向长短期记忆网络(bidirectional long and short-term memory networks, Bi-LSTM)及多头注意力机制(multihead self-attention, MHSA)提取更深层次的语义信息及近距离和远距离特征信息;最后采用条件随机场(conditional random field, CRF)分类器和Softmax分类器进行分类。【结果】在相关的汽车用户评论文本数据集和多语言混合数据集上,本研究提出的模型相较于主流的方面情感分类方法,具有同步抽取方面词和判断情感极性的能力,且有效提高了方面词抽取和方面情...     

采用运动传感器的人体运动识别深度模型

针对传统机器学习方法在采用运动传感器数据的人体运动识别领域中识别效果严重依赖人工特征且准确率受限的问题,提出一种改进的卷积网络与双层长短期记忆网络的深层混合(VGGLSTM)模型以实现特征自提取并进行运动识别。该模型结合传感器数据层状、时序的结构特点,将多维传感器数据类比于图像的RGB矩阵进行适应性处理;由一维串联卷积网络与双层长短期记忆网络复合而成。实验结果表明,在开源的人体运动识别(HAR)数据集和无线传感器信息控掘(WISDM)数据集上采用该模型的人体运动识别方法的平均准确率分别达到了97.17%和96.53%,该模型可以有效避免复杂的特征工程,在人体运动识别问题中具有很好的准确性和适应性。     

多通道CNN-BiLSTM的短时温度预测

温度数据具有明显的反向、时序相关性及多尺度特征，提升温度预测精度的关键在于能否有效提取温度数据的上述特征.为提取这些特征，该文提出一种多通道卷积双向长短期记忆网络(convolutional neural network-bidirection long short-term memory, CNN-BiLSTM)的短时温度预测模型.该模型首先利用双向长短期记忆网络(BiLSTM)提取数据的反向特征、时序相关性特征；再利用多通道且不同尺寸、不同膨胀率的卷积神经网络(CNN)提取数据的多尺度特征，组成在学习多尺度特征后的数据，将其和原始数据作为BiLSTM层的多通道输入，输出的数据经过全连接层，形成最终的预测结果.实验结果表明：多通道CNN-BiLSTM的短时温度预测模型能有效地提取数据的时序相关性、反向及多尺度特征，可有效地提升温度预测精度，是一种行之有效的短时温度预测模型.     

基于AMCNN-LSTM的电力无线接入专网异常流量检测

为了减轻电力无线专网系统因网络业务增多而带来的网络攻击以及异常流量入侵的安全事故隐患,提出了一种基于注意力机制的卷积-长短期记忆网络(convolution-long short-term memory network based on attention mecha-nism,AMCNN-LSTM)模型.该模型为避免序列特征稀疏分布的问题,采用卷积神经网络(convolutional neural net-work,CNN)提取时间序列数据特征并转化为维度固定的稠密向量;为防止记忆丢失和梯度分散问题,使用融合注意力机制的CNN单元来捕捉重要的时间序列细粒度特征;将CNN提取局部特征与长短期记忆网络(long short-term memory network,LSTM)提取序列特征的优势相结合,对电力接入专网流量数据进行异常检测.通过在电力网真实数据集上实验表明,基于注意力机制的算法能够在150轮次迭代下达到89.14％的召回率及89.67％的综合F-meas-ure得分.所提出的模型能够及时、准确地检测电力网络异常流量,有效提高检测效率及准确度.