CWGAN-DNN：一种条件Wasserstein生成对抗网络入侵检测方法

针对现有的基于机器学习的入侵检测系统对类不平衡数据检测准确率低的问题,提出一种基于条件Wasserstein生成对抗网络(CWGAN)和深度神经网络(DNN)的入侵检测(CWGAN-DNN).CWGAN-DN N通过生成样本来改善数据集的类不平衡问题,提升对少数类和未知类的检测效率.首先,通过变分高斯混合模型(VGM)对原始数据中的连续特征进行处理,将连续特征的高斯混合分布进行分解;然后利用CWGAN学习预处理后数据的分布并生成新的少数类数据样本、平衡训练数据集;最后,利用平衡训练集对DNN进行训练,将训练得到的DNN用于入侵检测.在NSL-KDD数据集上进行的实验结果表明:利用CWGAN生成的数据进行训练,DNN的分类准确率和F1分数提升了5％,AUC下降了2％;与其他类均衡方法相比,CWGAN-DNN的准确率至少提升了3％、F1分数和AUC提升了1％.     

基于量表大数据的深度神经网络抑郁分类模型

针对抑郁相关量表大数据所面临的特征冗余、特征维度单一、特征子集难以确定等问题,提出了一种基于深度神经网络（deep nural network,DNN）的抑郁分类模型．通过结合主成分投影k-means（principal component, PC k-means）,在不破坏原有特征空间的条件下对量表大数据进行特征选择,并对原始算法的随机性与聚类个数不确定的问题进行了优化;在此基础上,为了增强抑郁识别维度的多样性,构建了引入因子分解机（factorization machines,FM）的DNN抑郁分类模型．分析和对比结果表明:PC k-means不仅可以有效地选择特征,而且与传统分类器和FM-DNN结合,更能提高抑郁分类的准确率,为深度学习引入量表大数据分析提供了新的研究思路与方向．      

基于变异粒子群优化与深度神经网络的航空弹药消耗预测模型

为了提高航空弹药的供应保障效率,将变异粒子群优化(MPSO)融入深度神经网络(DNN),研究航空弹药训练消耗预测问题。通过DNN确定网络各层的最优激活函数,基于MPSO参数寻优得到网络各层最优的权值和阈值,进而构建MPSO与DNN融合的航空弹药训练消耗预测模型。实验研究表明,该文组合预测模型在对5年数据的预测中均方误差为0.000 9,与粒子群优化-深度神经网络(PSO-DNN)模型、DNN模型以及反向传播神经网络(BPNN)模型相比具有更好的预测性能。     

指数趋势预测的BP-LSTM模型

本文根据股指、股价等数据的时序特征将人工神经网络(ANN)与深度学习中的循环神经网络(RNN)引入股指预测,基于BP神经网络模型与长短期记忆(LSTM)神经网络模型构建了BP-LSTM模型.基于上证指数,本文进行了进行数值实验.结果表明BP-LSTM预测模型的准确率相比传统机器学习模型有明显提升,与普通LSTM模型相比也有较大提升.     

莱斯衰落信道下 MQAM 信号调制方式自动识别方法

针对受莱斯衰落影响的4QAM、16QAM、32QAM、64QAM、128QAM、256QAM六类信号,分别研究了卷积神经网络（CNN）模型以及特征参数结合深度神经网络（DNN）分类器模型的调制方式识别性能。CNN模型需要大量带标签的数据集以及很长的训练时间才能获得较好的识别性能,而特征参数结合深度神经网络分类器模型所需训练时间较短,但其分类性能受限于特征参数的设计。针对以上问题,研究了混合高阶矩作为特征参数集,再将DNN作为分类器对多进制正交幅度调制（MQAM）信号进行识别的方法。仿真结果表明,该方法在低信噪比情况下对受莱斯衰落影响的MQAM信号识别准确率高于CNN模型,且分类准确率上限明显高于采用高阶累积量作为特征参数的方法。     

基于改进深度森林的短期电力负荷预测模型

深度学习模型通过学习数据的深层特征能够有效提高电力负荷预测的准确率,但同时也带来了超参数较多、模型可解释性差等问题。针对这些问题,文中将深度森林模型引入短期电力负荷预测领域。在多粒度级联森林模型的基础上改进了多粒度窗口扫描方法,调整窗口大小与滑动步长,使模型能够在不同时间尺度下提取电力负荷数据的周期性特征。此外,改进深度森林输出层的计算方法,将输出结果由离散的类向量改进为连续的预测值,进而提高模型的精确度。最后在中国东北电网的实测数据中验证了文中所提出方法的可行性与有效性。从实验结果可知,改进深度森林算法在较高预测精度的情况下能取得更高的准确率,并且相较于深度神经网络具有更快的学习速度。     

基于卷积循环神经网络的语音逻辑攻击检测

语音合成和语音转换等技术正逐渐成为合成语音的主流方法,合成语音对社会稳定和国家安全都具有潜在的风险。为进一步提高合成、转换伪造语音检测的准确率,从混合网络模型,特征选择出发,提出了基于CNN-RNN-DNN网络的3种混合网络模型,分别为CNN-LSTM-DNN、CNN-GRU-DNN、CNN-BiLSTM-DNN。模型中卷积神经网络(convolutional neural network, CNN)部分可以进行下采样,循环神经网络(recurrent neural network, RNN)部分解决语音中的时序问题,深度神经网络(deep neural network, DNN)部分则实现分类功能。每种混合网络模型包含20层网络层。对提取的6种声学特征进行实验,其中CNN-LSTM-DNN+MFCC的组合表现最优,等错误率为5.79%,比ASVspoof2019提供的B02基线系统低28.43%。比较了3种混合网络结合6种特征的表现并增加了其与4种单独网络的对照实验,结果表明本文提出的混合网络模型具有性能稳定、准确率高等优点且梅尔频率倒谱系数(mel-frequency cepstr...     

基于模糊层次分析法的采动地裂缝发育等级评价——以沁水煤田为例

煤炭资源的开采对生态环境造有极大破坏。为准确掌握采煤裂缝的诱发因素、发育规律并对裂缝发育等级进行预测,基于层次分析法和模糊综合评价法建立采动地裂缝发育等级评价模型。根据工程条件,确定合适的评价指标体系,依据层次分析法确定各评价指标权重,通过模糊数学方法构造隶属函数,并以某矿80806与80808工作面为研究背景,对地裂缝发育情况进行模糊综合评价。结果表明：工作面上方地表裂缝发育情况与所提出评价方法的评价结果匹配良好,说明所提出的评价方法适合该煤矿的采动地裂缝发育等级评价,评价结果对开采沉陷损害程度评价具有一定的指导意义。     

基于GD-DNN模型的岩爆烈度等级预测方法与应用

岩爆是深埋隧道施工过程中开挖时形成临空面，引起能量突然释放的现象，轻则岩片剥落，重则造成人员伤亡和财产损失，其危害程度取决于岩爆烈度等级，因此岩爆烈度等级预测是急需解决的难题之一。本文针对单一指标预测法预测效果不理想的问题，首先设计并实现了综合指标法和针对多分类问题的分类器，其次提出并建立了基于梯度下降(Gradient Descent)算法优化深度神经网络(Deep Neural Network)的GD-DNN岩爆烈度等级预测模型。实验结果表明：GD-DNN模型预测的准确率达到95.8%，相比机器学习算法K最近邻(K-nearest neighbor，KNN)、支持向量机（support vector machine，SVM)和深度学习算法DNN分别提高了45.8%、38.7%和8.3%，同时在精确率、召回率和??1值三项指标上均优于其他模型。最后在秦岭隧道、大相岭隧道、通渝隧道和马路坪矿井4个实际工程中检验模型的预测效果，检验结果证明GD-DNN模型能够精准预测岩爆烈度等级，研究成果可应用于深埋隧道工程中。     

基于压缩激励网络的注意力因子分解机的点击率预测模型

在互联网技术日趋成熟的今天,广告的点击率(click-through rate, CTR)预测得到越来越多的关注。在特定的商业环境下,广告CTR预测模型的改进可以带来巨大的经济效益。然而特征的多样性和复杂性使得传统的预测模型难以发现海量特征中的重要特征。针对上述问题,提出了基于压缩激励网络的注意力因子分解机的点击率预测模型(squeeze and excitation network based attentional factorization machines model for click-through rate prediction, SEAFM),SEAFM模型通过压缩和激励网络来动态学习特征的重要性,通过注意力网络来学习特征交互的权重,通过深度神经网络(deep neural network, DNN)模块来隐式建模高阶特征交互。实验结果显示,SEAFM模型比现有相关模型具有更好的性能。     

基于Logistic回归深层神经网络的电力系统故障概率诊断

故障诊断软件作为SCADA系统中的标准模块,仍存在着误报率高的问题.针对该问题,本文提出了基于Logistic回归深度学习的故障诊断新模型及算法,以进一步提高诊断的准确率.该新模型及算法的构建过程如下:首先,对于每一元件均建立回归型深度学习神经网络(DNN),其输入为处理成1/-1之后的元件故障特征向量,其输出为相应元...     

基于卷积神经网络的直肠癌淋巴结转移的智能判断模型研究

近年来,直肠癌的患病率普遍提高,准确判断直肠癌周围淋巴结的转移情况,能显著提高患者的治愈概率。通过建立数学模型,运用卷积神经网络模型进行智能判断直肠癌淋巴结转移情况。以直肠肿瘤患者动脉期的电子计算机断层扫描(computed tomography, CT)图像和肿瘤掩模图为样本,建立基于U-Net的CT图像识别分割模型,通过下、上采样分割出直肠肿瘤所在的区域,对肿瘤区域已转移淋巴结的普遍特征进行深度挖掘,利用尺度不变特征变换匹配(scale invarian feature transform, SIFT)算法自动找出肿瘤区域特征点,以及传统的特征纹理、面积、周长和体素强度,分别送入传统卷积神经网络模型和改进后的卷积神经网络模型VGG16网络模型,进行训练、预测、对比。结果表明：传统卷积神经网络模型的准确率在75.32%,而改进后的VGG16网络模型准确率在90.04%,可见,VGG16网络模型对直肠癌淋巴结转移情况的预测效果更好。     

基于改进深度置信网络的木板表面缺陷检测模型

为了提高木板表面缺陷检测精度,采用连续型深度置信网络(DBN)建立木板表面缺陷检测模型。首先,对待检测的木板图片进行关键特征提取,并建立DBN检测模型。然后,将木板图片特征输入DBN的多个受限玻尔兹曼机(RBM)层进行深度训练,从而利用DBN的深度优势来获得木板表面缺陷检测结果。最后,引入人工蜂群(ABC)算法对DBN的权重参数进行优化从而缩短训练时间。实例测试实验结果表明：选择学习速率为0.075时,ABC-DBN算法在划痕、刮痕、裂缝、崩缺4类样本集中的均方根误差(RMSE)均值性能更优。采用卷积神经网络(CNN)、快速区域卷积神经网络(Faster R-CNN)、自适应增强卷积神经网络(AdaBoost-CNN)和ABC-DBN算法分别进行检测准确率对比实验。结果显示,ABC-DBN算法检测准确率RMSE为5.067×10^-2,是最优结果,Adaboost-CNN算法次之,CNN算法最差。     

基于样本优化的神经网络方法在储层裂缝识别中的应用

常规测井资料解释应用于非常规储层裂缝识别时,存在裂缝识别率低,储层评价不准确等问题;而成像测井方法(FMI)识别效果好,但成本过高。为了提高常规测井裂缝识别的准确率,首先采用BP(back propagation)神经网络方法,建立常规测井参数与裂缝发育程度之间的非线性关系。在神经网络样本选取上,引入K-means聚类算法,依据不同样本特征对其进行优化分类。最后,利用聚类结果分别建立更为精细的神经网络模型,并用于实际裂缝预测。将该方法应用于塔河油田碳酸盐岩储层A探井,识别结果表明:基于样本优化方法的裂缝密度曲线拟合效果(相关系数R分别为0.84、0.89、0.76)明显优于未考虑样本优化方法(R为0.58),验证了本文方法的优越性,可以将其作为一种识别储层裂缝发育程度的新方法。     

多价值链视角下基于深度学习算法的制造企业产品需求预测

多价值链协同发展背景下,制造企业没有充分考虑服务链、营销链等其他价值链对产品需求的影响。为提高制造企业产品需求预测的精度,本文提出了产品数据空间和一维卷积神经网络(One-dimensional convolutional neural networks, 1D-CNN)-长短期记忆神经网络(Long short-term memory, LSTM)的深度学习算法。首先,整合不同价值链对产品需求影响的相关数据构建产品数据空间。其次,从数据空间中获取多链数据集用于1D-CNN-LSTM模型的预测。其中,1D-CNN通过两次卷积池化操作获取数据的深层次特征,LSTM则通过进一步学习数据特征中的重要信息来进行时间序列预测。最后,通过某电气设备制造企业生产销售的环网柜产品的相关数据进行算例分析,并与其他几种模型进行预测结果比较。结果表明：1D-CNN-LSTM模型的预测效果优于神经网络模型和单一的LSTM模型。可见本文提出的1D-CNN-LSTM深度学习模型更具优越性,预测效果好。     

W-RBF神经网络模型在中药材价格预测中的应用

中药材作为一种特殊的农产品,其价格态变化过程呈现出高度复杂的非线性特征,增加了中药材价格预测的难度.通过研究影响中药材价格的主要因素,并在分析传统价格预测方法的基础上,针对中药材价格变化具有随机性、突变性和非线性的特点,通过小波和RBF神经网络结合构建一个中药材价格预测模型(W-RBF).采用W-RBF神经网络模型对白芍价格进行预测,并将预测结果与RBF神经网络模型预测结果做了比较.实验结果说明,W-RBF神经网络模型预测准确率明显提高,比RBF神经网络模型更具优越性.     

利益相关者视角下智慧高速公路可持续运营效益识别模型

首先构建智慧高速公路利益相关者认知及可持续运营效益的测量指标,然后建立融合One-Hot编码和深度神经网络(DNN)的模型(OH-D模型),以帮助各利益相关者在项目建设前期高效识别智慧高速公路项目可持续运营效益(包括运输效率、服务水平、相关产业发展水平、生产要素流动效率),并在建设、运营过程中采取有效的组织措施和管理对策.结果表明：该模型能根据利益相关者认知识别智慧高速公路项目可持续运营效益,其准确率达96.1%;同时,准确性、收敛速度均优于传统DNN、极端梯度提升(XGBoost)、K-最近邻(KNN)及支持向量机(SVM)等模型.所提模型为立足利益相关者视角识别智慧交通基础设施项目运营效益提供了分析工具和决策支持.     

改进BP神经网络在交通事故预测中的研究

交通事故严重程度受多种因素的影响,适合用人工神经网络来建模预测.因为标准BP(Back Propagation,BP)神经网络具有收敛较慢的缺陷,所以在自适应学习和附加动量因子改进BP神经网络~([1])基础上做了进一步的优化改进,使附加动量因子也具有自学习性.利用改进后的BP神经网络算法,选取英国利兹市的公开交通事故数据集,用影响交通事故严重程度的多种影响因素和事故严重程度构建并训练神经网络,并对最新数据进行预测.通过大量的实验对比收敛速度和预测结果,验证了改进后的算法具有更快的收敛速度和更高的预测准确率.     

基于自适应惯性权重优化后的粒子群算法优化误差反向传播神经网络和深度置信网络（DBN-APSOBP）组合模型的短期旅游需求预测研究

旅游需求的精准预测对于旅游景区资源调度和管理有着重要作用。单一的浅层学习算法无法很好地拟合旅游客流量的特征,针对上述问题,本文通过组合深度学习和浅层学习算法,同时结合网络搜索行为数据,建立深度置信网络和利用自适应惯性权重优化后的自适应惯性权重优化的粒子群算法(APSO)去优化误差反向传播神经网络(BP)神经网络——APSO-BP的组合预测模型,用深度置信网络(DBN)模型对原始非线性客流量数据预测,再对DBN模型预测所产生的残差建立APSO-BP模型进行预测,将二者预测值合成后得到最终的预测值。通过实验证明了该组合模型能够较为准确的拟合客流量数据特征,有效地提高了预测精度。     

基于局部结构保持的高维数据半监督深度嵌入聚类算法

聚类是机器学习和数据挖掘中的重要课题。近年来,深度神经网络(Deep Neural Networks,DNN)在各种聚类任务中受到广泛关注。特别是半监督聚类,在大量无监督数据中仅引入少量先验信息即可显著提高聚类性能。然而,这些聚类方法忽略了定义的聚类损失可能破坏特征空间,从而导致非代表性的无意义特征。针对现有半监督深度聚类的特征学习过程中局部结构保持有所欠缺的问题,本文提出一种改进的半监督深度嵌入聚类(Improved Semi-supervised Deep Embedded Clustering,ISDEC)算法,采用欠完备自动编码器在特征表达学习的同时,保持数据的内在局部结构;通过综合聚类损失、成对约束损失和重构损失,对聚类标签分配和特征表达进行联合优化。在包括基因数据在内的若干高维数据集上的实验结果表明,本方法的聚类性能比现有方法更好。