CWGAN-DNN：一种条件Wasserstein生成对抗网络入侵检测方法

针对现有的基于机器学习的入侵检测系统对类不平衡数据检测准确率低的问题,提出一种基于条件Wasserstein生成对抗网络(CWGAN)和深度神经网络(DNN)的入侵检测(CWGAN-DNN).CWGAN-DN N通过生成样本来改善数据集的类不平衡问题,提升对少数类和未知类的检测效率.首先,通过变分高斯混合模型(VGM)对原始数据中的连续特征进行处理,将连续特征的高斯混合分布进行分解;然后利用CWGAN学习预处理后数据的分布并生成新的少数类数据样本、平衡训练数据集;最后,利用平衡训练集对DNN进行训练,将训练得到的DNN用于入侵检测.在NSL-KDD数据集上进行的实验结果表明:利用CWGAN生成的数据进行训练,DNN的分类准确率和F1分数提升了5％,AUC下降了2％;与其他类均衡方法相比,CWGAN-DNN的准确率至少提升了3％、F1分数和AUC提升了1％.     

基于量表大数据的深度神经网络抑郁分类模型

针对抑郁相关量表大数据所面临的特征冗余、特征维度单一、特征子集难以确定等问题,提出了一种基于深度神经网络（deep nural network,DNN）的抑郁分类模型．通过结合主成分投影k-means（principal component, PC k-means）,在不破坏原有特征空间的条件下对量表大数据进行特征选择,并对原始算法的随机性与聚类个数不确定的问题进行了优化;在此基础上,为了增强抑郁识别维度的多样性,构建了引入因子分解机（factorization machines,FM）的DNN抑郁分类模型．分析和对比结果表明:PC k-means不仅可以有效地选择特征,而且与传统分类器和FM-DNN结合,更能提高抑郁分类的准确率,为深度学习引入量表大数据分析提供了新的研究思路与方向．      

基于变异粒子群优化与深度神经网络的航空弹药消耗预测模型

为了提高航空弹药的供应保障效率,将变异粒子群优化(MPSO)融入深度神经网络(DNN),研究航空弹药训练消耗预测问题。通过DNN确定网络各层的最优激活函数,基于MPSO参数寻优得到网络各层最优的权值和阈值,进而构建MPSO与DNN融合的航空弹药训练消耗预测模型。实验研究表明,该文组合预测模型在对5年数据的预测中均方误差为0.000 9,与粒子群优化-深度神经网络(PSO-DNN)模型、DNN模型以及反向传播神经网络(BPNN)模型相比具有更好的预测性能。     

基于改进FM算法和注意力机制的深度点击率预估模型

针对目前的广告点击率预估模型未能充分学习低阶特征且忽略了不同高阶特征对模型准确率的影响不同的问题,提出了一种基于注意力机制和深度学习的点击率预估模型。该模型采用改进因子分解机(Factorization machine, FM)算法,将全息简化表示(Holographic reduced representation, HRR)的压缩外积用于FM中,从而更好地学习低阶特征,帮助模型获得更好地表示。采用深度神经网络(Deep neural network, DNN)对高阶特征建模学习。引入注意力神经网络区分不同高阶特征交互的重要性来更好地学习高阶特征,从而得到一种能够同时有效学习到低阶特征和高阶特的点击率(Click-through rate, CTR)模型——基于改进FM算法和注意力机制的深度点击率预估模型(Deep click rate prediction model based on attention mechanism and improved FM algorithm, DAHFM)以提升模型的预估性能。在Criteo和MovieLens-1M数据集上大量的实验表明,DAHFM模型相比逻辑回归(Logistic regression, LR)、FM和DeepFM等模型不仅有效学习了特征信息,而且一定程度上提升了模型的性能和点击率的预估效果。     

指数趋势预测的BP-LSTM模型

本文根据股指、股价等数据的时序特征将人工神经网络(ANN)与深度学习中的循环神经网络(RNN)引入股指预测,基于BP神经网络模型与长短期记忆(LSTM)神经网络模型构建了BP-LSTM模型.基于上证指数,本文进行了进行数值实验.结果表明BP-LSTM预测模型的准确率相比传统机器学习模型有明显提升,与普通LSTM模型相比也有较大提升.     

莱斯衰落信道下 MQAM 信号调制方式自动识别方法

针对受莱斯衰落影响的4QAM、16QAM、32QAM、64QAM、128QAM、256QAM六类信号,分别研究了卷积神经网络（CNN）模型以及特征参数结合深度神经网络（DNN）分类器模型的调制方式识别性能。CNN模型需要大量带标签的数据集以及很长的训练时间才能获得较好的识别性能,而特征参数结合深度神经网络分类器模型所需训练时间较短,但其分类性能受限于特征参数的设计。针对以上问题,研究了混合高阶矩作为特征参数集,再将DNN作为分类器对多进制正交幅度调制（MQAM）信号进行识别的方法。仿真结果表明,该方法在低信噪比情况下对受莱斯衰落影响的MQAM信号识别准确率高于CNN模型,且分类准确率上限明显高于采用高阶累积量作为特征参数的方法。     

基于改进深度森林的短期电力负荷预测模型

深度学习模型通过学习数据的深层特征能够有效提高电力负荷预测的准确率,但同时也带来了超参数较多、模型可解释性差等问题。针对这些问题,文中将深度森林模型引入短期电力负荷预测领域。在多粒度级联森林模型的基础上改进了多粒度窗口扫描方法,调整窗口大小与滑动步长,使模型能够在不同时间尺度下提取电力负荷数据的周期性特征。此外,改进深度森林输出层的计算方法,将输出结果由离散的类向量改进为连续的预测值,进而提高模型的精确度。最后在中国东北电网的实测数据中验证了文中所提出方法的可行性与有效性。从实验结果可知,改进深度森林算法在较高预测精度的情况下能取得更高的准确率,并且相较于深度神经网络具有更快的学习速度。     

基于压缩激励网络的注意力因子分解机的点击率预测模型

在互联网技术日趋成熟的今天,广告的点击率(click-through rate, CTR)预测得到越来越多的关注。在特定的商业环境下,广告CTR预测模型的改进可以带来巨大的经济效益。然而特征的多样性和复杂性使得传统的预测模型难以发现海量特征中的重要特征。针对上述问题,提出了基于压缩激励网络的注意力因子分解机的点击率预测模型(squeeze and excitation network based attentional factorization machines model for click-through rate prediction, SEAFM),SEAFM模型通过压缩和激励网络来动态学习特征的重要性,通过注意力网络来学习特征交互的权重,通过深度神经网络(deep neural network, DNN)模块来隐式建模高阶特征交互。实验结果显示,SEAFM模型比现有相关模型具有更好的性能。     

基于模糊层次分析法的采动地裂缝发育等级评价——以沁水煤田为例

煤炭资源的开采对生态环境造有极大破坏。为准确掌握采煤裂缝的诱发因素、发育规律并对裂缝发育等级进行预测,基于层次分析法和模糊综合评价法建立采动地裂缝发育等级评价模型。根据工程条件,确定合适的评价指标体系,依据层次分析法确定各评价指标权重,通过模糊数学方法构造隶属函数,并以某矿80806与80808工作面为研究背景,对地裂缝发育情况进行模糊综合评价。结果表明：工作面上方地表裂缝发育情况与所提出评价方法的评价结果匹配良好,说明所提出的评价方法适合该煤矿的采动地裂缝发育等级评价,评价结果对开采沉陷损害程度评价具有一定的指导意义。     

基于Logistic回归深层神经网络的电力系统故障概率诊断

故障诊断软件作为SCADA系统中的标准模块,仍存在着误报率高的问题.针对该问题,本文提出了基于Logistic回归深度学习的故障诊断新模型及算法,以进一步提高诊断的准确率.该新模型及算法的构建过程如下:首先,对于每一元件均建立回归型深度学习神经网络(DNN),其输入为处理成1/-1之后的元件故障特征向量,其输出为相应元...     

基于GD-DNN模型的岩爆烈度等级预测方法与应用

岩爆是深埋隧道施工过程中开挖时形成临空面，引起能量突然释放的现象，轻则岩片剥落，重则造成人员伤亡和财产损失，其危害程度取决于岩爆烈度等级，因此岩爆烈度等级预测是急需解决的难题之一。本文针对单一指标预测法预测效果不理想的问题，首先设计并实现了综合指标法和针对多分类问题的分类器，其次提出并建立了基于梯度下降(Gradient Descent)算法优化深度神经网络(Deep Neural Network)的GD-DNN岩爆烈度等级预测模型。实验结果表明：GD-DNN模型预测的准确率达到95.8%，相比机器学习算法K最近邻(K-nearest neighbor，KNN)、支持向量机（support vector machine，SVM)和深度学习算法DNN分别提高了45.8%、38.7%和8.3%，同时在精确率、召回率和??1值三项指标上均优于其他模型。最后在秦岭隧道、大相岭隧道、通渝隧道和马路坪矿井4个实际工程中检验模型的预测效果，检验结果证明GD-DNN模型能够精准预测岩爆烈度等级，研究成果可应用于深埋隧道工程中。     

基于样本优化的神经网络方法在储层裂缝识别中的应用

常规测井资料解释应用于非常规储层裂缝识别时,存在裂缝识别率低,储层评价不准确等问题;而成像测井方法(FMI)识别效果好,但成本过高。为了提高常规测井裂缝识别的准确率,首先采用BP(back propagation)神经网络方法,建立常规测井参数与裂缝发育程度之间的非线性关系。在神经网络样本选取上,引入K-means聚类算法,依据不同样本特征对其进行优化分类。最后,利用聚类结果分别建立更为精细的神经网络模型,并用于实际裂缝预测。将该方法应用于塔河油田碳酸盐岩储层A探井,识别结果表明:基于样本优化方法的裂缝密度曲线拟合效果(相关系数R分别为0.84、0.89、0.76)明显优于未考虑样本优化方法(R为0.58),验证了本文方法的优越性,可以将其作为一种识别储层裂缝发育程度的新方法。     

多价值链视角下基于深度学习算法的制造企业产品需求预测

多价值链协同发展背景下,制造企业没有充分考虑服务链、营销链等其他价值链对产品需求的影响。为提高制造企业产品需求预测的精度,本文提出了产品数据空间和一维卷积神经网络(One-dimensional convolutional neural networks, 1D-CNN)-长短期记忆神经网络(Long short-term memory, LSTM)的深度学习算法。首先,整合不同价值链对产品需求影响的相关数据构建产品数据空间。其次,从数据空间中获取多链数据集用于1D-CNN-LSTM模型的预测。其中,1D-CNN通过两次卷积池化操作获取数据的深层次特征,LSTM则通过进一步学习数据特征中的重要信息来进行时间序列预测。最后,通过某电气设备制造企业生产销售的环网柜产品的相关数据进行算例分析,并与其他几种模型进行预测结果比较。结果表明：1D-CNN-LSTM模型的预测效果优于神经网络模型和单一的LSTM模型。可见本文提出的1D-CNN-LSTM深度学习模型更具优越性,预测效果好。     

W-RBF神经网络模型在中药材价格预测中的应用

中药材作为一种特殊的农产品,其价格态变化过程呈现出高度复杂的非线性特征,增加了中药材价格预测的难度.通过研究影响中药材价格的主要因素,并在分析传统价格预测方法的基础上,针对中药材价格变化具有随机性、突变性和非线性的特点,通过小波和RBF神经网络结合构建一个中药材价格预测模型(W-RBF).采用W-RBF神经网络模型对白芍价格进行预测,并将预测结果与RBF神经网络模型预测结果做了比较.实验结果说明,W-RBF神经网络模型预测准确率明显提高,比RBF神经网络模型更具优越性.     

利益相关者视角下智慧高速公路可持续运营效益识别模型

首先构建智慧高速公路利益相关者认知及可持续运营效益的测量指标,然后建立融合One-Hot编码和深度神经网络(DNN)的模型(OH-D模型),以帮助各利益相关者在项目建设前期高效识别智慧高速公路项目可持续运营效益(包括运输效率、服务水平、相关产业发展水平、生产要素流动效率),并在建设、运营过程中采取有效的组织措施和管理对策.结果表明：该模型能根据利益相关者认知识别智慧高速公路项目可持续运营效益,其准确率达96.1%;同时,准确性、收敛速度均优于传统DNN、极端梯度提升(XGBoost)、K-最近邻(KNN)及支持向量机(SVM)等模型.所提模型为立足利益相关者视角识别智慧交通基础设施项目运营效益提供了分析工具和决策支持.     

改进BP神经网络在交通事故预测中的研究

交通事故严重程度受多种因素的影响,适合用人工神经网络来建模预测.因为标准BP(Back Propagation,BP)神经网络具有收敛较慢的缺陷,所以在自适应学习和附加动量因子改进BP神经网络~([1])基础上做了进一步的优化改进,使附加动量因子也具有自学习性.利用改进后的BP神经网络算法,选取英国利兹市的公开交通事故数据集,用影响交通事故严重程度的多种影响因素和事故严重程度构建并训练神经网络,并对最新数据进行预测.通过大量的实验对比收敛速度和预测结果,验证了改进后的算法具有更快的收敛速度和更高的预测准确率.     

基于自适应惯性权重优化后的粒子群算法优化误差反向传播神经网络和深度置信网络（DBN-APSOBP）组合模型的短期旅游需求预测研究

旅游需求的精准预测对于旅游景区资源调度和管理有着重要作用。单一的浅层学习算法无法很好地拟合旅游客流量的特征,针对上述问题,本文通过组合深度学习和浅层学习算法,同时结合网络搜索行为数据,建立深度置信网络和利用自适应惯性权重优化后的自适应惯性权重优化的粒子群算法(APSO)去优化误差反向传播神经网络(BP)神经网络——APSO-BP的组合预测模型,用深度置信网络(DBN)模型对原始非线性客流量数据预测,再对DBN模型预测所产生的残差建立APSO-BP模型进行预测,将二者预测值合成后得到最终的预测值。通过实验证明了该组合模型能够较为准确的拟合客流量数据特征,有效地提高了预测精度。     

考虑航路网络结构的离场航班延误预测模型

针对离场航班延误预测缺少对航路网络结构因素的考虑，以及传统多分类预测难以满足高精度的需求，本文提出了一种考虑航路网络结构的离场航班延误预测模型。首先，根据离场航班所在终端区的航路网络结构，提出了航路拥挤指标，即航路流量、航路拥挤度和航路网络拥挤度，从航路网络和网络结构2个维度量化分析了拥挤特征，构造了航路拥挤数据集；然后，基于深度神经网络（deep neural network，DNN），构建了考虑航路网络结构的离场航班延误预测模型；最后，分析各类别延误样本比例，调整焦点损失函数的平衡因子以及各模型参数，进行了不同损失函数、不同数据集和不同模型参数的对比实验。结果表明：调整平衡因子后，模型预测准确率提高了2.3个百分点，融入航路拥挤数据集后，准确率继续提高了1.52个百分点，并且最终达到93.47%。可见，本文所提模型能够对离场航班延误作出有效准确判断，为民航相关单位提供决策参考。     

基于门循环单元神经网络模型的煤层底板突水动态预测

在煤层底板突水理论及现场实测数据分析基础上,建立了煤层底板突水影响因素突水指标,并通过Wrapper评价策略的特征选择,筛选出了影响煤矿底板突水的主控因素。在对动态的煤层底板突水门循环单元神经网络模型进行训练并完成构建之后,将其与三种静态神经网络预测模型进行比较。结果表明:煤层底板突水门循环神经网络模型预测的准确率在训练、验证及测试阶段都高于静态神经网络预测模型,能够很好地完成煤层底板突水预测,提高煤矿生产安全。     

基于局部结构保持的高维数据半监督深度嵌入聚类算法

聚类是机器学习和数据挖掘中的重要课题。近年来,深度神经网络(Deep Neural Networks,DNN)在各种聚类任务中受到广泛关注。特别是半监督聚类,在大量无监督数据中仅引入少量先验信息即可显著提高聚类性能。然而,这些聚类方法忽略了定义的聚类损失可能破坏特征空间,从而导致非代表性的无意义特征。针对现有半监督深度聚类的特征学习过程中局部结构保持有所欠缺的问题,本文提出一种改进的半监督深度嵌入聚类(Improved Semi-supervised Deep Embedded Clustering,ISDEC)算法,采用欠完备自动编码器在特征表达学习的同时,保持数据的内在局部结构;通过综合聚类损失、成对约束损失和重构损失,对聚类标签分配和特征表达进行联合优化。在包括基因数据在内的若干高维数据集上的实验结果表明,本方法的聚类性能比现有方法更好。