基于LSTM和注意力机制的蛋白质-配体结合亲和力预测

蛋白质-配体的结合亲和力预测是药物重定位回归中具有挑战性的任务。深度学习方法可以有效预测蛋白质与配体相互作用的结合亲和力,减少药物发现的时间和成本。由此,基于长短期记忆模块(LSTM)和注意力机制模块(attention)提出了一种深度卷积神经网络模型(DLLSA)。模型由嵌入LSTM和空间注意力模块(spatial-attention)的卷积网络并行模块构建,其中LSTM模块针对蛋白质-配体接触特征的长序列信息,spatial-attention注意力模块聚集接触特征局部信息。采用PDBbind(v.2020)数据集进行训练,CASF-2013和CASF-2016数据集进行验证,模型的皮尔逊相关系数相比于PLEC模型分别提高了0.6%和3%,实验结果显著优于其他相关方法。     

结合改进的DCGAN和Attention-LSTM的光伏功率预测

针对新建光伏发电站在光伏功率预测过程中由于缺少训练数据导致预测精度较低以及光伏发电功率的不稳定等问题,本文提出一种结合改进的深度卷积生成对抗网络（DCGAN)、 注意力机制（Attention）和LSTM网络组合的光伏功率预测方法。首先,将DCGAN中生成器的特征提取网络由二维卷积改为一维卷积,更好的学习一维时序数据,并用改进的DCGAN对光伏数据进行扩充,其次,采用Attention模块和LSTM模型相结合,先通过Attention模块提高重要特征的权重占比,生成新的输入特征,再通过LSTM模型进行功率预测。采用澳大利亚沙漠知识太阳能中心(DKASC)Alice Springs电站的数据进行验证,实验结果表明,结合深层卷积生成对抗网络与Attention-LSTM的混合预测方法能有效提升预测的精度。     

基于自适应神经网络的云资源预测模型

为了避免容器云资源因资源供求不均衡而导致的资源利用率差等问题,需要对未来时刻的资源需求情况进行预测来进行更精准的调度和分配资源,因此,结合神经网络的高效学习能力与自适应调整的学习率,提出一种基于自适应神经网络的云资源预测模型。首先,融合卷积神经网络(convolutional neural network, CNN)和长短期记忆(long short-term memory, LSTM)网络的特点去挖掘历史数据的特征,预测未来的资源需求;然后,根据模型预测情况自适应调整学习率,提高模型预测的精度。使用Microsoft Azure公开数据集进行测试,相较于单一模型CNN、LSTM和未加入自适应学习率的神经网络模型,均方根误差分别下降了17.74%、18.27%和6%,证明了模型的有效性。     

CNLSTM模型预测城市积水

物联网平台能够为积水预测提供海量的传感器时间序列数据基础.为了精准且快速地预测城市内涝点积水趋势,提出一种基于神经网络的组合时序预测模型(CNLSTM),对多变量积水时间序列数据进行建模预测.此模型利用卷积神经网络(convolutional neural network,CNN)提取多变量数据之间的空间特征,得到具有空间相关性的特征量,利用长短时记忆网络(long short-term memory,LSTM)提取特征量之间的时间相关性预测未来积水水位.仿真结果表明,所提预测模型可以很好地捕获积水点水位与各输入量之间的非线性关系,并且比CNN,LSTM以及反向传播(back propagation,BP)神经网络具有能更好拟合实际水位的效果,更高的精度和泛化能力.此模型在城市积水预测中的有效性和适用性得到了验证,能够为积水点的提前预警、准备及汛前、汛中汛后治理方案的制定提供可靠的参考依据.     

基于深度学习的城市区域短时交通拥堵预测算法

城市的交通拥堵已经成为了各个城市中的普遍现象,严重影响了城市日常交通以及人们的出行。针对城市区域交通流的研究与分析,本文为了准确的对城市交通状态进行预测,通过网格划分的方法,把城市区域划分为多个区域,根据城市交通数据流的时空特征,提出了一种基于深度学习的城市交通拥堵预测模型（CS-Transformer）。该模型通过使用卷积神经网络(CNN)提取基于网格划分的城市区域交通数据的空间特征,然后采用全连接神经网络增强模型的表达能力,再通过相似性位置编码机制(SPEM)把位置信息加入交通数据中,最后运用Transformer网络捕捉交通数据的时间依赖特征。用成都市出租车GPS数据对模型进行验证,结果表明该模型预测结果优于卷积神经网络（CNN）、Transformer和CNN-Transformer等模型,以均方误差（MSE）为评价指标,将测试集中交通路网的平均预测精度分别提高了 19.6%、26.3%和10%。     

指数趋势预测的BP-LSTM模型

本文根据股指、股价等数据的时序特征将人工神经网络(ANN)与深度学习中的循环神经网络(RNN)引入股指预测,基于BP神经网络模型与长短期记忆(LSTM)神经网络模型构建了BP-LSTM模型.基于上证指数,本文进行了进行数值实验.结果表明BP-LSTM预测模型的准确率相比传统机器学习模型有明显提升,与普通LSTM模型相比也有较大提升.     

基于一维倒残差轻量级网络的无人机个体识别方法

在无人机的个体识别问题中，针对传统的识别方法存在网络模型参数量大和算法时效性差等问题，提出基于一维倒残差轻量级神经网络(1D-IRLNN)的无人机个体识别方法。首先提取反映无人机个体间差异的I/Q包络一维特征作为无人机的浅层特征；其次将深度可分离卷积与倒残差结构等设计思想和一维神经网络模型相结合，设计出跳跃级联的一维倒残差轻量级神经网络；最后利用网络模型提取一维I/Q包络数据中的深层特征，从而实现对无人机个体的快速准确识别。实验结果表明，1D-IRLNN模型的计算量分别是同等体量的深度模型1D-CNN与1D-ResNet的305%和238%，网络模型规模分别是深度模型1D-CNN与1D-ResNet的387%和297%，所提方法相较于其他方法，在保持较高识别准确率的同时具有更快的识别速度且占内存更小。     

基于改进的长短期记忆网络的调制识别算法

自动调制分类技术是无线通信技术中的一个重要研究领域,卷积神经网络以及长短期记忆网络(Long Short-Term Memory,LSTM)两种深度学习模型在基于特征的自动调制分类技术中得到了广泛的应用.然而在实际应用中这两种模型都存在着一些问题,卷积神经网络模型在处理长时间依赖序列的分类任务时的准确率不佳,LSTM模型的时间性能会随着输入数据规模的增大显著下降.针对以上问题,提出一种基于带有注意力机制的LSTM网络的调制识别算法.首先,读取一定采样长度的信号原始数据,并通过长短期记忆网络提取信号特征;然后,利用注意力机制为学习到的特征分配权重以减少数据冗余;最后,分类器根据学习到的特征输出分类结果.仿真实验结果表明,新算法能以较低的时间代价取得较高的准确率.     

基于PaddlePaddle的股票预测深度学习模型

利用上证指数股票历史数据中的开盘价、收盘价、最低价、最高价、交易量、交易额、跌涨幅等数据,通过对股票数据进行归一化等预处理操作后,使用Python语言和PaddlePaddle库编写算法程序,构建股票预测的LSTM神经网络模型,对上证指数的股票下一日的最高价股票价格进行分析预测,预测结果显示本文所构建的基于PaddlePaddle的LSTM神经网络模型能够取得较好的预测效果,可见基于PaddlePaddle的股票预测深度学习模型有很好的应用前景.     

基于深度学习的采动地裂缝成因分析和预测

基于深度学习,提出了一种分析采动地裂缝成因及预测地裂缝发育程度的方法。通过分析官地煤矿的井田地质测量资料和实地调查,确定了11类影响地裂缝发育的因素;依据地裂缝面积与采空区面积的比值,将地裂缝发育程度分为4类。利用深度学习的方法,构建了全连接深度神经网络模型(DNN)对裂缝发育程度进行预测;以预测准确率为指标,通过6次特征选择对影响因素的重要性进行了分析。特征选择的结果表明:开采层数、开采总厚度、开采宽度、开采深度、砂泥岩比、开采长度是影响地裂缝发育的主要特征,地质构造和地表出露是次要特征,煤层倾角、地形坡度、相对位置是冗余特征。与卷积神经网络(CNN)及循环神经网络(RNN/LSTM)模型的训练结果相比,DNN模型预测准确率较高。     

基于改进果蝇算法和长短期记忆神经网络的油田产量预测模型

产量预测是油田生产动态开发研究的重要内容之一。油田的长期生产积累了大量数据,但是波动幅度很大,直接应用长短期记忆神经网络预测油田的生产指标,会出现神经网络泛化性很差的问题。因此,首先利用双层长短期记忆神经网络(long-short term memory,LSTM)和随机式失活对神经网络架构进行调整,建立了深度学习神经网络模型;并提出了一种新的果蝇聚集方法,通过改进的果蝇优化算法对所建立的神经网络模型进行优化,避免其陷入局部最优解,搜寻解空间的最优解;最后,油田实例验证表明,优化后的深度学习网络的网络泛化能力和预测精度有了较大提高,对于油田波动性较大的数据也能较好地拟合。所建立油田产量预测模型可应用于矿场开发实际。     

基于关联规则及组合模型的面料需求预测

由于服装的面料组成具有复杂性,企业在不同时间对不同规格型号面料需求量不一致,传统的人工预测及单维度智能预测模型难以解决问题。针对服装企业面料需求非确定性、预测难的痛点,提出基于关联规则及组合模型的面料需求预测方法。文章首先构建Apriori面料型号关联模型,挖掘多批多类面料间的型号关联规则;然后构建Prophet时间序列模型与长短期记忆神经网络(long short-term memory,LSTM)的组合预测模型Prophet-LSTM,结合其在解决面料需求预测问题上的优势;最后将挖掘出的高关联面料型号历史需求数据作为输入,采用量子粒子群算法(quantum particle swarm optimization,QPSO)优化组合模型权值系数,进行关联面料需求量预测。使用RMES(root mean squared error,RMSE)及MAE(mean absolute error,MAE)作为评价指标设计对比实验,实验结果表明：采用量子粒子群优化的QPSOProphet-LSTM面料需求预测模型RMES较Prophet降低5.464,较LSTM降低1.184;MAE较Prophet降低4.261,较LSTM降低0.819,需求预测精度更高,支持服装企业面料柔性生产。     

高频数据下基于LSTM的协方差矩阵预测模型

协方差矩阵的建模与预测,对于金融风险管理、投资组合管理等至关重要。 针对时间序列模型 对高维变量预测精度较低的问题,利用长短记忆神经网络模型(LSTM),提出了基于深度学习的高频数据已 实现协方差矩阵预测模型。 利用金融高频数据得到已实现协方差矩阵,对其进行 DRD 分解,针对相关系数 矩阵 R 进行向量化处理,利用向量异质自回归模型(HAR)预测已实现相关系数矩阵 R;针对已实现波动率 矩阵 D,利用半协方差(semi covariance)思想,结合 LSTM 模型,得到已实现波动率矩阵 D 的深度学习预测模 型,构建了 LSTM-SDRD-HAR 已实现协方差矩阵动态预测模型。 LSTM 模型和 HAR 模型能捕捉实际数据 的长期记忆性,半协方差有利于捕捉金融数据的杠杆性。 实证分析表明:相较于传统向量 HAR 已实现协方 差矩阵预测模型,LSTM-SDRD-HAR 预测已实现协方差矩阵更为准确,基于 LSTM-SDRD-HAR 预测已实现 协方差矩阵构造的有效前沿组合投资效果更佳。     

基于季节性自回归积分滑动平均与深度学习长短期记忆神经网络的降水量预测

降水量数据是一种非线性、非平稳的时序序列,传统的方法较难获取数据的变化规律,深度学习长短期记忆(long short-term memory,LSTM)能较好地处理多要素变量与降水量之间的非线性关系.利用扬州市区1960—2019年8种气象基本要素数据,采用传统季节性自回归积分滑动平均(seasonal autoreg...     

使用AVL数据的公交到站时间CEEMD-LSTM预测模型

准确的公交到站时间预测具有重要意义，但现实公交运行受突发路况影响，运行速度具有非平稳性，本文结合时序特征处理技术和深度学习，建立一种使用AVL数据预测公交到站时间的互补集合经验模态分解-长短期记忆神经网络模型。模型收集公交自动车辆定位数据，经预处理后引入互补集合经验模态分解平稳化公交运行速度，再借助Adam参数寻优后的长短期记忆神经网络对福州市303路公交某日早高峰公交到站时间进行预测。结果表明：优化的公交到站时间预测模型平均绝对误差比单一模型低了1.69min，预测精度高于长短期记忆神经网络模型和经验模态分解的到站时间预测模型，可有效地为安装车载自动车辆定位系统的公交线路预测公交到站时间提供参考。     

基于LSTM神经网络的乘用车能耗预测

为改善当今石油供需矛盾和环境问题,针对乘用车提出了基于LSTM神经网络的燃油乘用车能耗预测模型。通过纵向动力学建模并匹配相应车型进行求解,结合GB/T 38146.1行驶工况数据,得出能耗随时间的变化率。构建LSTM神经网络架构,根据处理后的数据样本,对LSTM神经网络进行训练和评价。最后,通过LSTM神经网络和BP神经网络的仿真对比表明,随着迭代周期的增加,LSTM神经网络模型具有更高的精度,对能耗预测的准确性较好,对改善无人驾驶车辆的节能减排具有工程应用价值。     

递归神经网络预测在库存管理决策中的应用

为解决供应链中库存管理的不确定性问题，建立了基于递归神经网络技术的需求预测模型，并在此基础上提出了该模型的学习算法．通过实验仿真将该模型同经典多层前馈神经网络模型的预测效果相比较，得出了该模型在多步预测方面比较优越的结论．利用某企业的销量预测进行了实例验证，效果良好．     

基于超距雷达数据的车辆跟驰行为分析及建模

针对高速公路车辆跟驰特性及速度预测问题,基于超距雷达数据分析了高速公路车辆跟驰特性,建立起基于长短期记忆（long short term memory,LSTM）的跟驰速度预测模型。首先,根据数据特点建立了处理规则并筛选跟驰序列。其次,根据车身长度将跟驰车划为大型车与小型车,分析了车辆在跟驰过程中速度、车速差、车间距和车头时距等参数的分布及相对变化关系。然后,将前车速度、位置差、上一时刻车头时距作为模型输入,跟驰车速度作为模型输出,构建了基于LSTM的跟驰速度预测模型,模型预测精度达到99.75%。最后,以高速公路数据为例进行验证,传统机器学习支持向量回归（support vector regression,SVR）模型的预测性能低于深度学习模型,LSTM模型的R Square较SVR模型提升了4.37%;作为LSTM的结构简化变体,在相同的结构参数下,门控循环单元（gated recurrent unit,GRU）模型的预测性能并未提升,但训练速度较LSTM模型提高了28.48%。深度学习LSTM、GRU模型能够更精准地预测高速公路的车辆跟驰速度。