基于鲸鱼算法优化长短时记忆神经网络的锂电池剩余寿命预测

为确保锂电池在军用无人机以及新能源汽车使用期间的安全性,需要对其进行全生命周期的健康监测和寿命预测。针对长短期记忆神经网络(Long Short-Term Memory, LSTM)模型参数较难选取导致所建立的锂电池剩余使用寿命预测方法精度不足问题,文中提出一种基于鲸鱼优化算法(Whale Optimization Algorithm, WOA)对LSTM的剩余寿命预测模型(WOA-LSTM)进行优化。首先使用WOA算法对LSTM的隐含层神经元数量、学习率进行寻优,避免经验选取参数的盲目性;其次将寻优后的超参数重新赋值给LSTM网络,构建与锂电池数据特征更为匹配的预测模型;最后采用NASA PCoE实验室锂电池的失效数据集验证算法的有效性。仿真结果表明,文中所提出的预测模型相较于LSTM模型、Elman模型、PSO-LSTM模型精度平均分别提升了7%、4%、3%,具有较好的预测效果。     

基于双注意力深度学习的在线资源推荐

为了提高在线资源推荐的性能，采用深度学习卷积神经网络(Convolutional neural network, CNN)进行资源推荐，同时对资源-用户特征进行双注意力机制特征提取，以进一步提高推荐精准度。对资源-用户特征进行编码并初始化，分别进行通道注意力机制运算和空间注意力机制运算。将两个注意力机制的运算结果加权求和得到新的用户-资源特征。建立基于CNN的在线资源推荐模型，并以资源和用户的最小特征差作为损失函数进行迭代优化，从而求解出CNN网络参数。通过双注意力机制的用户-资源特征输入到CNN模型，并执行训练以获得符合用户需求的推荐结果。试验结果表明，通过合理设置双注意力机制通道数及卷积核尺寸等参数，可以有效提高双注意力CNN的推荐性能。与常用资源推荐算法相比，所提算法在推荐准确度及稳定性方面均具有一定的提升。     

基于长短期记忆网络的协同过滤算法研究

协同过滤算法如今已经广泛地应用在推荐系统领域,但大多未考虑数据的时效特征,近期长短期记忆网络(LSTM)在用户短期偏好建模方面显示出了巨大的优势,它能描述数据随时间变化的动态特征.因此本文将LSTM与协同过滤算法相结合,提出基于LSTM的协同过滤算法模型LSMF,该模型应用循环神经网络结构来动态模拟会话上下文,建模短期行为偏好,并自适应融合长期行为偏好进行推荐.在Netflix数据集上与传统方法 BPRMF、LSTM和两种基于RNN的最新模型NARM、T-LSTM相比,用户行为预测有了显著的改进.试验结果表明,基于LSMF算法模型的推荐系统有较高的推荐准确度.     

一种利用LSTM和稳态时间序列的光伏阵列故障诊断方法

受最大功率点跟踪算法和时变环境条件的影响,光伏阵列的电气工作参数包含了复杂的暂态过程以及工频干扰噪声,严重影响了故障特征质量以及诊断算法性能。针对该问题,本文首先提出了一种基于最大功率点（MPP）的稳态时间序列预处理方法,以自动过滤数据中的暂态过程和干扰噪声,获取连续的稳态时间序列电气特征数据,作为故障诊断模型的输入参数;然后,提出了一种基于长短期记忆网络（LSTM）的深度网络模型,以实现对光伏阵列常见故障的检测及分类;最后,在一个小型光伏并网发电系统及其Simulink仿真模型上,进行故障模拟及仿真以验证所提出的故障诊断方法。实验结果表明所提出的故障诊断方法具有良好的精度和泛化性能,并且优于常规的反向传播神经网络（BPNN）和循环神经网络（RNN）。     

基于IVMD-CS-LSTM的超短期风电功率预测算法设计

功率预测对提高风电电能质量、减少风电并网时对电网的冲击起着重要作用.针对风电功率数据特征，提出一种基于改进变分模态分解（Improved Variational Mode Decomposition,IVMD）的长短期记忆神经网络（Long-Short Term Memory Network,LSTM）的风电功率预测算法，并利用布谷鸟（Cuckoo Search,CS）算法对LSTM进行超参数寻优.首先，通过相关性分析，对风电场10类数据进行特征筛选，确定与功率相关性最大的两类数据作为模型的输入数据.接着，利用IVMD计算最大包络线峰度，确定变分模态分解的最佳分解参数，将原始风速序列进行分解，得到时间尺度各异的本征模态分量（Intrinsic Mode Functions,IMF）.最后，针对LSTM神经网络模型的超参数优化困难、难以得到最优解等问题，提出采用CS算法对关键超参数进行寻优，建立了IVMD-CS-LSTM预测模型，得到了风电功率短期预测结果.采用实际风电场数据对算法进行测试，与常用预测算法比较，预测结果有更高的精度.     

基于长短期记忆神经网络的企业财务风险预警模型研究

为了提高企业财务风险预警的准确度,采用长短期记忆(LSTM)神经网络算法建立企业财务风险预警模型.首先分析企业财务风险预警指标,并选取重要度高的指标构建企业财务风险预警特征样本.然后经过LSTM神经网络训练,采用遗忘门和记忆节点对历史财务数据进行遗忘和筛选,保留部分数据代入下次神经网络训练,通过反向传播获取最优权重与阈...     

基于改进粒子群算法的LSTM股票预测模型

针对LSTM网络中存在的重要参数通常由经验决定,主观性强,或受计算成本影响无法确定最优值,导致模型的拟合能力降低等问题,提出使用改进的粒子群算法优化LSTM网络中的关键参数,减少人为因素影响,优化预测过程,从而构建预测精度更高的股票价格预测模型。该模型通过构建动态多群粒子群优化器来提高粒子群算法的寻优性能,避免出现局部最优。同时,针对股票市场数据维度高、噪声大及数据冗余导致模型训练成本增大、预测性能降低的问题,基于多种特征选择算法构建特征选择模型完成指标特征的过滤筛选,构建完善的预测指标体系。实验结果表明,所提出的股票价格预测模型的准确率得到了明显提高,且具有普遍适用性。     

GPS数据驱动的车辆跟驰行为建模与分析

为研究道路交通流特性,基于车载高精度GPS跟驰试验数据进行车辆跟驰建模研究,结合深度学习理论和数据驱动方法,构建了基于粒子群优化(particle swarm optimization, PSO)的长短期记忆(long short term memory, LSTM)车辆跟驰模型。首先,清洗和平滑车辆轨迹数据,并对驾驶特征行为参数及相关关系进行研究,如加速度、车头时距以及速度与跟驰距离特性关系等。在此基础上,制定跟驰状态筛选规则;其次,构建考虑时间序列的PSO-LSTM模型,识别跟驰数据样本集,将当前时刻的前车速度、车头间距和上一时刻的车头时距作为模型输入,预测当前时刻的跟驰车速度;接着,选用25辆车跟驰试验的高精度GPS数据验证PSO-LSTM模型性能;最后,为验证该模型的优越性,选用传统机器学习SVR(support vector regression)模型以及深度学习LSTM模型作为对比。结果表明,基于粒子群优化的长短期记忆模型预测精度高达0.993,整体预测效果高于SVR模型和LSTM模型,其中预测误差指标MAPE(mean absolute percentage error)较SVR和LSTM分别降低了60.02%、1.52%。PSO算法进行超参数优化后的PSO-LSTM模型,能更好地模拟车辆的跟驰行为。     

融入个体特征差异的鲁棒协同过滤推荐算法

针对现有推荐算法鲁棒性差的问题,提出一种融入个体特征差异的鲁棒协同过滤推荐算法.首先,根据用户评分信息的分布情况,给出用户评分个数偏离度和用户近邻平均相似度两个个体特征计算方法;然后基于真实用户和攻击用户个体特征的差异性,提出一种可疑用户标记算法;最后将可疑用户标记算法与矩阵分解技术相结合,对目标用户进行推荐.在Movie Lens数据集上通过实验比较了提出的算法和其他相关算法的性能,实验结果表明算法不仅能够提高推荐精度,而且具有较强的鲁棒性.     

基于循环神经网络的超大直径盾构掘进地表沉降预测方法研究

为了研究超大直径盾构掘进过程地面沉降规律,以武汉市和平大道南延线盾构工程为研究对象,首先收集了超大直径盾构下穿过程掘进参数和地层地质参数,并使用盾构掘进过程深跨比描述超大直径盾构影响特征;其次,通过收集现场沉降测点数据分析盾构隧道施工阶段地表沉降的影响范围,计算了90%、95%、99%三种置信区间下地表沉降影响范围;最后,选取不同范围内的多元时序数据作为输入参数,分别建立了基于贝叶斯优化算法（BO）的长短期记忆（LSTM）、BP神经网络和随机森林（RF）大直径盾构地面沉降预测模型.模型运行过程中,通过贝叶斯优化算法分别寻找三种不同模型下的最优超参数,并通过四种评价指标对比模型精度.结果如下：(1)在90%置信水平下三种算法均表现出最高精度,通过区间计算筛选有效输入参数能有效提高模型预测精度;(2)LSTM对隧道沉降的预测结果优于传统机器学习算法模型,MAPE最低达到8.91%,R2达到90%.     

基于最近邻居优化选取方法的协同过滤推荐算法

针对传统的协同过滤推荐算法推荐精度低和数据稀疏的问题,提出基于最近邻居优化选取方法的协同过滤推荐算法.首先,提出一种用户可用度计算模型,根据其他用户对目标用户的可用度计算结果,选取最近邻居候选集.然后,提出一种用户信任度计算模型,计算目标用户对最近邻居候选集中用户的信任度,进而选取目标用户的最近邻居.最后,根据最近邻居的评分情况,得到目标用户的推荐.实验结果表明,该算法提高了推荐精度,而且有效地改善了不同稀疏程度数据上的推荐效果.     

短期光伏发电系统功率预测

针对光伏功率预测没有充分利用历史数据的问题，提出一种改进随机森林算法与长短期记忆神经网络相结合的预测方法（IRF-LSTM）。利用粒子群算法优化随机森林算法中的参数，并对原始气象数据进行特征选择。将特征选择后的结果作为输入，对预测模型输出的结果进行反归一化处理得到预测的功率序列。选用某光伏电站的实测数据对该算法模型进行预测，结果表明：该方法能充分利用预测时刻之前的气象时间序列，有效提高光伏功率预测精度，与RF-LSTM方法、单一LSTM方法相比具有更高的准确性，预测误差更小。     

基于鲸鱼优化和深度学习的不平衡大数据分类算法

针对当前不平衡数据分类算法中存在的分类精度低和容易陷入局部最优状态的问题,提出一种基于鲸鱼优化和深度学习的不平衡大数据分类算法.该算法由特征选择、预处理和分类3个阶段组成:(1)为了提高分类精度,使用鲸鱼优化算法(whale optimization algorithm, WOA)在不平衡数据中寻找最优特征子集,消除不相关和多余的特征;(2)采用局部敏感哈希的合成少数类过采样技术(locality sensitive hashing synthetic minority oversampling technique, LSH-SMOT)对数据集进行预处理,解决类不平衡问题;(3)使用基于WOA算法优化的双向递归神经网络(bidirectional recurrent neural networks, BRNN)对预处理后的数据集进行分类.实验结果表明:本文算法能够有效解决不平衡数据集的分类问题,相比于其他算法,本文算法在分类精度和局部最优避免率方面具有明显优势.     

基于耦合特征LSTM的船舶运动预报方法研究

采用长短期记忆(LSTM)神经网络模型对船舶在不同海况下的运动姿态进行预报．针对LSTM模型难以优化的特点,提出了一种耦合特征LSTM神经网络模型．首先对船舶运动时间序列数据进行了归一化处理;然后基于深度学习框架TensorFlow搭建了具有输入层、隐藏层和输出层的LSTM模型;接着将原始数据按照不同特征输入形式进行划分;最后采用不同耦合特征LSTM模型分别对测试样本进行预报．结果表明：相比于其他LSTM模型,六自由度耦合特征LSTM神经网络模型的预报精度有明显优势;在四级海况下,运动预报误差降低了2.1%～12.9%;在五级海况下,运动预报误差降低了2.4%～12.3%;六特征耦合LSTM模型只须进行一次计算,就能同时输出六自由度运动,可减少51.4%～82.7%的计算时间,提升了计算效率．     

基于WiFi探针数据的短时交通状态预测

针对传统交通数据获取成本高,以及单参数输入的LSTM模型预测精度不高等问题,提出一种基于WiFi探针数据的短时交通状态预测方法.首先利用WiFi探针数据构建交通状态指数数据集,然后采用LSTM网络构建预测模型,并分析不同交通参数组合对模型预测精度的影响,最后比较不同模型对同一路段的预测性能.试验结果表明:交通流量会影响...     

基于鲸鱼优化混合神经网络的滑坡位移预测

针对静态机器学习模型难以有效反映滑坡的动态演化特性,且存在时序过长时历史数据遗忘导致位移预测结果不稳定的问题。本文提出了一种基于鲸鱼优化卷积神经网络(convolutional neural networks,CNN)和双向门控循环神经网络(bidirectional gated recurrent neural network,BiGRU)的滑坡位移动态预测方法。首先对滑坡影响因子进行特征筛选,构建数据集,建立CNN-BiGRU网络模型,使用鲸鱼优化算法(whale optimization algorithm,WOA)对模型进行超参数寻优,使用CNN网络模型从滑坡数据中提取潜在的特征向量,将特征向量以时间序列的形式输入到BiGRU模型中,利用其处理时间序列数据的优势,完成滑坡位移预测。结果表明,本文提出的模型得到的滑坡位移预测精度较高,与未优化的CNN-BiGRU相比均方根误差(RMSE)下降了0.0305mm。     

基于改进LSTM神经网络的化工过程故障诊断

针对现代化工过程中数据非线性、高维度以及动态时序等特点,传统的故障诊断模型对化工过程的故障诊断精度较低.基于此,设计了一种基于改进的长短时记忆神经网络(LSTM)故障诊断方法.首先,将采集的故障数据输入卷积神经网络(CNN),对数据进行特征提取和降维;其次,将处理过的数据输入改进的LSTM网络,进行深层特征提取;最后,把提取的深层特征信息输入到注意力机制进行特征“聚焦”,实现特征融合后输入softmax分类器实现故障分类.由田纳西-伊斯曼(TE)过程诊断实验结果表明,基于改进的LSTM网络的故障诊断方法在故障分类精度、训练速度方面都更优于递归神经网络(RNN)、门控循环神经网络(GRU)、卷积神经网络(CNN)和深度自编码网络(DAEN),在实际化工过程的应用有一定的优势.     

基于语义相似性的资源协同过滤技术研究

为解决协同过滤推荐系统中所存在的可扩展性、稀疏性等问题带来的推荐性能下降,提出新的基于资源语义知识协同过滤算法,算法综合考虑了资源语义和用户评价的影响,改善基于资源协同过滤算法性能.实验表明,基于资源语义的协同过滤算法相对于传统协同过滤算法可提高推荐性能.     

基于深度神经网络和概率矩阵分解的混合推荐算法

针对个性化推荐中用户和项目描述信息未充分利用,用户评分矩阵数据集极端稀疏的情况,提出了基于深度神经网络和概率矩阵分解(PMF)的混合推荐算法.首先,对用户和项目描述信息进行预处理,形成包含用户偏好特征的用户和项目特征集,再将各特征输入深度神经网络模型中进行训练.同时,利用概率矩阵分解模型,根据用户评分矩阵通过最大后验估计优化得到潜在特征向量;然后,通过对概率矩阵分解模型的用户和项目潜在特征向量以及深度神经网络模型的真实特征向量进行迭代更新,收敛得到融合用户和项目真实信息的潜在特征向量;最后,利用该特征向量对用户进行个性化推荐.实验证明,本文算法较经典推荐算法以及前人算法在均方误差与平均绝对误差指标上均有改善,说明本文算法的有效性.     

基于RF-WOA-VMD-BiGRU-Attention的神经网络模型在海浪预测中的应用

海上风电场的海况数据极其复杂导致用于海浪高度预测的输入参数极其不稳定,筛选出关键信息,提高输入参数的质量可以极大地提高海浪高度预测的准确性。以乐亭菩提岛风电场近一年的海上数据为基础,构建了一种基于随机森林(random forest, RF)、鲸鱼优化算法(whale optimization algorithm, WOA)、变分模态分解(variational mode decomposition, VMD)和双向门控循环单元(bidirectional gated recurrent unit, BiGRU)的海浪预测模型。该模型利用随机森林对环境特征等输入变量进行筛选,有效减少数据冗余,然后基于WOA-VMD模型自适应确定最优参数和自适应分解原始序列,提高数据质量并消除数据噪声的干扰。此外,针对海浪预测提出了一种基于注意力机制优化的BiGRU算法,随机森林的注意力机制将为BiGRU的隐藏层状态分配不同的权重,加强关键信息的影响。实验结果表明该模型和其他模型对比,输入质量更高,预测精度更高,拟合程度更准确,对风电场海浪预测有着重大意义。