基于Stacking集成模型的网络流量预测研究

针对网络流量预测准确率不够高的问题,结合当下流行的集成学习(Ensemble Learning),提出一种Stacking集成多种模型的网络流量预测方法;将天气因素量化后作为输入,使用7个机器学习模型分别对网络流量进行预测,然后根据对不同模型预测结果的Pearson相关系数的分析,选取相关性较弱的5个模型作为Stack...     

基于Stacking集成学习的福建省火电行业碳足迹情景预测

火电行业是中国碳排放的最主要来源之一,其碳足迹研究对中国实现2030年碳达峰目标至关重要。为此,提出一种基于Stacking集成学习的福建省火电行业碳足迹情景预测方法。首先,基于扩展Kaya恒等式识别火电行业碳排放的主要影响因素;然后,以决定系数(coefficient of detemination, R2)和平均绝对百分比误差(mean absolute percentage error, MAPE)作为评价指标优选模型的初级学习器与元学习器,构建融合不同学习器优势的Stacking集成学习碳足迹预测模型。最后,设置了基准发展、产业优化、技术突破、低碳发展四种碳达峰行动情景,以福建省为例对其2021~2035年火电行业的碳达峰进行计算。结果表明,所提方法能够准确预测火电行业的碳足迹,预测系数R2高于0.97、误差MAPE低于0.01。在此基础上,计算了不同碳达峰行动情景的火电行业碳排放峰值,得出在低碳发展情景下该省可在2027年实现碳达峰战略目标。相关研究为中国火电行业碳达峰预测提供理论依据与借鉴价值。     

基于特征工程的集成学习短期光伏功率预测

短期光伏功率预测对于电网稳定运行具有重要意义。为了解决单一模型预测精度不佳的情况,提出了一种在Stacking集成学习框架下融合Bagging和Boosting算法的短期光伏功率预测模型。首先,引入Copula函数的相关性分析和轻量级梯度提升机的特征贡献度计算来进行特征筛选;然后,选取泛化性能较优的模型作为基学习器,并采用贝叶斯优化算法来对基学习器模型参数进行优化,最后,定义一个超级学习器,采用5折交叉验证,将基学习器与元学习器封装到超级学习器中训练。算例结果表明,在不同季节和不同天气条件下,Stacking模型相较于单一模型有着更高的预测精度。     

基于Kriging代理模型的造斜率预测方法研究

造斜率受导向工具结构、类型、钻井参数、井眼轨迹、地层和钻头等因素的影响,构成了一个多变量影响的非线性耦合体系。造斜率预测呈现一定的模糊性、随机性和非线性特点,难以用显性的定量关系式来精确刻画造斜率与其影响因素之间的函数关系。从回归分析预测法的角度,提出一种采用Kriging代理模型构建预测功能函数,进行造斜率预测的新方法。该方法基于空间插值理论,以造斜率预测值为输出目标。首先选取造斜率主要影响因素作为输入参数,确定训练样本和测试样本;然后,计算Kriging模型中的最优超参数,并构建该预测模型。最后,以测试样本为基准,计算模型预测性能指标,完成对Kriging代理模型的造斜率预测性能评价。通过现场案例研究表明,与常见的多元回归模型和径向基函数模型(radial basis function,RBF)相比,基于Kriging代理模型的造斜率预测方法在均方根误差(root-mean-square error,RMSE)、最大绝对误差(maximum absolute error,MAE)和平均绝对误差(average absolute error,AAE)3个常见的定量指标上表现了更佳的预测性能。预测结果更稳健,计算量更小,对造斜率的预测精度较高,能克服几何法预测精度不高或力学法计算量大等缺点。在工程应用中能节约计算成本和提高预测效率,便于推广应用。     

基于集成学习CatBoost优化模型的爆堆大块率预测

爆破产生的爆堆大块率问题一直以来都影响着矿山的生产效益.利用机器学习机制中集成学习思想实现大块率预测.以满洲里乌山铜矿实际采集的36组实测数据为例,整理形成10种特征数据.通过给定参数循环训练调优,再用交叉验证网格搜索的方法进行模型二次调优,并对比调优实现后模型与随机森林法、XGBoost模型、LightGBM模型和CatBoost模型进行效果对比.结果表明,经过两轮调优后的CatBoost模型预测效果明显高于其他几种模型,R²准确度可达98.83%,证明了两轮调优后CatBoost模型具有较高的预测水平,验证了该方法在大块率预测研究中的可行性,为爆破参数设计和大块率优化分析提供了可靠的参考.     

计及机理机制的Stacking集成光伏发电预测

准确地光伏预测对电力调度、容量分析和机组组合至关重要。现有的数据驱动预测算法在计算速度和预测精度上有一定的提升,但未能考虑光伏发电的内在机理,存在泛化的风险。针对上述问题,提出了一种基于Stacking框架的机理模型和数据驱动结合的预测模型。其中,光伏发电机理模型将嵌入Stacking框架一层预测结构,构成基于长短期记忆神经网络(long short-term memory, LSTM)、极度梯度提升树(extreme gradient boosting, XGBoost)和机理模型的并行预测学习器。机理模型将光伏发电限制在一个合理的范围内,作为数据驱动模型的预测约束。所提出的模型能够从机理模型中提取有用的固有信息,并利用数据分析的能力提取历史数据中的非线性关系。基于安徽省某地区实际数据分析,所提模型相比传统数据驱动方法具有更高的精度。     

双机制Stacking集成模型在短时交通流量预测中的应用

交通流量预测对于智能交通管理决策具有重要意义,为克服传统单一模型预测精度低、稳定性不足,同时为解决Stacking集成模型对基学习器输出信息利用率不高的问题,提出了一种双机制Stacking集成模型.双机制包括内机制和外机制,内机制通过在元学习器中引入注意力机制来调整网络中的特征信息,外机制通过在基学习器中融入动态权重系数来调整基学习器的输出信息.通过内外结合的双机制实现对基学习器输出信息动态变动规律的挖掘和提取并增强对基学习器输出信息的利用率,从而提升模型的预测精度和稳定性.选取I5NB高速公路上的76898条数据为实证研究对象,进行了基于随机森林、GBDT(gradient boosting decision tree)和Xgboost(extreme gradient boosting)单一模型、传统Stacking集成模型及双机制Stacking集成模型的预测对比分析.实证结果证明双机制Stacking集成模型预测精度最高,验证了该模型在短时交通流量预测中的有效性.     

基于TentSSA-BPNN模型的钢铁企业能耗预测研究

为提高对钢铁企业电力能耗的预测精度,本文提出一种基于改进后的麻雀搜索算法的能耗预测模型TentSSA-BPNN。该模型利用Tent混沌映射改进SSA算法,设计出的TentSSA算法具有良好的稳定性和不易陷入局部最优的特点,再将其应用于传统BP神经网络,提升了预测精度。以某钢铁企业的电力能耗数据作为算例,对TentSSA-BPNN模型进行充分训练,再将其应用到对该企业的电力能耗预测当中。最后,设立对照组与本文提出的TentSSA-BPNN能耗预测模型进行对比分析。对照结果表明,TentSSA-BPNN预测模型对电力能耗的预测精度较高,在钢铁企业的节能减排方面具有一定的指导作用。     

基于近邻成分分析的短期风电功率集成预测

针对短期风电功率预测关键气象因素影响程度的差异和单一模型预测精度不足的问题,提出一种基于近邻成分分析(neighborhood components analysis, NCA)特征加权和Stacking集成预测的短期风电功率预测模型。考虑气象特征对风电功率影响程度不同,利用NCA对气象特征进行加权,将加权特征作为模型输入,强化关键特征的影响程度;在此基础上,构建多个基预测器预测风电功率,并利用结合器将预测结果融合,建立Stacking集成预测模型。算例分析表明,以加权特征作为输入的Stacking集成预测模型具有更高的短期风电功率预测精度。     

基于Stacking融合的工程造价预测组合模型

为了快速准确地进行工程造价预测,本文收集高层住宅工程造价历史数据,利用相关性系数法对定量指标进行约简,运用Python构建了以随机森林、XGBoost和岭回归作为初级学习器,岭回归作为元学习器的Stacking集成学习的融合模型。结果表明：基于Stacking融合模型预测精度较高,结果稳定,平均绝对误差在5%以内,有助于项目建设前期的造价预测。     

用集成神经网络模型建立预测模式

采用分治策略,提出了集成神经网络模型,该模型可以有效解决在利用人工神经网络在大型数据集上建立预测模式的过程中所面临的规模问题、收敛问题和表示问题,模型具有良好的学习继承性扩展性。     

面向复合材料带隙预测的两段式集成学习模型构建

带隙是钙钛矿型复合氧化物材料重要的特征参数,对材料的物理化学性质起决定性作用,如导电性能和光电性能等.为了寻找适合不同应用领域的钙钛矿型材料,利用机器学习进行带隙预测是一种重要的研究手段.构建了一个两阶段异质集成学习模型,在第一阶段使用多种不同的基础机器学习器(回归模型)进行预测;在第二阶段把对预测结果影响较大的描述子和基础机器学习器进行集成学习.利用该模型对210种钙钛矿型复合氧化物材料的带隙进行预测,并与多种独立的机器学习算法以及不同集成策略模型的预测性能相对比,评估了本模型的预测性能.结果表明,这种两段式的集成学习模型能够更好地学习到材料数据的内在关系,并具有较好的预测效果和较强的泛化能力.     

面向复合材料带隙预测的两段式集成学习模型构建

带隙是钙钛矿型复合氧化物材料重要的特征参数, 对材料的物理化学性质起决定性作用, 如导电性能和光电性能等. 为了寻找适合不同应用领域的钙钛矿型材料, 利用机器学习进行带隙预测是一种重要的研究手段. 构建了一个两阶段异质集成学习模型, 在第一阶段使用多种不同的基础机器学习器(回归模型)进行预测; 在第二阶段把对预测结果影响较大的描述子和基础机器学习器进行集成学习.利用该模型对 210 种钙钛矿型复合氧化物材料的带隙进行预测, 并与多种独立的机器学习算法以及不同集成策略模型的预测性能相对比, 评估了本模型的预测性能. 结果表明, 这种两段式的集成学习模型能够更好地学习到材料数据的内在关系, 并具有较好的预测效果和较强的泛化能力.     

选择性集成学习模型在岩性-孔隙度预测中的应用

储层是油藏地质建模的主要对象,储层属性参数的预测是建模的重要基础和主要难点之一。利用机器学习方法建立预测模型是目前研究的一个热点。针对单一机器学习方法在孔隙度预测方面存在的容错率低、过拟合等缺点,提出了融合岩性分类进行选择性集成学习建立预测模型的方法。该方法首先使用支持向量机进行岩性分类,并将岩性分类结果作为孔隙度选择性集成预测模型的输入。然后在研究分析典型机器学习方法的基础上,通过主成分方法分析法从支持向量回归、径向基(radial basis function,RBF)神经网络、随机森林、岭回归和K近邻回归等经典模型中选择出一组表现优异的个体学习模型组成集成学习模型,个体在集成模型中的权重由"主成分权重平均"法获得,最终采用加权平均法得到集成学习模型的输出。该方法考虑了岩性对孔隙度的影响,克服了单一模型存在的不足,模型的泛化能力强。研究结果表明,该方法的预测精度明显优于其他单一机器学习方法,适应性好。     

基于移动代理的网络学习评价模型建构

网络学习在跨越时空传递信息资源、推动终身学习等方面具有无与伦比的优势,然而由于技术原因以及师生时空分离的特点,网络学习中教师功能模拟不足,造成学生学习动力不足。笔者试图借助移动代理、电子学档等技术构建网络学习评价平台,彰显网络学习评价的实时监控和模拟功能,提高网络学习评价即时、及时、注重人文性的特点,促进网络学习的实效的提高。     

基于Stacking-Bert集成学习的中文短文本分类算法

由于word2vec、Glove等静态词向量表示方法存在无法完整表示文本语义等问题,且当前主流神经网络模型在做文本分类问题时,其预测效果往往依赖于具体问题,场景适应性差,泛化能力弱.针对上述问题,提出一种多基模型框架(Stacking-Bert)的中文短文本分类方法.模型采用BERT预训练语言模型进行文本字向量表示,输...     

基于SSA-LSTM组合模型的城市轨道交通短时客流预测

随着我国经济的快速增长及城市化水平的不断提高,轨道交通在居民出行中发挥着越来越重要的作用。作为影响城市轨道交通运营效益和服务水平的关键因素,客流精准预测受到运营管理者和研究者的日益重视。为提高城市轨道交通客流预测精度,提出了基于麻雀搜索算法(SSA)和长短期记忆网络(LSTM)的SSA-LSTM组合模型。本文以杭州地铁一号线客流量数据为例,在选取轨道交通客流相关影响因素的基础上,利用建立的SSA-LSTM模型对相关站点进行短时客流预测,并与LSTM模型、遗传算法(GA)优化的LSTM模型(GA-LSTM)以及粒子群算法(PSO)优化的LSTM模型(PSO-LSTM)预测结果进行对比分析。结果表明,相比于前述参照模型,SSA-LSTM模型的预测精度分别提升了19.1%、9.7%和2.4%,并在均方根误差指标方面有更优异的表现。SSA-LSTM组合模型在城市轨道交通客流预测中具有一定的应用价值,具有协助运营管理者提高城市轨道交通运营管理效益和提高服务水平的潜力。     

基于BLS-Lasso组合模型的火电厂蒸汽量预测

在火力发电过程中,蒸汽量的准确测量,对于汽轮机机组的经济稳定运行具有重要的意义。针对传统蒸汽量测量方法精度低的问题,提出了一种基于宽度学习系统(broad learning system, BLS)和Lasso (least absolute shrinkage and selection operator)回归模型的组合预测模型。首先利用One-class SVM (one-class support vector machines)算法对样本进行异常值检测,将检测得到的异常值剔除。然后,采用最大信息系数(maximal informationcoefficient, MIC)对特征变量和蒸汽量进行非线性关联性分析,确定宽度学习系统和Lasso回归模型的输入变量,通过训练得出各自的预测结果。最后,通过最优加权组合法确定两单一模型的权重系数,将它们所得的预测结果线性组合,得到最终的预测结果。实例表明,所建立的组合模型有效地缓解了单一模型在变化剧烈的峰值和谷值预测偏差大的问题,能够准确地预测蒸汽量。     

应用非线性加权的集成学习软件缺陷序列预测算法

针对当前软件缺陷序列预测算法准确度不高的问题,提出了基于非线性加权的集成学习软件缺陷序列预测算法(NLWEPrediction)。该算法在常见线性集成预测算法的基础上增加了非线性回归项,回归项代表了集成预测算法中基预测算法之间的相互关系,修正了线性集成预测的偏差,并通过梯度下降法求解了模型中的参数。实验表明:NLWEPrediction在14个软件缺陷数据集上的均方误差均小于250,并且平均绝对误差均小于13。通过与基预测算法、集成预测Bagging、Stacking算法和只考虑两个分类器关系的非线性加权集成学习算法进行对比,可以看出,NLWEPrediction预测算法的均方误差和平均绝对误差显著减小,预测精度显著提高,说明在线性集成预测算法基础上增加非线性回归项,能够有效提高集成学习算法的分类效果。