基于改进鲸鱼优化算法的GBDT回归预测模型

针对梯度提升决策树（gradient boosting decision tree, GBDT）参数难以选择的问题, 提出一种基于改进鲸鱼优化算法（improved whale optimization algorithm, IWOA）的GBDT回归预测算法. 首先, 提出一种改进的鲸鱼优化算法, 利用混沌映射初始化种群提高种群多样性, 引入惯性权重与差分进化算法中的变异交叉策略解决迭代后期易陷入局部最优的问题； 其次, 利用IWOA对GBDT的关键参数寻优, 避免参数选择的盲目性, 提高回归预测模型的泛化能力； 最后, 建立IWOA-GBDT回归预测模型, 并利用UCI数据集对模型进行验证. 实验结果表明, 相比于决策树、 支持向量机、 Adaboost和GBDT算法, 该模型算法具有更好的拟合效果, 并有一定的实用价值.     

基于文化差分进化算法的最小二乘支持向量机及QSAR建模

针对最小二乘支持向量机最佳算法参数难以确定的缺陷,提出了基于文化差分进化算法的最小二乘支持向量机(Cultural Differential evolution Algorithm Least Square Support Vector Machine,CDE-LSSVM)。该算法通过新型的文化差分进化算法优化确定最小二乘支持向量机核宽度参数和惩罚系数,建立具有良好预测性能的模型。同时,针对药物定量构效关系(Quantitative Structure-Activity Relationships,QSAR)模型具有高度非线性、变量之间存在相关性的特征,采用CDE-LSSVM建立HIV-1蛋白酶抑制剂的药物定量构效关系模型。模型具有很好的拟合精度与预测精度,且优于最小二乘支持向量机、BP神经网络和径向基神经网络。     

基于机器学习的三阴乳腺癌预测模型

三阴乳腺癌是目前研究比较广泛的一类乳腺癌,但是目前仍然没有准确而又便捷的诊断预测方法,我们通过使用机器学习中决策树算法和支持向量机特征消除算法来构建三阴乳腺癌(TNBC)的预测模型.通过决策树算法,提取得到的9个特征基因,构建的三阴乳腺癌预测模型准确率达到95.5%.通过支持向量机特征消除算法,提取得到的6个特征基因,构建的预测模型准确率达到97.8%.     

基于DE-SVM的岩层可钻性预测研究

鉴于试验确定深部岩层可钻性指标成本很高,而且测井信息神经网络模型往往存在过学习问题,利用遵循结构风险最小化的统计学习理论工具——支持向量机(SVM)建立可钻性预测模型,通过支持向量机对样本的学习,建立岩层可钻性与诸多测井信息的复杂非线性映射.为解决支持向量机参数选取问题,引入全局优化算法——差异进化算法(DE),建立DE-SVM的进化模型,进一步提高模型预测精度.算例表明,差异进化算法收敛快速,该方法预测精度高于传统方法,对新井钻头选型和钻速确定有重要意义.     

基于DE-LSSVM的谐波源特性分析

根据电力系统中谐波源的变化特点,提出基于差分进化算法优化最小二乘支持向量机(DE-LSSVM)的电力系统谐波源分析模型.该模型采用非线性映射能力强的LSSVM拟合谐波电流、电网电压和特征参数之间的联系,采用差分进化算法对LSSVM参数进行动态优化.对模型性能的测试和分析结果表明,DE-LSSVM不仅加快了电力系统谐波源建模速度,而且获得比其他模型更优的谐波源特性分析结果.     

基于人工蜂群算法的大坝变形支持向量机预测模型

为了解决支持向量机(SVM)参数优化方法在大坝变形预测中易陷入局部最优解的问题,利用人工蜂群(ABC)算法的强全局优化能力、强鲁棒性特点,将人工蜂群(ABC)算法运用到SVM参数优化中.将惩罚因子C和核函数σ作为ABC算法中的蜜源位置进行寻优,并运用到大坝的变形监测中.结果表明,基于人工蜂群算法的大坝变形支持向量机预测模型能够克服局部最优解,提升模型的拟合与预测精度.     

基于改进果蝇算法优化的最小二乘支持向量机动力锂电池荷电状态预测

荷电状态(SOC)是动力锂电池管理系统的重要参数,使用传统算法优化锂电池SOC预测模型参数,收敛性相对较差,容易陷入局部最优解。对此,采用改进果蝇算法(IFOA)对最小二乘支持向量机(LSSVM)的参数进行优化,通过引入自适应松弛项来提高预测精度和收敛速度,获取全局最优解。选用磷酸锂电池为研究对象,测量其工作电压、工作电流和SOC,并将数据作为测试集,在MATLAB平台上建立基于IFOA优化的最小二乘支持向量机SOC预测模型。结果表明：IFOA优化的LSSVM动力锂电池SOC预测结果和实测结果吻合良好,平均绝对误差(MAPE)为1.02%,泛化能力强,预测精度相较果蝇算法最小二乘支持向量机(FOA-LSSVM)和贝叶斯算法最小二乘支持向量机(BEF-LSSVM)模型的精度更高。     

基于参数优化的最小二乘支持向量机HEV阀控铅酸蓄电池SOC预测

针对电池容量预测问题,引入最小二乘支持向量机(LS-SVM)方法用于判断混合动力汽车(HEV)阀控铅酸蓄电池(VRLA)的荷电状态(SOC)。考虑到最小二乘支持向量机的参数选择会对预测结果产生较大的影响,提出一种基于参数优化的最小二乘支持向量机预测方法。首先,在非线性回归预测模型的训练过程中,采用模拟退火算法来确定LS-SVM的初始值参数,从而更好地反映预测模型的复杂度,以此提高状态预测的精度。其次,由于预测模型在应对不良数据时可能出现误差增大的问题,分别采用贝叶斯证据框架(BEF)优化算法和留一交叉验证(LOOCV)优化算法来增强预测模型的抗差能力。研究结果表明:留一交叉验证优化算法具有较高的预测精度,实用性强,有效性高。     

基于PSO—SVR的电力负荷预测

电力系统负荷预测精度直接决定了预测模型的质量.为了降低预测模型输出结果的预测误差,提出了粒子群算法优化支持向量机回归这一智能预测方法.通过对环境温度、节假日、工作日、日期的采集与分析作为模型的输入,以日平均负荷作为模型的输出.最后,通过仿真,对引入粒子群算法的支持向量机回归模型的预测结果进行对比分析.结果表明:优化后的智能模型取得了更为理想的预测结果.     

基于改进蝙蝠算法的工业控制系统入侵检测

针对蝙蝠算法(BA)易陷入局部极小的缺点,提出了两点改进:(1)在蝙蝠位置更新时考虑了当前局部最优解分布对算法的影响;(2)将差分进化算法(DE)中的变异操作迁移到蝙蝠算法中,采用随机性变异的方式增加了种群多样性,提升了算法局部搜索能力,并通过典型测试函数验证了本文算法的优越性。将该算法用于工业控制系统(ICS)入侵检测中支持向量机(SVM)分类器的参数优化,使用工控入侵检测标准数据集进行仿真研究。结果表明,与DE、粒子群算法(PSO)和遗传算法(GA)等优化算法相比,其优化的SVM入侵检测模型在检测率、漏报率和误报率等指标上都有显著提升。     

基于VMDLSTNet的水质预测模型

针对水质时序预测中存在长期信息和短期信息混合导致预测精度低的问题,采用变分模态分解（Variational Mode Decomposition,VMD）和长短期时间序列网络（Long- and Short-term Time-series network,LSTNet）组合使用以期望解决该问题得出更准确的水质预测。LSTNet网络中使用卷积神经网络（Convolutional Neural Networks,CNN）提取短期局部水质信息,使用循环神经网络（Recurrent Neural Network,RNN）提取长期水质信息,并且通过Skip-RNN利用序列周期特性,提取更长期信息,同时模拟自回归（Autoregressive model,AR）,为水质预测增添线性成分来达到输出能够响应输入尺度变化的目的。采用珠江流域老口站隔日采样的溶解氧数据验证模型效果,结果表明,VMDLSTNet网络处理水质预测问题的能力,不仅优于传统的BP神经网络（Back Propagation Neural Network,BPNN）、支持回归机（Support Vector Regression,SVR）模型,而且优于深度学习中时域卷积网络（Temporal Convolutional Network,TCN）模型、门循环网络（Gate Recurrent Unit,GRU）、增加注意力机制的长短时记忆网络（Long Short-Term Memory Add Attention,LSTM-AT）模型,溶解氧的预测平均绝对误差（Mean Absolute Error,MAE）为0.0931,预测均方误差（Mean Square Error,MSE）为0.0146,预测均方根误差（Root Mean Square Error,RMSE）为0.1208,水质类别的预测准确率为95%。     

基于小波神经网络的实际业务流预测方法

针对无线传感器网络传输过程中容易受到噪音干扰的问题,提出了一种新的业务流预测算法AWNNP(Ant colony-based Wavelet Neural Network Prediction).该算法首先利用小波变换对业务流进行分解,并将其小波系数和尺度系数作为样本数据.其次,结合蚁群算法和神经网络来训练样本数据,采用小波模型重构进行重构,以此获得业务流的预测数据.同时,通过仿真实验对比,并分析了小波神经网络预测算法和BP神经网络预测算法,实验结果表明,AWNNP算法性能较优,其误差为16.21%.     

基于卷积神经网络的高分辨率雷达目标识别

提出一种基于卷积神经网络(Convolution Neural Network,CNN)的高分辨率雷达目标识别方法.首先针对小样本应用于深度CNN时训练过程中损失函数值收敛速度慢的问题,利用结合批归一化算法的改进CNN网络对高分辨距离像(High Resolution Range Profile,HRRP)进行自动特征提取;再利用支持向量机(Support Vector Machine,SVM)对距离像特征进行分类.使用军事车辆高保真电磁仿真数据对提出的方法进行验证,识别结果证明了该方法的有效性.     

SVM和BP算法在掌纹验证方法中的比较

本章通过用SVM算法和神经网络算法两种方法对掌纹图像进行分类,验证了基于SVM算法分类的优越性远远大于传统的神经网络算法分类.而且,SVM算法具有良好的抗噪性,而对于神经网络算法,一旦输入向量的维数增加,其收敛性和错误率都会发生较大的偏差.实验结果验证了用SVM算法比用神经网络算法有更大的准确率,尤其在小样本、高维数的分类上.     

基于小波基的SVM多气体融合

为了提高气体传感器在多气体环境下的检测灵敏度,基于小波对偶框架和支持向量核函数的条件,提出了一种支持向量小波核函数.该核函数具备小波的多尺度插值特性和稀疏变化特性,提高了模型的精度和迭代的收敛速度,适用于信号的局部分析、信噪分离和突变信号的检测,从而能在提高支持向量机(SVM:Support Vector Machine)泛化能力的同时,提高辨识效果,减少计算量.基于该核函数和正则化理论提出的最小二乘小波支持向量机用于非线性系统辨识,对sin c函数的逼近.该小波核得到的绝对误差不超过0.004;在多气体分析中,比RBF(Radial Base Function)核所得的偏差小18.3%.这些表明SVM小波核具有更好的泛化能力.     

基于K-CV 优化的PCA 和SVM 人脸识别算法

为解决常规的PCA( Principal Component Analysis) 和SVM( Support Vector Machines) 人脸识别算法准确率 不高的问题,提出了用改进的网格搜索和交叉验证( K-CV: K-fold Cross Validation) 算法对SVM 参数寻优的方 法,并联合了PCA 和SVM 的人脸识别算法。该算法利用K-CV 算法结合改进网格搜索方法寻找最佳参数, 尽可能消除由于个别样本误差对预测模型的影响,减少了搜索时间,提高了人脸识别的准确率。在Matlab 软 件上测试结果表明,该算法在YALE 人脸库的识别准确率比常规的PCA 和SVM 联合算法高9． 08%。     

基于人为误差的支持向量机——AE-SVM

传统的支持向量机是将分类问题转化成二次规划问题来解决的。针对传统的支持向量机算法及其变形算法忽略了训练集数据含有较大人为误差参与时其算法精度所存在的保障问题,提出了基于人为误差的支持向量机(artificial error—support vector machine以下称AE-SVM)的基本理论,并建立了AE-SVM的理论模型。该模型是C-SVM模型的改进和推广。     

江西省龙南县滑坡易发性评价

区域滑坡易发性评价是国内外地质灾害研究的重点和热点。目前,国内外学者已提出了支持向量机(support vector machine,SVM)、BP神经网络和随机森林等多种模型并成功用于滑坡易发性评价。但在利用这些机器学习模型评价滑坡易发性时,存在着参数选取困难、建模效率低、模型训练时间长和对评价指标解释能力弱等问题。为简化建模过程、提高预测精度及增强模型的可解释性,提出了基于频率比分析和偏最小二乘回归法(partial least squares regression,PLSR)的滑坡易发性评价模型。PLSR模型很好地发挥了主成分分析和回归分析的优势,考虑了评价指标间的内在联系,具有建模过程简洁、可解释性强的优点。将结合频率比法的PLSR模型应用于江西省龙南县滑坡易发性评价,并与BP神经网络、SVM模型的易发性评价结果进行对比。研究表明:PLSR模型的预测精度优于BP神经网络,且与SVM模型预测精度接近;另外,在综合考虑建模效率、预测精度和模型解释能力的情况下,PLSR模型具有更高的实用性。     

GA-SVM和神经网络组合模型预测充填钻孔寿命

 充填钻孔是充填料浆从地表输送到井下采场的咽喉工程,是矿山正常运转的保障,因此对矿山充填钻孔使用寿命进行预测十分重要。通过建立支持向量机（SVM）和BP神经网络组合预测模型,用训练集对模型进行训练,以验证集预测值的均方误差作为SVM适应度函数,通过遗传算法（GA）对SVM模型参数进行优化选择,应用优化得到的SVM模型进行预测,并结合BP神经网络进行残差修正,最终得到预测结果。以某矿为例,通过GA得到SVM模型最优参数：适应值（均方误差mse）=0.0111,惩罚系数C=47.0768,核函数参数σ=2.2638。通过优化的SVM模型,对预测集充填钻孔寿命进行预测,经BP神经网络残差修正,预测结果的相对误差均控制在3%左右。对比单一预测模型,组合预测模型预测结果更加理想,精度更高,在类似的预测工程中有良好的推广价值。     

热镀锌钢卷力学性能GBDT预报模型

针对热镀锌钢卷力学性能预报建模条件属性选取难、预报精度不足的问题,研究了热镀锌钢卷力学性能梯度提升树(gradient boosting decision tree,GBDT)预报模型。利用互信息差算法综合评估工艺参数、化学成分和钢卷尺寸参数等条件属性的相对重要性以及属性之间冗余性,进行模型条件属性筛选;采用同分布原理进行样本划分,结合网格搜索法和交叉验证法优化模型参数,建立力学性能GBDT预报模型。将GBDT模型预报结果与随机森林(random forest,RF)、AdaBoost算法和BP神经网络的预报结果进行比较,比较表明GBDT模型优于其他模型,90%的数据样本预测的绝对误差小于14.24 MPa,94.6%的数据样本相对误差在6%范围内,具有更高的预测精度。