基于布谷鸟搜索算法参数优化的组合核极限学习机

针对单核极限学习机在泛化性能上存在一定局限性的问题, 提出将再生核函数与多项式核函数相结合, 建立一种新的组合核极限学习机模型, 使其具有全局核与局部核的优点, 并选择布谷鸟搜索算法对其参数进行优化选择. 仿真实验结果表明, 采用基于再生核的组合核函数作为极限学习机的核函数可行, 在实验数据集的多值分类和回归问题上, 与传统支持向量机及单核极限学习机相比, 该模型具有更好的泛化性能.     

利用粒子群优化的极限学习机入侵检测算法

针对网络入侵检测准确率低、误报率高的状况,通过理论分析与仿真实验,提出一种利用粒子群优化的极限学习机入侵检测算法.该算法利用粒子群算法优化核极限学习机的核参数,采用学习能力和线性组合泛化能力强的全局性核函数,形成多核极限学习机,可以有效提高单核极限学习机分类器的性能.通过仿真实验对其性能进行了对比分析,结果验证了该算法的有效性.     

一种基于粒子群优化和核极限学习机的入侵检测算法

针对网络入侵检测准确率低、误报率高的问题,本文提出了一种基于粒子群优化和极限学习机的入侵检测算法。粒子群优化算法(PSO)是一种群智能算法,核极限学习机(KELM)是一种学习速度快、泛化能力强的经典核机器学习的方法,但是极限学习机对核函数及参数的选择直接影响它的分类性能。本文算法中利用粒子群算法优化核极限学习机的核参数,采用学习能力强且线性组合泛化能力强的全局性核函数,形成了多核极限学习机,可以有效提高单核极限学习机（ELM）分类器的性能。最后通过实验对算法性能做了对比分析,实验结果验证了本文算法的有效性。     

分布式环境中基于核函数的极限学习机

针对海量数据规模下的集中式核函数极限学习机的性能问题,将基于核函数的极限学习机扩展到云计算技术框架下,提出了基于MapReduce的分布式核函数极限学习机MR-KELM.该算法将分布式径向基核函数计算出的核函数矩阵进行分布式矩阵分解,并通过分布式矩阵向量乘法得到分类器输出权重,减小了网络通讯和数据交换代价.实验结果表明,MR-KELM算法能够在不影响基于核函数的极限学习机的计算理论的前提下,具有较好的可扩展性和分类训练性能.     

基于移动窗的多核最小二乘支持向量机建模算法

针对时变工业过程建模中存在的模型泛化性和适应性较低的问题,利用移动窗技术,通过使用多个核函数,提出了一种基于移动窗的多核最小二乘支持向量机(LSSVM)建模算法.该算法在最小二乘支持向量机算法基础上,利用多核组合代替单核,增强了模型的泛化能力;利用移动窗技术,增加了模型对时变工业过程的动态辨识能力及模型的更新效率.仿真实验结果表明,该算法具有更好的泛化性能.     

小波核极限学习机及其在醋酸精馏软测量建模中的应用

传统的机器学习算法一般通过迭代进行参数寻优,导致学习速度慢,且容易陷入局部最小值。针对这个问题,提出了一种基于小波核函数的极限学习机(KEML)的软测量建模方法,将支持向量机(SVM)中核函数的思想运用到极限学习机(EML)中,避免了SVM训练速度慢以及ELM算法不稳定的缺点。将KEML算法运用于醋酸精馏的软测量建模问题中,仿真实验结果验证了该算法的学习速度是SVM的92倍,且算法的精度以及模型的泛化能力都有所提高。     

量子粒子群优化核极限学习机的遥感影像分类

极限学习机初始参数具有随机性,容易导致其对高分辨率遥感影像的分类结果出现局部最优现象.为了解决上述问题,提出了一种基于量子粒子群优化核极限学习机的遥感影像分类方法.该方法利用量子粒子群算法对核极限学习机的核参数与正则化参数进行优化,根据参数优化后的结果构建量子粒子群优化核极限学习机的遥感影像分类模型（QPSO-KELM）.通过实验对比了SVM、KELM、PSO-KELM、QPSO-KELM这几种分类方法对高分二号遥感影像数据的分类精度与效率.结果表明：QPSO-KELM的分类精度、运行速度均优于其他几种分类方法,该方法能有效提取遥感影像上的地物要素信息.     

基于混合核函数支持向量机的回归模型

基于支持向量机核函数的条件,将Sobolev Hilbert空间的再生核函数和Sig核函数进行有效的线性混合,给出一种新的支持向量机的混合核函数,并提出一种基于再生核的混合核函数支持向量机回归模型,该回归模型兼具了全局核函数与局部核函数的优点,且算法的复杂度被降低.仿真实验结果表明:最小二乘支持向量机的核函数采用基于再生核的混合核函数是可行的,回归的效果比单核函数可以更为细腻.     

Logistic核函数及其在语音识别中的应用

核函数是支持向量机(SVM)的核心,直接决定着SVM的性能.为提高SVM在语音识别问题中的学习能力和泛化能力,文中提出了一种Logistic核函数,并给出了该Logistic核函数是Mercer核的理论证明.在双螺旋、语音识别问题上的实验结果表明,该Logistic核函数是有效的,其性能优于线性、多项式、径向基、指数径向基的核函数,尤其是在语音识别中,该Logistic核函数具有更好的识别性能.     

多分辨率小波极限学习机

针对一类具有空间不均匀性的辨识和回归问题,提出了基于小波分析的极限学习机方法.从多分辨率分析的思想出发,构造一簇紧支撑正交小波作为隐层激活函数,并利用改进的误差最小化极限学习机训练输出层权重,避免了新加入高分辨率子网络后的重新训练.同时,由一维多分辨分析的张量积构造了二维多分辨小波极限学习机.进而通过脊波变换将小波学习机扩展到高维空间,对脊波函数的伸缩、方向和位置参数进行优化计算.对具有奇异性的函数仿真结果证明,与标准极限学习机相比,小波极限学习机由于其聚微性能在极短的训练时间内更好地逼近目标.一些实际基准回归问题上的测试验证了脊波极限学习机在其中大部分问题上达到更高的训练和泛化精度.     

一种基于分类问题的光滑极限学习机

极限学习机具有快速的学习速度和良好的泛化性能.光滑化是一种重要的处理非光滑问题的技术.将光滑化技术应用于极限学习机,提出了一种光滑化的极限学习机框架,并用Newton-Armijo算法来求解.该算法具有全局和二次收敛的性质.与已有的光滑支持向量机相比,该模型有更少的决策变量,并且能够更好地解决非线性问题.数值实验表明该算法的速度要比传统的极限学习算法更快.与支持向量机相比,提出的算法有更好的或者相似的泛化性能.     

基于归一化核极限学习机的复杂岩性储层的岩性识别方法

<正>确识别岩性对储层参数的精确计算及流体识别工作具有重要意义。针对复杂岩性储层岩性难以准确判别,考虑到核极限学习机可收敛到全局最优解,将核极限学习机进行改进,提出基于归一化核极限学习机的岩性识别方法。通过对中东伊拉克M油田复杂岩性储层579块岩样进行建模,然后对未参与建模的井进行岩性识别,核极限学习机模型预测准确率达到80.03%,归一化核极限学习机模型不仅在预测准确率达到81.85%,且预测速度仅有0.001 1s,在预测准确率与速度上均优于传统主流模型。     

基于快速留一交叉验证的核极限学习机在线建模

提出了一种基于快速留一交叉验证(FLOO-CV)的在线核极限学习机(OKELM),以逐次增加新样本与删除旧样本的方式进行在线训练;设计了一种无需人为设定、能够根据系统过程特性自适应改变的FLOO-CV预测误差阈值,根据误差阈值仅引入预报误差较大的样本对模型进行更新,以提高模型的稀疏性和泛化能力;利用Hermitian矩阵求逆引理实现了对网络输出权值的递推求解,减小了在线存储空间和计算时间.经混沌时间序列预测和连续搅拌釜式反应器的过程辨识结果表明,相比于离线核极限学习机、无稀疏策略的在线核极限学习机和在线序贯极限学习机,OKELM具有更快的计算速度和更高的学习精度.     

KPCA-KPLS方法在pH中和过程建模中的应用

针对化工过程中的具有严重非线性、不确定性、时变性的复杂pH中和过程系统建模问题,提出一种基于核主元分析(KPCA)与核偏最小二乘(KPLS)相结合的建模方法.在高维特征空间内,该方法通过KPCA有效地提取输入数据的非线性主元,利用KPLS方法将输入变量投影在潜在变量上,再用输入与输出变量之间的协方差信息提取潜在特征建立pH中和过程模型.为验证其有效性,将KPCA-KPLS方法应用到弱酸强碱中和过程、强酸强碱中和过程实例中,并与核偏最小二乘、核主元分析_支持向量机(KPCA-SVM)、核极限学习机(KELM)、极限学习机(ELM)、最小二乘支持向量机(LSSVM)、SVM等方法进行比较.实验结果表明:KPCA-KPLS方法具有很高的动态建模精度.     

新的第二类切比雪夫核函数

基于切比雪夫正交多项式,有人提出了第一类与第二类切比雪夫核函数,文章用反例证明了所提出的第二类切比雪夫核函数不是核函数,并重新建立了第二类切比雪夫核函数.并在双螺旋集和标准UCI数据集上与第一类切比雪夫核及常用的核函数(多项式核、高斯核)进行了对比试验,实验表明该核具有良好的泛化性能.     

基于一种自适应核学习的KECA子空间故障特征提取

核属性约简方法对于去除冗余信息,调整数据非线性结构具有独特的优势.针对航空电子设备故障诊断中有效特征提取困难,核属性约简方法中核函数与核参数选择繁琐等问题,提出了一种基于自适应核函数优化学习的核熵元分析（kernel entropy component analysis,KECA）特征提取方法.首先针对一种自适应核函数基于改进的Fisher核矩阵测量准则建立了一种面向多分类任务的核函数优化框架,然后将优化结果与KECA相结合,通过在KECA特征子空间中选择对输入数据Renyi熵估计有较大贡献的核矩阵特征向量来实现故障特征提取.实验结果表明,本文方法不仅提升了分类精度,而且对噪声具有一定的抑制作用,具有良好的泛化性能.      

基于聚类核的核极速学习机

传统的神经网络学习算法(如BP算法)需要调整大量的网络参数,例如输入权值以及隐层单元的偏置,而极速学习机只需要设置网络的隐层节点个数,在算法执行过程中不需要调整网络的输入权值,便可以产生唯一的最优解,因此它具有学习速度快且泛化性能好的优点.随着极速学习机的研究发展,核极速学习机的相关理论被提出.核极速学习机是将核函数引入到极速学习机中,可以得到最小二乘解,具有更稳定的泛化性能.本文在核极速学习机的基础上提出了一种基于Bagged聚类核的核极速学习机的分类方法,首先对已有的标记样本和所有的无标记样本采用多次k均值聚类,去构造Bagged聚类核,然后对Bagged聚类核和径向基核进行求和,最终用于核极速学习机的训练中.与传统核极速学习机相比,本文提出的方法可以使用所有的无标记样本,从而尽可能地提高分类的准确率.最后本文通过实验验证了方法的可行性.     

基于混合核函数SVM骨性关节炎中药分子的辨识模型

以骨性关节炎中药复方为例,提出一种用于识别骨性关节炎中药复方中活性药物分子的SVM分类器.针对单核函数SVM的局限性,提出将全局核函数和局部核函数混合构造,并应用到SVM模型建模中,改善SVM分类器的非线性处理能力和泛化能力.利用混合核分类器对中药复方精制透骨消痛颗粒中514个化合物进行活性识别,得出复方中具有相关药物活性的中药分子.该实验结果为骨性关节炎药物分子的对接实验和骨性关节炎中药有效成分的发现提供科学数据.     

支持向量机核函数选择的研究

支持向量机是近年来发展的以统计学习理论为基础的新型学习机。该学习机用结构风险代替经验风险,因而具有传统的神经网络无法相比的优势。在该学习机的各各研究方向中,核函数的选择无疑是极其重要的核心问题。通过对核矩阵的计算和研究,从理论上为核函数的选择提供了参考。     

基于差分进化极限学习机的电力系统暂态稳定评估方法

电力系统暂态稳定性的破坏可以对电力系统的安全稳定运行产生严重冲击,准确、快速地暂稳评估方法能够提高电力系统的安全防御能力。极限学习机由于其速度快、泛化性能好被应用到电力系统暂态稳定评估中。为了提高极限学习机的评估性能,利用基于差分进化算法的优化方法和序列浮动后向特征选择算法对极限学习机暂态稳定评估性能进行提升。首先对输入特征通过主元分析降维并利用序列浮动后向算法进行特征选择,再将最优特征集输入差分进化极限学习机进行暂态稳定评估,最后在新英格兰10机39节点系统中进行验证分析,结果表明,所提模型与其他极限学习机模型相比,大大提升了其在暂态稳定分类评估中的性能。