最小学习机

针对极端学习机（ELM）不能用于多层前向神经网络学习的问题,通过揭示单层前向神经网络（SLFN）的ELM与岭回归以及中心化的岭回归之间的关系,提出了SLFN的最小学习机。通过证明核化的中心化岭回归与核化的PCA之间的关系,提出以无限可微的核函数为激励函数的多层前向神经网络（MLFN）的最小学习机LLM.SLFN/MLFN的最小学习机能够保持ELM的上述优势。     

ELM岭回归软测量建模方法

ELM(极限学习机)是一种新型的前馈神经网络,可有效处理函数的回归问题.针对ELM学习算法隐含层输出可能存在的复共线性问题,提出了ELM岭回归(ELMRR)软测量建模方法.该算法利用岭回归方法代替原有的线性回归算法,以误差平方和均值为性能指标,采用粒子群优化算法确定最佳岭参数,克服了传统岭回归算法最佳岭参数难以确定的缺...     

一种基于粒子群优化的极限学习机

极限学习机(ELM)是一种新型的前馈神经网络,相比于传统的单隐含层前馈神经网络(SLFN),ELM具有速度快、误差小的优点.由于随机给定输入权值和偏差,ELM通常需要较多隐含层节点才能达到理想精度.粒子群极限学习机算法为使用粒子群算法(particle swarm optimization,PSO)选择最优的输入权值矩阵和隐含层偏差,从而计算出输出权值矩阵.一维Sinc函数拟合实验表明,相比于ELM算法和传统神经网络算法,粒子群极限学习机算法依靠较少的隐含层节点能够获得较高精度.     

基于邻域粗糙集的极速学习机算法

将基于单隐层前馈神经网络(SLFN)提出的极速学习机(ELM)算法和邻域粗糙集理论进行结合,提出基于邻域粗糙集的极速学习机算法,采用邻域粗糙集对样本集进行属性约简,去掉冗余属性,利用ELM对约简后的数据集进行学习,并对数据样本进行预测。实验表明ELM算法相比具有更高的训练精度和测试精度。     

集成Dropout极限学习机数据分类方法

极限学习机(Extreme Learning Machine,ELM)是一种速度快,泛化能力强的训练单隐含层前馈神经网络(Single-hidden Layer Feed-forward Neural-network,SLFN)的算法.但是在应用ELM解决实际问题时,需要先确定合适的SLFN结构.然而,对于给定的问题,确定合适的SLFN结构是非常困难的.针对这一问题,本文提出了一种集成学习方法.用该方法解决问题时,不需要事先确定SLFN的结构.提出的方法包括3步:(1)初始化一个比较大的SLFN;(2)用ELM重复训练若干个Dropout掉若干个隐含层结点的SLFNs;(3)用多数投票法集成训练好的SLFNs,并对测试样例进行分类.在10个数据集上进行了实验,比较了本文提出的方法和传统的极限学习机方法.实验结果表明,本文提出的方法在分类性能上优于传统的极限学习机算法.     

基于SVM技术的精简极速学习机

针对极速学习机(ELM)性能过分依赖于隐层节点稠密的单隐层前馈神经网络(SLFN)问题,提出了适用于多类分类的精简型ELM,即SVM-ELM(基于支持向量机优化的ELM).该方法大幅削减隐层节点数为类别数,同时通过SVM技术优化每个节点的线性决策函数,显著提高单个节点的决策水平,为ELM的宏观决策提供有利条件.在HCL2000,MNIST和USPS等公共数据集上的实验表明:该方法能够减少节点数目而不损害学习精度,当类别数为10时,基于SVM-ELM方法构造的10节点SLFN泛化性能即可超越基于原始ELM方法构造的包含成千上万个隐层节点SLFN的泛化性能.     

逐步线性回归与神经网络预测的算法对比分析

逐步线性回归能较好地克服多重共线性现象的发生,因此逐步回归分析是探索多变量关系的最常用的分析方法,智能算法是现代数据分析的主要方法。本文通过一个实例进行了对比研究,预测结果显示:在预测的精度上,在隐含层数目相同时,RBF径向神经网络BP神经网络逐步线性回归ELM极限学习机。通过对比分析,发现神经网络方法较回归分析预测效果更好,误差相对较小。     

基于PSO-ELM的双目视觉摄像机标定

针对极限学习机( extreme learning machine,ELM)在隐层节点数较少时标定精度较低的问题,利用粒子群优化算法( particle swarm optimization,PSO)与极限学习机相结合的方法对双目视觉摄像机进行标定。在标定过程中,ELM直接描述图像信息与三维信息之间的非线性关系,然后利用PSO优化ELM的输入权值与隐层阈值。实验结果表明,与ELM相比较,基于粒子群极限学习机( PSO-ELM)的双目视觉摄像机标定方法能仅用较少隐层节点数获得较高精度。     

基于极限学习机(ELM)的视线落点估计方法

基于极限学习机(ELM)所具有的训练速度快、适合多分类的特点,提出一种新的单摄像机视线追踪系统视线落点估计方法.在初始标定阶段,将多视线参数作为ELM输入,将视线在屏幕上的落点区域作为输出,将非线性多项式作为激活函数,通过初始标定获取ELM训练数据,建立视线特征参数和视线屏幕落点之间的映射模型.实验结果表明,通过对不同角度分布的视线落点进行估计和改变隐层单元数量进行训练,基于ELM的视线落点估计方法无论视线落点精度还是稳定性均优于传统的非线性多项式拟合方法.     

双并行结构优化的极限学习机及其在回归数据集中的应用

极限学习机(ELM)发展自单隐含层前馈神经网络算法,其理论简单,运行快速,应用非常广泛.为了提高ELM的泛化性能,提出了一种带有双并行结构的优化ELM算法(DPELM).在DP-ELM中,建立输入层和输出层间特殊的连接,使得DP-ELM的输出节点不仅可以接收隐含层节点的信息,也可直接接收输入节点的自信息.利用3组回归数据集验证算法性能,实验结果证明,与ELM相比,DP-ELM可以达到更好的回归精度以及更稳定的泛化能力.