一种基于粒子群优化的极限学习机

极限学习机(ELM)是一种新型的前馈神经网络,相比于传统的单隐含层前馈神经网络(SLFN),ELM具有速度快、误差小的优点.由于随机给定输入权值和偏差,ELM通常需要较多隐含层节点才能达到理想精度.粒子群极限学习机算法为使用粒子群算法(particle swarm optimization,PSO)选择最优的输入权值矩阵和隐含层偏差,从而计算出输出权值矩阵.一维Sinc函数拟合实验表明,相比于ELM算法和传统神经网络算法,粒子群极限学习机算法依靠较少的隐含层节点能够获得较高精度.     

基于改进极限学习机的纱线质量预测

由于随机给定输入权值和偏差,极限学习机(extreme learning machine,ELM)通常需要较多隐含层节点才能达到理想精度.结合粒子群算法具有全局搜索能力的优势,提出一种基于改进ELM算法的纱线质量预测模型,采用改进粒子群算法优化ELM算法的输入权值矩阵和隐含层偏差,计算出输出权值矩阵,以减少隐含层节点数.试验结果表明,相比于ELM算法,改进ELM算法能够依靠更少的隐含层节点获得更高精度,相对误差降低2.70%,可为纱线质量预测与控制提供更有效的工具,具有广泛的推广实用性.     

基于仿真样本生成的极速学习机泛化能力改进算法

极速学习机出色的训练速度和泛化能力受到了广泛的关注,已有的针对于提升极速学习机泛化性能的学习算法主要集中于优化其框架结构,增加了模型的复杂度并容易产生过拟合.提出一种基于仿真样本生成策略的极速学习机泛化能力改进学习算法(Extreme Learning Machine Generalization Improvement through Synthetic Instance Generation,SIGELM),该算法不需要修改极速学习机的框架结构(包括输入层权重、隐含层偏置、隐含层节点个数、隐含层节点激活函数类型等),而是利用与训练集中高不确定性训练样本近似同分布的仿真样本优化极速学习机的输出层权重.为了获得符合要求的仿真样本,SIGELM在高不确定性训练样本的邻域内选择能够增加极速学习机训练表现的仿真样本.实验结果证实该算法显著地改进了极速学习机的泛化能力,同时有效地控制了极速学习机的过拟合.     

基于和声搜索算法的极限学习机网络优化

极限学习机(ELM)因其运算速度快、误差小等优点而得到广泛的应用,但由于随机给定输入权值和阈值可能导致隐含层节点无效,因此,ELM通常需要增加隐含层节点数来提高预测精度,从而导致网络泛化能力不佳。为了解决上述问题,提出一种和声搜索算法的极限学习机网络(HS-ELM),采用和声搜索算法不断调整ELM输入权值和隐含层阈值矩阵选取最优以达到优化网络的目的。最后通过两种复杂度不同的非线性函数拟合加以验证。结果表明,传统ELM网络平均预测误差为0.31×10-3%和1.6%,HS-ELM的平均预测误差为0.01×10-3%和0.4%。证明和声搜索算法优化后的ELM网络在同等情况下所需的隐含层节点数和预测精度均优于传统ELM网络的。     

基于ELM神经网络的FAST节点位移预测研究

针对ELM神经网络隐含层节点数目需要人工设定,容易出现过拟合现象从而导致网络的泛化能力降低的问题,引出了基于误差最小化的ELM神经网络的改进方法 EM_ELM算法,并在理论上论证了EM_ELM算法对于提高ELM神经网络预测精度和泛化能力的可行性.随后将EM_ELM算法应用到FAST节点位移的预测模型中,并且进行了仿真验证.仿真结果表明虽然EM_ELM神经网络在训练时间上有了一定的损失,但是仍能满足实时性的要求,而且它的预测精度和泛化能力都得到提升,证明了改进算法的有效性与可行性,进一步说明了EM_ELM神经网络更适合应用于FAST节点位移预测.     

瓦斯涌出量的AFSA-ELM预测模型

为准确预测瓦斯涌出量,提出人工鱼群算法(AFSA)优化极限学习机(ELM)的瓦斯涌出量AFSA-ELM预测模型.该模型采用AFSA对ELM中的输入连接权值和隐含层阈值进行优化选取,为提高模型泛化能力,以训练样本的10次10折交叉验证的均方根误差的平均值作为AFSA目标函数的适应度值.利用18组煤矿实测数据进行试验.研究结果表明:AFSA实现了对ELM性能的优化,AFSA-ELM预测模型对样本的拟合度高,且具有较高的预测精度和泛化能力,即AFSA-ELM预测模型可以有效地实现对矿井瓦斯涌出量的预测.     

ELM岭回归软测量建模方法

ELM(极限学习机)是一种新型的前馈神经网络,可有效处理函数的回归问题.针对ELM学习算法隐含层输出可能存在的复共线性问题,提出了ELM岭回归(ELMRR)软测量建模方法.该算法利用岭回归方法代替原有的线性回归算法,以误差平方和均值为性能指标,采用粒子群优化算法确定最佳岭参数,克服了传统岭回归算法最佳岭参数难以确定的缺...     

基于去噪自编码器的镜像极限学习机设计

针对极限学习机在高维度、含噪声数据集中需要大量隐含层节点来保证分类性能的问题,设计了镜像极限学习机.该算法使用伪逆法确定输入权值,随机生成输出权值和偏置,在对数据进行分类时,它仅需极少的隐含层节点.为了提升镜像极限学习机的分类性能和抗噪性,将它与去噪自编码器相结合.利用去噪自编码器对输入数据进行特征提取,并将提取到的特征作为镜像极限学习机的输入数据,再进行网络训练.在无噪和含噪声的MNIST,Fashion MNIST,Rectangles和Convex数据集中,将基于去噪自编码器的镜像极限学习机与ELM,PCA-ELM,SAA-2和DAE-ELM作对比实验,结果表明,基于去噪自编码器的镜像极限学习机的综合性能最优,用于分类的网络隐含层节点数最少.     

基于去噪自编码器的镜像极限学习机设计

针对极限学习机在高维度、含噪声数据集中需要大量隐含层节点来保证分类性能的问题，设计了镜像极限学习机.该算法使用伪逆法确定输入权值，随机生成输出权值和偏置，在对数据进行分类时，它仅需极少的隐含层节点.为了提升镜像极限学习机的分类性能和抗噪性，将它与去噪自编码器相结合.利用去噪自编码器对输入数据进行特征提取，并将提取到的特征作为镜像极限学习机的输入数据，再进行网络训练.在无噪和含噪声的MNIST，Fashion MNIST，Rectangles和Convex数据集中，将基于去噪自编码器的镜像极限学习机与ELM，PCA-ELM，SAA-2和DAE-ELM作对比实验，结果表明，基于去噪自编码器的镜像极限学习机的综合性能最优，用于分类的网络隐含层节点数最少.     

基于PSO与ELM组合算法的短期光伏发电功率预测模型

光伏发电功率受自然环境因素影响较大,具有很强的随机性和波动性,准确及时的光伏发电功率预测对电网的调度运行具有重要的意义.提出了一种基于PSO与ELM组合算法的短期光伏发电功率预测模型.该模型通过调整粒子群优化算法(particle swarm optimization,PSO)不同阶段的寻优重点,为极限学习机(extreme learning machine,ELM)设定出了最佳网络参数,避免了ELM随机产生输入层权值和隐含层阈值造成的网络不稳定问题.同时结合传统神经网络和ELM网络隐含层节点选取原则为组合模型,设定了最佳隐含层节点数,提高了模型预测精度.实际算例验证了组合算法模型能够有效提高短期光伏发电功率预测的预测精度.     

基于SVM技术的精简极速学习机

针对极速学习机(ELM)性能过分依赖于隐层节点稠密的单隐层前馈神经网络(SLFN)问题,提出了适用于多类分类的精简型ELM,即SVM-ELM(基于支持向量机优化的ELM).该方法大幅削减隐层节点数为类别数,同时通过SVM技术优化每个节点的线性决策函数,显著提高单个节点的决策水平,为ELM的宏观决策提供有利条件.在HCL2000,MNIST和USPS等公共数据集上的实验表明:该方法能够减少节点数目而不损害学习精度,当类别数为10时,基于SVM-ELM方法构造的10节点SLFN泛化性能即可超越基于原始ELM方法构造的包含成千上万个隐层节点SLFN的泛化性能.     

基于粒子群优化极限学习机的排水管结构状况评价

基于极限学习机(ELM)和粒子群优化(PSO)算法,建立一个新型排水管道结构性状况评价模型。采用PSO算法优化ELM中的输入权值矩阵和隐含层偏置,改善网络参数随机生成带来的分类精度偏低的问题。以上海市洋山保税港区排水管网为例,对分类器模型进行训练测试,并与ELM分类结果进行对比分析。结果表明,PSO-ELM算法以较少的隐含层神经元节点获得更高的分类精度,参数优化提高了模型拟合能力,对于城市排水管道结构性状况分类、判断具有可行性和有效性。     

基于粒子群优化极限学习机数据预测模型研究

极限学习机(Extreme Learning Machine,ELM)是一种新型的前馈神经网络,该网络由广义逆直接求出输出层权重,使得其具有误差小、速度快的优点。但针对具体问题,ELM不能自动寻找到最佳的网络结构,从而造成该算法模型针对复杂、无规律性的数据精度及稳定性较差。为了提高极限学习机的泛化能力和预测精度,提出利用粒子群优化极限学习机算法对不同数据进行预测。使用粒子群算法(particle swarm optimization,PSO)选择最优的隐含层偏差和输入权值矩阵,计算出输出权值矩阵,从而提高ELM的精度及稳定性。并通过PSO-ELM和ELM分别对复杂程度不同的汽油辛烷值和交通流量数据进行算法预测比较发现,PSO-ELM优化算法对无规律性、复杂程度高的数据可以获得更高的精度,提高了数据预测的拟合能力。实验结果表明,PSO-ELM对于非线性、无规律性等复杂特性的数据预测具有一定的可行性和有效性。     

基于改进仿电磁学ELM在相机标定中的应用

针对相机标定时难以建立精确的数学模型以及极限学习机(ELM)在隐层节点数少时逼近精度低的问题,提出了基于改进仿电磁学(EM)优化ELM的双目视觉相机标定方法。在标定过程中,采用极限学习机精确逼近图像坐标与世界坐标间的非线性关系,利用改进EM策略,包括使用自适应步长以及空间解收缩,优化ELM的输入权重和隐层偏置,提高ELM的收敛速度和泛化能力。实验结果表明,改进EM-ELM优化算法的收敛速度快于PSO的,且用更少的隐层节点数取得较高的标定精度。     

基于文化萤火虫算法-广义回归神经网络的船舶交通流量预测

为了给海事部门提供科学准确的船舶交通流量预测,本文提出一种基于文化萤火虫算法(CFA)来优化广义回归神经网络(GRNN)的算法(CFA-GRNN),对船舶交通流量进行预测分析.介绍了基于自动识别系统(AIS)的航道交通流量统计方法.利用快速排斥试验和跨立试验来判断船舶轨迹是否穿过航道某一断面的观测线,并将AIS数据中的经纬度数据转换为墨卡托平面坐标系数据.研究了GRNN的实现原理,CFA以GRNN输出均方差为适应度函数,以GRNN的输入层和隐含层中的权值、隐含层和输出层中的权值、隐含层的阈值及输出层的阈值为编码进行优化,进化目标是得到最合适、最优的神经网络结构.利用AIS收集统计到并经过预处理后的数据,应用CFA-GRNN对舟山螺头通航的船舶进行交通流量预测,并对试验结果和误差进行了统计分析.结果表明:CFA-GRNN与GRNN和萤火虫优化广义回归神经网络相比,泛化性能好,不易陷入局部最优,预测结果精度更高.本研究对船舶交通流量进行预测分析有着十分重要的理论和实际意义.     

超大能力超细全尾砂长距离自流输送临界流速ELM预测

 为准确预测司家营铁矿超大能力超细全尾砂浆体长距离管道自流输送的临界流速,对比传统的BP 神经网络、支持向量机(SVM),建立了以管道直径、物料平均粒径、浆体体重和体积浓度为输入因子,临界流速为输出因子的极限学习机(ELM)预测新模型。研究结果表明,ELM 模型与SVM 模型的相对误差均控制在5%以内,远低于BP 神经网络模型的9.56%。由于隐层节点参数均随机选取且无需调节,使得ELM 算法在隐层节点数为110 和200 时,训练时间仅为0.02 s 和0.05 s,远少于同节点状态SVM 模型的0.04 s 和0.095 s,且隐含节点数越多,训练时间差距越大,运算效率越高。     

函数型数据分析与优化极限学习机结合的弹药传输机械臂参数辨识

为实现弹药传输机械臂中不可测参数的辨识,建立了机械臂的虚拟样机,并将其作为样本数据的来源;考虑到样本数据的连续性和平滑特性,使用函数型数据分析和函数型主成分分析对样本数据进行了特征提取,并利用提取的特征参数和待辨识参数作为训练样本对极限学习机(ELM)进行了训练.为提高极限学习机的辨识精度和泛化能力,利用粒子群算法对极限学习机的输入层与隐含层的连接权值和隐含层节点的阈值进行了优化.最后,分别利用仿真数据与测试数据对此方法进行了验证,仿真数据的辨识结果表明,优化后的极限学习机具有更高的辨识精度和泛化能力;同时,通过对比将测试数据的辨识结果代入模型中进行仿真得到的支臂角速度与测试角速度,验证了此方法的可行性和有效性.     

集成Dropout极限学习机数据分类方法

极限学习机(Extreme Learning Machine,ELM)是一种速度快,泛化能力强的训练单隐含层前馈神经网络(Single-hidden Layer Feed-forward Neural-network,SLFN)的算法.但是在应用ELM解决实际问题时,需要先确定合适的SLFN结构.然而,对于给定的问题,确定合适的SLFN结构是非常困难的.针对这一问题,本文提出了一种集成学习方法.用该方法解决问题时,不需要事先确定SLFN的结构.提出的方法包括3步:(1)初始化一个比较大的SLFN;(2)用ELM重复训练若干个Dropout掉若干个隐含层结点的SLFNs;(3)用多数投票法集成训练好的SLFNs,并对测试样例进行分类.在10个数据集上进行了实验,比较了本文提出的方法和传统的极限学习机方法.实验结果表明,本文提出的方法在分类性能上优于传统的极限学习机算法.     

基于PSO-ELM的建筑物爆破震动速度预测

 针对影响爆破震动速度因素之间复杂的非线性关系,利用粒子群算法（PSO）的全局搜索最优解原理和极限学习机（ELM）处理非线性关系能力,建立了爆破震动速度预测的PSO-ELM 模型。以某地区爆破震动实测数据为例,选取总药量、最大段药量、爆破点与监测点距离、建筑物所在地面震动速度和测点到地面的高度等5 个因素为输入变量,以建筑物震动速度为输出变量。结果表明,PSO-ELM 模型训练值与预测值,测试值与预测值的均方误差分别为0.18 和2.56,平均相对误差控制在6%以内,显示出该模型具有良好的训练精度和泛化能力。对比传统ELM 模型,PSO-ELM 模型不但提高了精度和泛化能力,而且降低了训练样本数和隐含层节点数变化对训练结果的影响,提高了模型的拟合能力,在类似预测工程中有一定的推广价值。     

汽油辛烷值近红外光谱检测的改进极限学习机建模方法

为提高近红外光谱法检测汽油辛烷值的精度,该文提出一种汽油辛烷值近红外光谱检测的改进极限学习机(i ELM)新型建模方法。该算法融合了极限学习机算法(ELM)与基于变量投影重要性系数的改进叠加偏最小二乘回归(VIP-SPLS)模型算法,有效解决了ELM模型隐含层输出矩阵维数高和高度共线性的问题。采用该算法对汽油辛烷值的近红外光谱检测数据进行建模,发现改进极限学习机模型的精度比现有的偏最小二乘回归模型和极限学习机模型分别提高20.0%和29.3%,验证了方法的有效性。实验表明,该文方法可用于汽油辛烷值的近红外光谱检测,检测精度良好。