一种基于粒子群优化的极限学习过程神经网络

本文针对过程神经元网络(Process Neural Network,PNN)模型学习参数较多,正交基展开后的梯度下降算法初值敏感、计算复杂、不易收敛等问题,结合极限学习机(Extreme Learning Machine,ELM)的快速学习特性,提出了一种新型的极限学习过程神经元网络.学习过程中摒弃梯度下降算法的迭代调整策略,采用Moore-Penrose广义逆计算输出权值矩阵.同时为弥补极限学习机由于随机赋值造成的不足,利用粒子群算法(Particle Swarm Optimization,PSO)良好的全局搜索能力进行模型参数优化,获得紧凑的网络结构,提高了模型泛化能力.仿真实验以Henon混沌时间序列和太阳黑子预测为例,验证了网络的有效性.     

不可测过程参数的智能化软计算方法及应用

为解决控制系统中存在的时变过程数学建模困难,有些过程参数难以在线实时检测的问题,研究基于过程神经元网络的不可测过程参数软计算方法。分析正交基函数展开的学习算法收敛速度慢的问题,将BP网络的改进算法引入到过程神经元网络的训练中,增加基函数展开系数的规一化处理、权函数动量项调整项,以及学习率自适应调整方法,改进算法明显消除了误差收敛曲线振荡和网络收敛速度慢的问题。该方法在污水处理过程出水水质BOD预测中网络训练速度快,取得较好的预测结果,是一种不可测过程参数智能化软计算的有效方法。     

基于改进PSO-RBF神经网络的光伏功率预测

针对RBF算法的隐节点中心和参数会影响光伏发电功率的预测精度,提出了一种基于改进粒子群算法(Particle Swarm Optimization,PSO)优化径向基函数网络(Radial Basis Function,RBF)算法,通过寻找相似日,将相似日的实际功率和影响光伏发电功率的气象因子数据作为输入,同时利用改进PSO优化RBF网络参数,建立预测模型进行训练和预测。在粒子群优化算法中,通过动态调整惯性权重,有效地提高了非线性问题的求解能力,采用改进粒子群优化算法优化径向基神经网络参数,兼顾了PSO和RBF神经网络模型的优点,具有较好的收敛速度和预测精度。通过实际光伏发电数据验证表明,该算法具有较高的预测精度。     

基于改进粒子群深度神经网络的频率域航空电磁反演

传统的梯度反演方法依赖于初始模型选取,且容易陷入局部极小,在一定程度上影响着反演的求解精度和收敛速度,为此,提出一种基于改进粒子群深度神经网络的频率域航空电磁反演方法。首先,通过频率域航空电磁模型正演获取样本数据集;随后,依据样本数据集建立深度神经网络的基本框架,网络的输入为归一化垂直磁场分量,输出为相应地电模型参数;第三,提出一种惯性权重振荡衰减措施在粒子群优化算法的基础上进行改进,以提高粒子群优化算法的全局寻优能力,并利用改进的粒子群优化算法优化深度神经网络的训练过程,得到连接权值与阈值的最优解;最后,将最优的权值与阈值作为网络的初始值,并利用该网络对未知地电模型进行反演测试。利用层状地质模型测试改进粒子群深度神经网络算法、粒子群神经网络算法和单一的神经网络算法的反演效果,并将此方法运用于实测航空电磁数据反演。研究结果表明:本文提出的改进粒子群神经网络算法充分结合了粒子群优化算法的全局寻优性能和深度神经网络的局部寻优性能,在反演过程中能有效避免反演陷入局部极小,寻找到全局最优解,并能准确地反演出地电模型参数;与粒子群神经网络算法和单一的神经网络算法相比,本文提出的方法具有更高的求解精度和收敛速度。     

基于QPSO小波神经网络的网络异常检测

为了提高网络异常检测中,对异常状态的检测率,降低对正常状态的误判率,提出一种基于量子粒子群优化算法训练小波神经网络进行网络异常检测的新方法.利用量子粒子群优化算法(QPSO)训练小波神经网络,将小波神经网络(WNN)中的参数组合作为优化算法中的一个粒子,在全局空间中搜索具有最优适应值的参数向量.实验数据采用KDD CUP99数据集,实验结果表明:该学习算法与传统的梯度下降法(GD)和粒子群算法(PSO)相比,收敛速度快,具有更好的全局收敛性,提高了异常检测的准确性,同时该方法对于新的异常也有较高检测率.     

混合学习法前向网络多属性储层参数预测

应用前向网络描述地震属性和储层参数间的非线性映射关系时,经典的误差反向传播算法存在收敛速度慢,易陷入局部极值等诸多不足。研究了融合粒子群优化算法和误差反向传播算法的混合学习法前向网络多属性储层参数预测技术。粒子群优化算法是一种群体随机搜索演化计算技术,具有较快的收敛速度和较强的全局搜寻能力;误差反向传播算法本质上是梯度下降算法,注重局部搜索。混合学习法为两种学习算法交替执行,首先以粒子群优化算法训练网络,当误差能量在规定的迭代次数内不再发生变化时,采用误差反向传播算法实现局部寻优。理论函数逼近测试和实际储层参数预测实验说明了混合学习法具有学习时间短、求解效率高、可靠性强的优点,具有良好的应用前景。     

基于AEPSO优化的神经网络多步预测控制

为提高神经网络预测控制的性能,提出了基于自适应扩展粒子群优化的神经网络预测控制方案。基本PSO算法中,每个粒子的更新受粒子个体极值和局部极值的影响,为了提高其全局收敛性,采用多粒子策略,使每个粒子的更新受更多其他粒子的影响;为提高收敛速度,采用自适应策略,对参数c0进行自适应调整,使c0随着迭代次数的增加而逐渐减小,这样,在PSO算法的搜索过程中,随着迭代次数的增加,搜索区域会越来越小,从而加快PSO算法收敛速度。运用该算法实现神经网络预测控制中的滚动优化,在有限时域内对控制序列进行寻列,给出基于粒子群优化的神经网络预测控制系统的稳定性证明。仿真结果表明,基于粒子群优化的神经网络预测控制系统具有良好的跟踪性能。     

基于改进粒子群算法的过程神经网络训练

针对过程神经元网络由于模型参数较多,正交基展开后的BP算法不易收敛的问题,结合量子理论,提出一种改进的粒子群算法,并用于过程神经元网络的训练。算法中粒子采用双链结构,用量子位的概率幅对粒子位置编码,通过量子旋转门和量子非门完成粒子的更新与变异,可发挥量子粒子群的群体搜索能力和全局收敛性,有效克服BP算法计算复杂、容易陷入局部最小值等缺陷。以两组二维三角函数的模式分类问题为例,验证算法有效性。结果表明该方法不仅收敛速度快,而且寻优能力强。     

基于改进粒子群优化算法的灰色神经网络模型

根据灰色神经网络的参数随机选择类似于粒子群算法中的粒子初始空间位置,采用改进粒子群算法代替梯度修正法,对网络参数进行了处理,并通过寻找粒子群算法中的最优个体,建立了基于改进粒子群算法的灰色神经网络,提高了预测模型的稳健性和精度.通过解决短期订货量问题,与反向传播(BP)神经网络、灰色神经网络、没有改进的粒子群灰色神经网络算法和基于遗传算法的灰色神经网络等方法进行了比较.分析结果表明,基于改进粒子群算法的灰色神经网络计算更为方便,并具有更好的逼近能力和预测精度.为优化网络模型参数提供了一种新方法,并拓展了预测模型的研究思路.     

一种全局优化的两阶段算法

为了提高算法的有效性,利用梯度算法和粒子群算法独立的运行机制,采用驱赶技术和重新初始化部分群体的技术,提出了一种基于梯度下降法和粒子群算法的两阶段优化算法,并对新算法进行了理论分析和数值仿真.数值结果显示新算法比单纯梯度算法有更好的全局优化能力,比单纯粒子群算法有更快的收敛速度和更高的精度.新算法求解质量更高,运行更稳定.     

船体双层底结构优化的粒子群优化算法

为优化船体双层底结构,在适于求解连续变量的标准粒子群优化算法(PSO)基础上,提出一种离散变量PSO算法,并利用标准PSO算法和离散变量PSO算法分别对测试函数和某大型油船双层底结构优化设计问题进行求解,该双层底结构的响应分析计算采用正交异性板计算模型实现.研究了不同取值的惯性权重和学习因子对优化结果的影响.通过对计算结果的对比分析,得出该离散变量PSO算法应用于船体板架结构优化设计时,其惯性权重和学习因子的最佳取值范围.     

改进的粒子群算法及其在软测量建模中的应用

提出了一种改进的粒子群算法,很好地解决了基本粒子群算法中易陷入局部最优的缺点。通过比较和分析几个标准测试函数的计算结果,改进的粒子群算法的优良性得到充分的证明。改进的粒子群算法被用于优化神经网络的结构和参数,结果表明:不但网络的结构得到控制,而且泛化性能有了较大的提高。同时,算法在优化神经网络上的有效性也在4-CBA含量的软测量建模中得到了很好的证实。     

基于改进PSO的高分子材料降解模型参数优化

为提高可降解高分子材料降解模型仿真的准确程度,结合高分子材料降解的实际原则和所要考虑的各种因素,建立了适合优化的参数优化模型,并将粒子群优化算法(PSO)用于模型的求解.针对标准粒子群算法存在的一些不足,提出了一种改进的粒子群优化算法来求解最优值,改进的算法引入了动态自适应惯性权重和异步时变学习因子.采用5个标准测试函数对改进的粒子群算法进行了测试,并将算法应用于参数优化模型的求解.测试与试验结果表明:新算法有效地避免了过早陷入局部最优,提高了收敛速度和收敛精度,并且采用优化所得参数显著地提高了高分子材料降解模型仿真的精准度,有利于揭示降解机理的科学意义和指导实际医用器件的设计与生产.     

基于高斯学习多峰延迟粒子群优化算法

为克服粒子群在解决多峰函数复杂问题时存在收敛速度慢和极易陷入局部最优值的缺点,提出了一种基于高斯学习多峰延迟粒子群混合算法。首先引入改进的高斯学习提高算法的收敛速度,然后在此基础上,针对4 种进化状态在算法中引入延迟因子避免局部最优问题。通过对6 个单峰多峰测试函数进行仿真实验,验证了GLPSO( Gaussian Learning PSO) 算法具有更好的收敛速度,同时验证了GLMDPSO( Gaussian Learning Multimodal Delayed PSO) 算法在处理多峰函数复杂问题时具备更好的全局搜寻能力。因此,改进算法在解决多峰函数寻优问题时可有效跳出停滞状态,提高收敛速度并具有较好的寻优能力。     

惯性权值和学习因子对标准PSO算法性能的影响

基于标准PSO算法,通过分析惯性权值和学习因子2类参数不同的取值策略对常用测试函数优化结果的影响,来探究2类参数对算法性能的影响.实验结果表明,2类参数恰当的动态改变不仅能明显提高单峰函数的寻优精度和收敛速度,而且能提高双峰和多峰函数的寻优概率;惯性权值主要影响算法的收敛速度,随着惯性权值的递增,算法收敛速度逐渐加快;学习因子主要影响算法的寻优精度,当反映粒子的自我学习能力和向群体最优粒子学习的能力的学习因子同增同减变化时,寻优精度提高;惯性权值递增结合2种学习因子的同增同减变化,或惯性权值递减结合2种学习因子的一增一减变化,均可使标准PSO算法性能得到显著提高.     

一种PNN网络的EM训练算法

提出一种概率神经网络（ＰＮＮ）的ＥＭ（ＥｘｐｅｃｔａｔｉｏｎＭａｘｉｍｉｚａｔｉｏｎ）训练算法．ＰＮＮ网为一四层前馈网,它构成一个贝叶斯分类器,实现多类分类的贝叶斯判别,它把输入的样本模式,经网络变换为输出的分类判决．其网络节点对应于贝叶斯后验概率公式的各个变量．此ＰＮＮ网络用高斯核的Ｐａｒｚｅｎ窗函数作为核密度函数,网络参数训练由ＥＭ算法实现,其学习方式为类间的监督学习和类内的非监督学习．实验表明了此网络及其学习算法在分类应用中的有效性．     

微粒群优化算法研究

微粒群算法(PSO算法)是模拟鸟类、鱼群等的群体智能行为的一种启发式全局优化技术.通过介绍微粒群优化算法的原理、算法流程、算法参数及其对算法性能的影响,给出了各种改进的微粒群算法形式以及研究现状,归纳了微粒群算法的国内外应用进展及研究方向.     

改进粒子群算法及其在超导电缆参数优化中的应用

提出了一种改进粒子群优化算法，引入平均粒距和差分进化算子改善了传统粒子群算法在高维、多峰函数寻优应用中容易出现“早熟”的问题，并且应用物理加速度的概念，描述了其他粒子的速度信息对某个粒子速度产生的影响，从而加快了粒子群算法的收敛速度．针对高温超导电缆电流分配不均将导致交流损耗增大的问题，应用改进粒子群算法对冷介质超导电缆的绕制方向、绕向角和半径进行了优化．计算结果表明，通过优化调整电缆导电层的结构参数，各层电流可以达到均衡分布，交流损耗显著降低．     

一种新的混合粒子群优化算法

将禁忌搜索思想引入粒子群优化算法中,改进惯性权重,添加罚函数重新构造适应度函数;在此基础上,提出了一种基于禁忌搜索的新的混合粒子群优化算法(NHPSO),通过4个标准测试函数实验,结果表明:NHPSO算法比基本粒子群优化算法(PSO)具有更好的全局寻优能力、更快的收敛速度以及获得更高精度解的能力。     

基于PSO的PID参数整定仿真与研究

针对工业控制过程中经验PID整定耗时耗力、精度低且稳定性能差等问题进行研究,提出采用标准粒子群算法可实现对PID控制器参数的快速优化且收敛效果明显;通过重点分析PSO算法中的不同惯性权重以及学习因子分别对被控对象系统控制优化性能的影响,深入研究算法参数各部分的作用及其设置范围,使基于PSO算法的PID整定方法能够获得最优的控制效果及更广阔的应用前景;最后,应用Matlab软件平台,并结合Simulink系统进行算例数字仿真分析:通过对比不同惯性权重及学习因子情况下的仿真结果,证明方法的鲁棒性强;通过对比传统Z-N方法和遗传算法整定,证明了方法的优越性。