一种基于粒子群优化的极限学习机

极限学习机(ELM)是一种新型的前馈神经网络,相比于传统的单隐含层前馈神经网络(SLFN),ELM具有速度快、误差小的优点.由于随机给定输入权值和偏差,ELM通常需要较多隐含层节点才能达到理想精度.粒子群极限学习机算法为使用粒子群算法(particle swarm optimization,PSO)选择最优的输入权值矩阵和隐含层偏差,从而计算出输出权值矩阵.一维Sinc函数拟合实验表明,相比于ELM算法和传统神经网络算法,粒子群极限学习机算法依靠较少的隐含层节点能够获得较高精度.     

基于遗传神经网络的AZ91镁合金力学性能预测

在合适的参数条件下径向基函数神经网络能够以任意的精度来逼近任意的函数,遗传算法是一种高效的全局寻优的搜索方法.将遗传算法和径向基函数神经网络相结合,建立遗传神经网络,运用到合金设计的性能预测方面.使用简单易行的二进制编码方法,在寻求径向基函数神经网络隐含层神经元最优中心矢量的同时确定其最优个数,通过设定合理的目标函数解决网络函数逼近能力与泛化能力之间的矛盾.试验证明,该方法在合金性能预测方面有较好的效果,能够成为合金设计有力的辅助手段.     

基于遗传神经网络的AZ91镁合金力学性能预测

在合适的参数条件下径向基函数神经网络能够以任意的精度来逼近任意的函数,遗传算法是一种高效的全局寻优的搜索方法.将遗传算法和径向基函数神经网络相结合,建立遗传神经网络,运用到合金设计的性能预测方面.使用简单易行的二进制编码方法,在寻求径向基函数神经网络隐含层神经元最优中心矢量的同时确定其最优个数,通过设定合理的目标函数解决网络函数逼近能力与泛化能力之间的矛盾.试验证明,该方法在合金性能预测方面有较好的效果,能够成为合金设计有力的辅助手段.     

优化小波神经网络停车泊位多步预测

【目的】通过改进停车泊位预测方法为交通出行提供有益帮助。【方法】利用李雅普指数对停车泊位序列进行分析,指出序列具有混沌特性,可进行多步预测。利用db32小波函数具有双正交性、紧支撑性以及消失矩阶数较大的特征,对归一化的停车泊位序列进行多尺度分解与重构,并作为小波神经网络(Wawelet neural network,WNN)的隐含层函数。为提高预测精度和降低预测时间,分别使用粒子群算法(Particle swarm optimization,PSO)和极限学习机(Extreme learning machine,ELM)来优化WNN。其中,使用PSO对WNN的权值进行调整,逐步迭代得到最优值;使用ELM将全局最优值作为单隐层前馈神经网络的输入,使得算法尽快收敛。优化后的WNN结合迭代多输出法对停车泊位进行预测。将上述预测方案称为极限学习机和粒子群算法双重优化的小波补缀网络多步预测(Multi-step prediction based on wavelet neural networkimproved by extreme learning machine and particale swarm optimization,MP-EPWNN)。【结果】仿真实验表明,相对于BP神经网络、遗传算法优化小波神经网络、极限学习机优化小波神经网络、粒子群优化小波神经网络4种算法,MP-EPWNN算法的预测均方误差平均降低了96.6%,预测所需的时间平均降低了65.97%。【结论】MP-EPWNN算法预测停车泊位是有效的。
     

基于模块化神经网络的船舶航迹航速预测

为提高船舶航迹航速预测精度,提出一种模块化神经网络MNN(modular neural network)船舶航迹航速预测方法。首先,利用归一化互信息与专家知识确定预测目标的辅助变量从而分解任务;然后,将RBF(radial basis function)神经网络和Elman神经网络用于子网络搭建,使用减法聚类算法确定初始子网络结构,在此基础上提出误差反馈方法将RBF神经网络训练的最大误差所对应的样本作为隐含层新增神经元并通过粒子群算法PSO(particle swarm optimization)优化RBF神经网络学习参数,运用性能函数动态调整Elman神经网络隐含层神经元数目以此构造模块化神经网络对目标进行预测;最后,实验结果表明模块化神经网络预测精度与网络结构均优于传统BP与RBF神经网络,证明了所提方法的有效性。     

基于文化萤火虫算法-广义回归神经网络的船舶交通流量预测

为了给海事部门提供科学准确的船舶交通流量预测,本文提出一种基于文化萤火虫算法(CFA)来优化广义回归神经网络(GRNN)的算法(CFA-GRNN),对船舶交通流量进行预测分析.介绍了基于自动识别系统(AIS)的航道交通流量统计方法.利用快速排斥试验和跨立试验来判断船舶轨迹是否穿过航道某一断面的观测线,并将AIS数据中的经纬度数据转换为墨卡托平面坐标系数据.研究了GRNN的实现原理,CFA以GRNN输出均方差为适应度函数,以GRNN的输入层和隐含层中的权值、隐含层和输出层中的权值、隐含层的阈值及输出层的阈值为编码进行优化,进化目标是得到最合适、最优的神经网络结构.利用AIS收集统计到并经过预处理后的数据,应用CFA-GRNN对舟山螺头通航的船舶进行交通流量预测,并对试验结果和误差进行了统计分析.结果表明:CFA-GRNN与GRNN和萤火虫优化广义回归神经网络相比,泛化性能好,不易陷入局部最优,预测结果精度更高.本研究对船舶交通流量进行预测分析有着十分重要的理论和实际意义.     

Sigmoid传输函数与三层前馈神经网络的映射能力

对于具有n个隐含单元的三层前馈神经网络,证明了隐含层的Sigmoid传输函数可以把输入层数据的维数提升到n维,这意味着有n个隐神经元的前馈三层神经网络具有把低维空间映射到高维空间的能力。     

基于相容粗糙集的ELM网络结构选择

结构选择是神经网络研究的热点,文章提出了一种基于相容粗糙集技术的ELM(Extreme Learning Machine)网络结构选择方法,给定一个含有很多隐含层结点的前馈神经网络.该方法用相容依赖度度量隐含层结点的重要性,将不重要的隐含层结点逐一去掉,直到满足预定义的终止条件为止.实验结果表明,该文提出的方法是行之有效的.     

径向基概率神经网络的结构优化算法研究

径向基概率神经网络（RBPNN）是在径向基函数神经网络（RBFNN）和概率神经网络（PNN）的基础上发展起来的一种新型的前馈神经网络（FNN）模型。该网络模型充分吸收了径向基函数神经网络和概率神经网络的优点,这种新的模型具有计算复杂度低、收敛速度快等优点。本文深入研究了径向基概率神经网络的结构优化算法,在遗传结构优化方法的基础上,提出一种新的两步学习算法,基于遗传算法的梯度学习算法。该算法一方面优化了网络结构,使网络结构尽可能的精简,另一方面有效地提高了网络的推广能力。     

基于组合神经网络的软件可靠性预测研究

为了进一步提高神经网络的预测能力,提出了一种前馈神经网络混合学习算法,并将其应用于组合神经网络.该算法由一种模式提取算法(Alopex)和伪逆算法组成.在该混合学习算法中,网络的学习任务被分解为2个部分:隐藏层的权值先随机给定,然后使用Alopex算法不断地对其进行扰动;输出层的权值使用伪逆算法确定.所使用的组合神经网络由多个结构相同的前馈神经网络组成,每个前馈神经网络都使用混合学习算法(采用不同的初值)进行训练.实验结果表明,这种组合神经网络能够显著提高软件可靠性的预测精度.     

前馈网络构造性设计中基于GP实现神经元激活函数类型优化

讨论了在前馈网络构造性设计中如何基于遗传编程(GP)实现神经元激活函数类型自动优化的问题.首先,提出了典型前馈网络的一种构造性设计方法框架,将整个网络的设计分解为单个神经元的逐个设计;然后,在此框架下提出了基于GP的单个神经元的设计方法,该方法可实现对激活函数类型的优化.仿真实验显示,本文的前馈网络构造性设计方案是可行的,与其他几种不优化激活函数类型的网络设计方法相比,本方法更有效,能用较小的网络规模获得更满意的泛化特性.     

多维离散傅立叶变换神经网络函数逼近

利用多维离散傅立叶变换原理构造新颖的神经网络模型用于函数逼近,网络结构为分层前向网络。给出了网络的学习算法,网络的大部分权值都是固定的,只有输出层与最后隐层之间的权值需要调节。     

前向神经网络的处理能力和推广性量度

目标问题的复杂程度和网络处理能力的适合程度是影响人工神经网络推广性的本质因素。为了衡量前向神经网络（ Ｆ Ｎ Ｎ）的处理能力,该文对 Ｆ Ｎ Ｎ 的插值误差进行了研究,得到了统计意义下 Ｆ Ｎ Ｎ 处理能力的估计值,进而定义了能间接反映神经网络推广性的推广性量度。该方法能够估计出适合目标问题的网络规模,应用于函数逼近和样本分类问题,仿真结果证实了该方法的有效性。     

最优模糊神经网络参数的设计--混沌模拟退火学习法

提出了一种新型优化算法———混沌模拟退火学习法,将混沌算法和模拟退火算法相结合学习模糊神经网络的结构和参数。首先将混沌变量引入模糊神经网络参数的优化搜索中,利用混沌变量的遍历性寻优,根据性能指标寻找较优的模糊神经网络控制器,然后在混沌优化确定的网络基础上,把经混沌搜索后得到的全局次优解作为模拟退火学习算法的初始值,再用模拟退火方法进一步学习网络的隶属函数和权值参数,找到一个全局最优的网络。仿真结果表明:混沌模拟退火学习法优于传统优化方法,其控制结果具有精度高、超调小和响应快的优点,为解决模糊神经网络控制器参数全局最优设计提供了一种切实有效的方法。     

基于参数优化的RBF神经网络结构设计算法

针对径向基函数(RBF)神经网络的结构优化问题,提出了一种基于参数优化的RBF神经网络优化算法.首先,改进K-means++算法,使得聚类算法更精确,为RBF神经网络的隐含层节点找到一个合适的初始中心;然后,考虑数据分布和缩放因子选择的影响,采用方差度量法计算隐含层神经元基函数的宽度;最后,修正网络参数,提高网络的非线性逼近能力.实验结果表明,本文提出的基于参数优化的RBF神经网络具有良好的逼近效果和泛化能力.     

径向基概率神经网络结构的遗传优化

运用遗传算法(GA)来优化设计径向基概率神经网络(RBPNN)结构，优选了隐中心矢量和优化求取对应的核函数控制参数．提出的染色体编码方式，充分体现了所选隐中心矢量在模式样本空间中的数量及位置分布，同时还包含了相适应的棱函数控耕参数信息．新构造的适应度函数不仅有效地控制了网络输出的误差精度，而且还能够使得RBPNN结构优化趋于最简．将IRIS分类问题用于检验该算法的有效性并与ROLSA和MKM进行了比较研究，结果表明，GA的优化效率最高，而且GA优化后的RBPNN在推广能力方面也没有明显下降．     

Application of FNN to the Modeling of FCCU

IntroductionThe Fluidized Catalytic Cracking ( FCC )process is stable under normal conditions,butsometimes the whole process deviates from theoptimal track due to environmentaldisturbances oraging of the equipment.The optimal productionconditions and the best profit can be found bystudying the stable optimization state.There iscurrently little research or state optimizationapplications due to the difficulties of oldmeasurement and control equipment,modelingdifficulties,formidable research an…     

我们还需要前馈神经网络技术？

定义了前馈核神经网络的体系结构。从实际应用的需求出发。所定义的网络涵盖了目前多数前馈神经网络。从理论上证明了该网络的批量学习过程实际上所表达的是一种核学习机,进而证明了网络的学习仅需在最后一层实施即可,而在隐含层的参数可任意赋值。因此,该结论事实上是现有LLM及ELM的拓广。同时,发现在逼近精度要求不是太高的情况下,目前的前馈神经网络学习技术因过于繁琐而没有必要,仅需对网络最后一层进行学习即可。而前馈神经网络技术目前最前沿的应用是解决大样本及深度知识表达问题。针对这两个热点问题,分别提出了大样本下的廉价学习策略和深度知识挖掘下的灵巧学习策略。在此,作者希望该文能引起广泛讨论甚至争论。     

稳定性监控自学习FNN控制器

针对一类未知的非线性系统，提出一种具有稳定性监控的实时自学习ＦＮＮ控制器．ＦＮＮ控制器采用遗传算法使自学习获得最优的性能指标；实时学习过程的稳定性则由基于李雅普诺夫方法设计的监控器来保证，使得ＦＮＮ控制器的自学习过程总是在全局稳定性的条件下进行．     

ELM-RBF神经网络的智能优化策略

提出了ELM-RBF(extreme learning machine-radial basis function)神经网络的智能优化方法,采用差分进化算法和粒子群优化算法来确定ELM-RBF神经网络中隐层神经元的中心和宽度。仿真结果表明,在具有相同的网络结构前提下,基于智能优化策略的ELM-RBF神经网络学习算法具有更好的泛化能力和较好的鲁棒性。