基于实数编码遗传算法的多层神经网络BP算法

提出用实数编码的遗传算法来优化多层神经网络的权值,并且将遗传算法与ＢＰ算法结合,能有效地避免ＢＰ算法陷入局部极小和遗传算法过早收敛,实验结果令人满意。     

一种改进的神经网络BP算法

提出同时对神经元温度常数Ｔ、位置常数θ、联接权值Ｗ进行调整的观点,并推导出相应的学习算法公式。对比试验表明：所给出的改进算法能有效地减少节点数、加速训练进程认识精度。     

一种改进的多记忆BP神经网络算法

本文针对目前标准BP神经网络的缺点,提出基于高阶导数的多记忆BP算法,将能量函数的n阶导数与最速下降方向相结合,构造出一个新的最速下降方向,从而提高了神经网络的学习速度。首先证明了该算法相对于传统梯度算法的快速性,然后给出了该算法的实现方法,并进行了算例仿真。结果证明,该算法便捷、实用、有效。     

一种BP神经网络改进算法的研究

为提高神经网络传统BP算法的训练速度,以3层神经网络为例,通过对权值的分析与优化,推导出改良的BP算法——双权值迭代优化法,并对该算法与传统算法进行了比较,通过比较发现,新算法在保证精度的前提下可节省训练时间,同时对该算法特点进行了总结。     

前馈神经网络中BP算法的一种改进

在传统的BP算法基础上,提出了一种改进的BP学习算法,先加入描述网络复杂性的量,使算法能够考虑到网络的连接复杂性,进而有可能删除掉冗余的连接甚至节点;接着提出对网络的学习步长的动态调整,以此来尽量避免传统学习中的学习速度过慢和反复震荡;然后给出新的算法是高阶非线性收敛的证明;最后通过实验说明的新的BP算法在一定程度上可减少网络的复杂性,有着比传统算法更快的收敛速度。     

BP神经网络模型中活化函数对网络性能影响的研究

本文在ＢＰ神经网络模型中，采用一种新型的神经元活化函数替换传统的Ｓ型活化函数，并在活化函数中引入了可调参量，研究表明，作这一替换后对提高网络的学习速度、抑制假饱和现象起到了很好的作用。     

BP神经网络训练算法的改进

BP神经网络被广泛应用于分类模式识别、图像处理和系统控制等领域。 人们对BP网络算法进行了许多的研究,但尚有其不足之处,为完成其权的训练,问题的关键在于如何避免陷入局部极小及在此前提下如何提高学习速度。为此,就如何选取学习率η和动量矩α提出了改进方案,并应用于数字识别,得到了较为满意的结果。     

一种改进的可变学习速率的BP神经网络算法

针对可变学习速率反向传播算法(VLBP)对误差曲面变化不敏感而且收敛慢等不利因素,提出一种改进的可变学习速率反向传播算法(IVLBP),通过引入均方误差增加量和减小量两个阈值参数,使得学习算法对误差曲面变化敏感且收敛速度快.最后,通过对VLBP和IVLBP算法的仿真比较证明了IVLBP算法的有效性.     

BP神经网络训练算法的改进

BP神经网络被广泛应用于分类模式识别、图像处理和系统控制等领域人们对BP网络算法进行了许多的研究,但尚有其不足之处为完成其权的训练,问题的关键在于如何避免陷入局部极小及在此前题下如何提高学习速度为此,就如何选取学习率η和动量矩α提出了改进方案,并应用于数字识别,得到了较为满意的结果     

一种改进的BP算法

为了克服BP算法易陷入局部极小、收敛速度慢等缺点,笔者利用非线性最小二乘法对其进行了改进.结果表明,采用改进后的BP算法来训练神经网络,能在一定程度上提高神经网络的收敛速度,具有学习速度快、识别能力强等优点.     

一种改进的BP网络图象压缩方法

本文提出了一种改进的ＢＰ网络图象压缩方法．该方法对输入图象矢量进行分类，不同类别的图象矢量分别由不同的ＢＰ网络来实现压缩和恢复．因为同一类别图象矢量间离散度较小，所以可降低ＢＰ网络的映射复杂度，从而达到改善图象质量的目的．实验结果表明，这种改进能有效提高恢复图象的信噪比和视觉质量，对数据压缩比影响很小．     

多层神经网络的快速BP算法

首先分析了BP算法中的误差函数对收敛精度的影响,给出了综合考虑绝对误差和相对误差的相差函数,其次利用优化方法中的共轭梯度算法来计算学习过程中的误差下降方向,并根据尺度公式对该方向进行修正,从而得到快速BP算法。经过对实际算例的模拟,结果表明本文给出的快速BP算法是一种适用于多层神经网络的、性能优良的学习算法。     

基于分层遗传算法的BP神经网络学习算法

针对BP算法局部搜索能力强,而分层遗传算法全局搜索优势突出的特点,结合二者优势构造了一种分层遗传算法与BP算法相结合的前馈神经网络学习算法．将分层遗传算法引入到前馈神经网络权值和阈值的早期训练中,再用BP算法对前期训练所得性能较优的网络权值、阈值进行二次训练得到最终结果．仿真结果表明,该混合学习算法能够较快地收敛到全局最优解,优于BP算法、分层遗传算法,具有一定的实用价值．     

一个改进的BP神经网络自适应学习算法

提出了一个改进的自适应变步长ＢＰ网络学习算法,对多个布尔学习问题以及Ｆｉｓｈｅｒ收集的一个植物分类问题进行计算．结果表明,该算法不仅有相当快的收敛速度,而且在避免学习过程陷入局部极小方面也取得较好结果．     

BP网络的最大误差学习算法*

综合了标准ＢＰ算法与“批处理”ＢＰ算法的各自特点,提出了一种新的ＢＰ网络的学习算法,该算法既具有“批处理”ＢＰ算法收敛时迭代次数少的优点,又能克服“批处理”算法对大样本集进行学习时每次计算量较大且收敛时间长的缺点,该算法具有“批处理”算法同阶的迭代次数,但每次迭代所需计算工作量大约是“批处理”算法的样本几分之一。     

一种基于模糊推理的神经网络学习算法

提出了一种新的神经网络学习算法．相对于其他学习算法，该算法侧重于网络参数的调整，通过对样本集的模糊推理、调整和分类学习来实现自适应的神经网络学习．结果表明，该算法能大大提高神经网络的学习速度和学习效率，并能从样本集中得到反常样本和小概率事件样本，对小概率事件样本有很好的学习能力．     

前馈神经网络的一个改进的BP学习算法

在文［８］的工作基础上,利用模型逼近度和训练误差函数值相对误差函数梯度向量长度的变化率,给出前馈神经网络的一个自适应学习算法对一具体的分类问题进行计算,结果表明本文算法效果良好,改进了文［８］的算法     

基于BP神经网络特定学习的单级倒立摆控制方法

利用BP神经网络的特定学习算法，以单级倒立摆为控制对象设计一个四输入／单输出、包含5个隐层单元的3层BP神经网络控制器，提出一种新的单级倒立摆控制方法，然后通过Matlab6．5数值计算软件对这种新的单级倒立摆控制方法进行仿真．仿真结果表明，该方法具有较好的收敛性，是一种有效的控制方法．     

基于优化BP神经网络算法的网络质量评价

针对现有的BP神经网络算法,提出了在变步长BP神经网络算法基础上的优化方案,并将其应用于网络质量评价当中.在优化方案中,对步长的上升和下降阶段分别采用不同策略进行优化.理论分析表明:优化后的算法能够克服传统算法权值收敛过慢,和变步长算法误差收敛中的震荡问题.仿真表明,优化后的算法会使神经网络的学习误差和网络质量分类的总体误差明显下降并大幅提高评价的准确性.优化算法较传统算法相比误差收敛过程更加稳定,且学习误差下降达9.64％,网络质量分类的总体误差下降达23.1％；优化算法的验证准确率在传统算法的基础上提高了19.65％,在变步长算法的基础上提高了9.88％.由此可见,优化算法在BP神经网络的预测精度方面起到了大幅度提高的作用.     

多层神经网络BP算法的改进

多层神经网络ＢＰ算法的改进姚瑞波孙国雄汤崇熙（东南大学机械工程系，南京２１００１８）目前，前馈型多层神经网络模型已广泛应用于模式识别、语音识别、数据压缩等领域．ＢＰ算法作为其学习方式有效地解决了ＸＯＲ、Ｔ－Ｃ匹配问题，但ＢＰ网络的学习过程是对一个高...