共查询到20条相似文献,搜索用时 0 毫秒
1.
基于目标函数对学习惯性因子的偏导信息,提出了分别采用线性展开、二项式展开和共轭梯度的3种学习率与惯性因子联合动态优化的快速BP算法,仿真结果显示,与原BP算法相比,3种算法均可使网络络训练速度显著加快。 相似文献
2.
高红 《长春师范学院学报》2010,29(2):29-31
本文针对动态BP神经网络学习率优化方法收敛速度慢而且对误差曲面变化不敏感等不利因素,提出了一种改进的BP神经网络学习率的优化算法,该策略使网络对误差曲面变化敏感且收敛速度快。 相似文献
3.
BP算法中学习率及形状因子对学习速度的综合影响 总被引:15,自引:2,他引:13
分析传统BP算法的几个基本参数,包括学习率η、形状因子λ、惯性率α等的性质、相互关系以及它们对学习速度的影响后,发现η,λ同学习速度(以训练次数N表示)之间有着明显的关系。对应N的极小值,(η,λ)的组合有一最优值或多个局部最优值,并给出了找到最优值的一些方法。一经寻找到该组合的最佳值,便能极大地提高神经网络的训练速度。 相似文献
4.
5.
BP神经网络学习率参数改进方法 总被引:1,自引:0,他引:1
陈思 《长春师范学院学报》2010,29(1):26-28
针对动态BP神经网络学习率优化方法收敛速度慢而且对误差曲面变化不敏感等不利因素,本文提出了一种改进的BP神经网络学习率的优化算法,该策略使网络对误差曲面变化敏感且收敛速度快。 相似文献
6.
陈思 《长春师范学院学报》2010,(2)
针对动态BP神经网络学习率优化方法收敛速度慢而且对误差曲面变化不敏感等不利因素,本文提出了一种改进的BP神经网络学习率的优化算法,该策略使网络对误差曲面变化敏感且收敛速度快。 相似文献
7.
针对传统BP神经网络学习过程中学习率选取过大导致振荡的问题, 提出一种新的BP神经网络PID(比例-积分-微分)参数自适应整定算法. 采用BP神经网络对PID参数进行自适应调节和优化, 并利用动量因子优化学习率和增加动量项抑制BP神经网络训练中出现的振荡现象, 以加快收敛速度. 实验结果表明, 该算法有效缓解了振荡现象, 加快了算法的收敛速度. 相似文献
8.
针对传统BP神经网络学习过程中学习率选取过大导致振荡的问题, 提出一种新的BP神经网络PID(比例-积分-微分)参数自适应整定算法. 采用BP神经网络对PID参数进行自适应调节和优化, 并利用动量因子优化学习率和增加动量项抑制BP神经网络训练中出现的振荡现象, 以加快收敛速度. 实验结果表明, 该算法有效缓解了振荡现象, 加快了算法的收敛速度. 相似文献
9.
陈思 《长春师范学院学报》2010,29(4):25-27
针对动态BP神经网络学习率优化方法收敛速度慢而且对误差曲面变化不敏感等不利因素,提出了一种改进的BP神经网络学习率的优化算法。通过判断网络误差变化的趋势来决定动态学习率的调整方向,尤其网络误差处于下降状态时,不需调整。该策略使网络对误差曲面变化敏感且收敛速度快。最后,对两种算法的仿真比较证明了优化算法的有效性。 相似文献
10.
陈思 《长春师范学院学报》2010,(8)
针对动态BP神经网络学习率优化方法收敛速度慢而且对误差曲面变化不敏感等不利因素,提出了一种改进的BP神经网络学习率的优化算法。通过判断网络误差变化的趋势来决定动态学习率的调整方向,尤其网络误差处于下降状态时,不需调整。该策略使网络对误差曲面变化敏感且收敛速度快。最后,对两种算法的仿真比较证明了优化算法的有效性。 相似文献
11.
BP神经网络训练算法的改进 总被引:10,自引:0,他引:10
BP神经网络被广泛应用于分类模式识别、图像处理和系统控制等领域。 人们对BP网络算法进行了许多的研究,但尚有其不足之处,为完成其权的训练,问题的关键在于如何避免陷入局部极小及在此前提下如何提高学习速度。为此,就如何选取学习率η和动量矩α提出了改进方案,并应用于数字识别,得到了较为满意的结果。 相似文献
12.
13.
BP神经网络优化训练技术的研究 总被引:6,自引:0,他引:6
薛家祥 《华南理工大学学报(自然科学版)》1998,26(7):21-24
在分析BP神经网络理论的基础上,探讨了BP神经网络优化训练技术.文中比较了四种训练法,其中自适应调整学习率带冲量项训练法,可大大地提高训练效率,且无振荡现象. 相似文献
14.
BP神经网络训练算法的改进 总被引:4,自引:0,他引:4
BP神经网络被广泛应用于分类模式识别、图像处理和系统控制等领域人们对BP网络算法进行了许多的研究,但尚有其不足之处为完成其权的训练,问题的关键在于如何避免陷入局部极小及在此前题下如何提高学习速度为此,就如何选取学习率η和动量矩α提出了改进方案,并应用于数字识别,得到了较为满意的结果 相似文献
15.
16.
一种基于总量风险函数的改进BP算法 总被引:2,自引:0,他引:2
为了能设计出一个优良的神经网络结构使得网络在保持良好性能的同时使规模最小化,作者引入了一种新的目标函数,希望能在模型的可靠性和规模之间找到一个适当的折中.基于此新的目标函数提出一种改进的BP算法,同时在改进的算法中采用自适应调整动量和学习率的方法以加快收敛速度和避免误差陷入局部极小值.将改进BP算法用于手写数字识别实验,结果表明,新算法有很好的实用价值. 相似文献
17.
模拟人脑学习提出一个有选择学习的改进的BP算法(SSBP) , 提高了学习速度, 具有一定打破学习性僵局的能力. 相似文献
18.
BP网络自适应学习率研究 总被引:11,自引:0,他引:11
分析了自适应学习率BP算法,并对其进行了总结分类,针对每一类介绍了几种具体的自适应学习率BP算法。最后结合XOR问题把一种自适应学习率BP算法和标准BP算法进行了比较和评价。 相似文献
19.
基于遗传算法和BP算法的混合算法 总被引:3,自引:1,他引:3
牛向阳 《河南科技大学学报(自然科学版)》2007,28(1):46-48
结合神经网络的优化问题,提出一种新的混合算法.该算法是在遗传操作中嵌入BP算子,有效地结合了遗传算法全局寻优与BP算法快速收敛的特点,同时采用二进制编码和实数编码将神经网络的结构与权值混合编码到串中,实现了结构与权值的同步优化.仿真结果表明,新算法既能够快速地收敛到全局最优解,又能够在简化网络结构复杂度的同时得到网络权值的最佳逼近. 相似文献
20.
本文冀要地介绍了BP神经网络的缺点。着重强调了BP神经网络的算法改进,并且,利用Matlab仿真了各种改进算法的学习速度,从结果看改进后的BP神经网络能较好地解决针BP算法学习速度慢的缺点。 相似文献