BP网络模型中激励函数的研究

人工神经网络中的BP网络模型在模式识别领域得到了广泛的应用,而激励函数的选取是影响BP网络性能的重要因素之一。本提出了一种新的BP网络激励函数,导出了该激励函数下BP网络权值和阈值的调整公式,对相似汉字识别的计算机仿真结果证实了网络良好的泛化性能。     

BP小波神经网络自适应调节步长的改进算法

在BP小波神经网络的训练过程中,自适应调节步长是对算法效率起重要作用的步骤之一,深入讨论了自适应调节步长的改进算法,从而得到更加方便合理的实时步长调整方法,进一步提高了局部搜索速度。多种情况下的仿真结果表明,该算法能够提高局部搜索速度,具有较广泛的应用价值。     

激励函数可调的前馈神经网络在线学习算法

针对标准ＢＰ算法的不足,提出了一种激励函数可调的前馈神经网络在线学习算法。该方法去除了样本的预处理过程,以在线方式训练前馈神经网络,同时修正网络的权重,阈值与激励函数。,上于避免了神经元的输出饱和现象,算法的收敛速度明显提高,并在一定程度上防止了局部极小解的出现。仿真结果证明了这种算法的有效性。     

基于改进的BP神经网络的入侵检测研究

本文提出了引入可调因子和遍历局部最小并逃逸的方法,以解决标准BP算法中误差曲面过于平坦导致迭代次数增加、易陷入局部最小的缺点,并将此算法应用到网络入侵检测系统,对五类入侵行为进行检测。实验结果表明,改进后的BP算法大大缩短了系统响应时间并降低了检测系统的漏检率和误检率,极大改善了入侵检测系统的性能。     

BP算法的改进

针对多层神经网络中由于隐含层神经元饱和而引起的局部极小值问题,提出一种改进的BP算法.每一种训练模式在隐含层的神经元都采用各自的传递函数,该改进算法的思想是当网络输出没有取得期望的结果时,修改传递函数以防止隐含层神经元饱和,这种改进的算法既不用改变网络的拓扑结构,也不会消耗更多的计算时间.     

BP网络模型的联合优化

针对 BP算法收敛速度慢、存在易于陷入局部极小值等缺点,不能有效地搜索到全局极小点。通过联合优化方法改进标准BP 算法,即通过黄金分割法动态调整学习系数:对 S 函数引入状态系数并进行分段;误差函数采用绝对和相对逼近精度相结合的方法。实验表明在一定程度上避免了学习中的局部极小问题,提高了学习效率,改进了网络的性能。     

关于对BP神经网络算法改进的研究

为了减小标准BP算法中迭代次数并提高其收敛速度，现提出将负梯度下降法与DFP变尺度算法相结合进行权值修正的方法．在误差寻优初期，首先采用标准BP算法进行迭代，每迭代一次的工作量较小、所需存贮量较少，义对初始点的要求不高．然后，当寻优过程开始接近最优时，更改寻优算法，即使用DFP变只度算法．最后，运用MATLAB工具箱和VisualBasic实现算例．实验结果表明；改进后的BP算法减少了迭代次数，提高了寻优的收敛速度．     

基于BP神经网络的车削力试验研究

利用正交试验法选取样本在CAK3675数控车床上进行车削40Cr的车削力测量试验,得出切削速度、进给量、切削深度与主车削力之间的对应关系.借助Matlab神经网络工具箱的NNTool功能,应用动量梯度下降法训练BP神经网络,建立了主车削力预测模型并进行了仿真验证.分析了切削用量对主车削力的影响效应.     

一种基于二阶导数的 BP 算法

根据神经网络模型的结构特点,将能量函数的二阶导数与最速下降方向相结合,构造出一种新型的ＢＰ算法,该算法比梯度法收敛快,较牛顿法计算量小．它适合于计算结构复杂的ＢＰ神经网络模型,理论分析表明该算法行之有效,计算机仿真达到了理想的效果．     

一种基于二阶导数的BP算法

根据神经网络模型的结构特点，将能量函数的二阶导数与最速下降方向相结合，构造出一种新型的ＢＰ算法，该算法比梯度法收敛快，较牛顿法计算量小，它适合于计算结构复杂的ＢＰ神经网络模型，理论分析表明该算法行之有效，计算机仿真达到了理想的效果。     

Linearization learning method of BP neural networks

Feedforward multi-layer neural networks have very strong mapping capability that is based on the non-linearity of the activation function, however, the non-linearity of the activation function can cause the multiple local minima on the learning error-surfaces, which affect the learning rate and solving optimal weights. This paper proposes a learning method linearizing non-linearity of the activation function and discusses its merits and demerits theoretically. Supported by Wuhan Shenguang Project, the National Natural Science Foundation of China and the 863 High Techology Project Zhou Shaoqian: born in Mar. 1962,Ph. D graduate student     

使用BP算法时应考虑的若干问题

归纳总结了使用ＢＰ算法时可能涉及到的问题和一些技巧。尤其对学习方法的选择、隐居数和隐层单元数的选择、学习步长的选择、避免局部最小的方法、学习样本的选择、激活函数的选择等都作了详细的介绍。     

一种新型的混沌BP混合学习算法

将一种新的快速BP(FBP)算法和混沌优化相结合,提出了混沌BP算法(CBP算法).FBP算法吸收了误差函数的非线性信息,大大加快了BP算法的收敛速度,但它仍然采用梯度下降法,不可避免地存在局部极小的缺陷.混沌动力学具有遍历性、随机性的特点.能在一定范围内按其自身规律不重复地遍历所有状态,将混沌优化搜索引入FBP算法中,形成一种新型的混沌BP算法.它既能较快地局部收敛,又能全局收敛,避免了陷入局部极小的可能性.CBP算法为多层前馈网络的全局性收敛学习提供了一种有效的方法.     

BP算法稳定性与收敛性的一种改进

针对标准BP算法稳定性与收敛性较差的问题，采用多个变元进行迭代，其中各变元的迭代方式同标准的BP算法，然后取各变元迭代结果的均值作为新一轮训练的修正权值，其目的是利用均值的平衡效应，防止作过大或过小的权值调整，解决因不合适的权值调整而导致BP算法整体性能的下降的问题，理论分析与试验证明，应用该方法可使BP算法获得较好收敛效果与稳定性能。     

一种提高BP算法学习速度的有效途径

ＢＰ网络在实际应用中的最大障碍就是学习速度慢这一问题。本文在详细分析与论证的基础上得出：在学习过程中,通过对ｓｉｇｍｏｉｄ函数形状的动态调整可有效地提高ＢＰ网络的学习速度,而且这一方法实现简单、易于理解、具有普遍适用性。同时本文对近期发表的有关文献中所提出的一些不恰当的观点和结论进行了修正和补充。     

基于改进BP算法的电力系统谐波分析

在选取BP神经网络对谐波进行分析时,考虑到BP网络存在的缺点和不足,对BP网络进行改进。通过把FFT和改进的BP网络结合起来,实现对谐波的实时分析。该方法先对采样信号进行FFT运算实现预处理,得到谐波个数和谐波次数;然后根据谐波的个数来确定神经元的个数,通过谐波次数设定神经网络参数迭代的初始值;最后对改进的神经网络进行训练,可以实现谐波的精确分析。所提出的BP改进算法有效地提高了谐波分析的精度,实时性也得到了改善。     

基于改进BP算法的中频淬火工艺参数预测

以钢的中频淬火工艺参数为研究对象,构造人工神经网络模型,采用3-4-2-2两层前向BP神经网络结构.模型输入参数为设备频率、淬硬层深度、零件尺寸,输出参数为加热时间、比功率.采用改进的BP网络算法--Levenberg-Marquardt算法,隐层、输出层传输函数分别为log-sigmoid函数和线性函数,经1 500余次训练,达到平方误差和《0.01.预测值与实际值的相对偏差在±4%以内.该算法能够较好地满足生产实际需要,具有较高精度.     

BP神经网络在路径规划中的应用

神经网络由于其具有对数据大规模并行处理及对知识有较强的融合能力的优点，因此将它应用于机器人路径规划中，但是BP网络极容易陷入局部极小值，应用加权策略解决了此问题．仿真结果表明，BP神经网络应用于移动机器人路径规划具有正确性、高效性、实用性和智能性等优势．