前馈神经网络的一种连续型学习算法

本文给出前馈神经网络的一种连续型学习算法，对传统的ＢＰ算法作了改进。分析了该算法的收敛性。通过实例与传统ＢＰ算法进行比较，该算法可以明显提高网络的收敛速度，说明它是一种实用的学习算法。     

多层前馈二阶神经网络模型

本文首先建立多层前馈二阶神经网络模型，继而给出该模型的二阶Ｂ－Ｐ学习算法，在此基础上构造了二阶快速Ｂ－Ｐ（即ＦＢ－Ｐ）和改进的二阶ＦＢ－Ｐ（即ＭＦＢ－Ｐ）学习算法，在计算机上以两类飞机图像目标识别为例，对本文提出的多层前馈二阶神经网络模型及其三种二阶学习算法的性能进行仿真实验，并与传统的多层前馈一阶神经网络及其相应学习算法的性能作比较，从而获得若干有意义的结果。     

一种新型δ函数神经元构成的神经网络及学习算法

本文提出一种新型δ函数神经元构成的三层前馈神经网络，其隐层中神经元采用δ变换函数而不是ｓｉｇｍｏｉｄ函数。学习算法不再采用误差反向传播（ＢＰ）算法，而是通过选定隐层与输入层之间的自由权来确定隐层与输出层间的待求权的直接算法完成学习。这种学习算法运算速度快，不存在局部极小和收敛速度慢的问题，只要隐层δ函数神经元个数等于样本对数量就一定能完成学习，这是传统ＢＰ算法不能比拟的。计算机仿真实例表明该算法是十分有效的。     

基于模糊推理的自适应BP算法

ＢＰ网络是迄今为止应用最广泛的一种神经网络，但这种算法也存在着收敛速度慢、容易陷入局部极小点等问题．本文在标准ＢＰ算法的基础上提出一种改进ＢＰ算法，称之为自适应ＢＰ算法．这种自适应ＢＰ算法采用模糊规则动态调整学习参数，并且能在学习过程中和学习完成后通过隐节点调整算法优化网络结构，有比标准ＢＰ算法更好的收敛性和更好的泛化能力     

一种改进的BP神经网络预测方法及其应用

本文提出了一种改进的ＢＰ神经网络预测方法。该方法的主要优点有：网络结构简单,收敛速度快,预测精度高,减少了输入参数和样本量,笔者通过对具有高度非线性的股票价格变化进行短期预测,证明了该方法优于传统的ＢＰ神经网络方法。     

加快神经网络学习的梯度幂次法

分析了前向神经网络极值点附近的性态,指出基本ＢＰ算法用于分类问题时收敛缓慢的原因．我们利用梯度模的幂次去修改学习率,仿真结果表明,将此方法用于分类问题的训练时,收敛速度明显优于基本的ＢＰ算法．     

过热汽温系统的RBF神经网络控制

采用RBF神经网络直接构成神经网络控制器，将在线学习和控制相结合，这种方法不需要增加另一个神经网络对系统进行在线辨识，也不需要预先确定神经网络控制器的结构。通过将该方法应用于电厂过热汽温系统的控制进行仿真研究并与常规PID串级控制系统进行比较，结果表明控制系统的性能得到较大的提高。     

根据粗糙集理论进行BP网络设计的研究

提出了一种根据粗糙集理论进行ＢＰ网络设计的方法,它结合了粗糙集理论的强大的定性分析能力和ＢＰ网络的准确的逼近能力,得到一种可理解性好、计算简单、收敛速度快的神经网络模型．这种神经网络的学习算法的要点是：应用粗糙集的理论和方法,从给定学习样本数据中发现一组规则,并根据这些规则去建立网络模型中相应的隐层节点;然后用ＢＰ算法迭代求出网络的参数,从而完成网络的设计.     

一种新的学习算法及在导弹故障诊断中的应用研究

本文提出了一种多怪前向神经网络快速误差后向传播学习算法ＦＢＰ，通过某运载火箭姿态控制系统故障诊断的仿真研究，验证了ＢＰ和ＦＢＰ用于导弹姿态控制系统故障诊断的有效怀，ＦＢＰ学习算法较之ＢＰ算法学习速度的快速性。     

BP神经网络算法的改进

本文分析了ＢＰ算法所面临的问题，给出了一种改进算法，说明了它们的原理和应用环境，将它们与传统的ＢＰ算法作了比较，并通过一实例验证：应用改进算法可以大幅度地提高ＢＰ神经网络的学习速度，这对ＢＰ神经网络的应用有较大实际意义。     

提高BP网络学习速度的自适应算法

针对BP网络存在收敛速度慢及目标函数容易陷入局部极小值的缺点,本文首先对前人所做的改善BP网络学习速度的方法进行了探讨,其次分析了学习率对BP网络学习速度的影响,最后提出了一种提高BP网络学习速度的新方法,即自适应调整学习率和动量因子.计算结果表明,该方法大大地提高了收敛速度,而且算法简单、易行.     

Novel Newton''s learning algorithm of neural networks

Newton's learning algorithm of NN is presented and realized. In theory, the convergence rate of learning algorithm of NN based on Newton's method must be faster than BP's and other learning algorithms, because the gradient method is linearly convergent while Newton's method has second order convergence rate. The fast computing algorithm of Hesse matrix of the cost function of NN is proposed and it is the theory basis of the improvement of Newton's learning algorithm. Simulation results show that the convergence rate of Newton's learning algorithm is high and apparently faster than the traditional BP method's, and the robustness of Newton's learning algorithm is also better than BP method's.     

Multilayered feed forward neural network based on particle swarmopti mizer algorithm

1 .INTRODUCTIONNowadays there are many algorithms used to trainand opti mize neural network.BPalgorithm,whichisbased on gradient vectors of nodes ,is the most popu-lar neural network training method. Once gradient in-formation is obtained, kinds of regression technologiesbased on gradient can be adopt to update parameters.However BP algorithm faces some problems :(1) speed of convergence ; (2) local mini ma ; (3)sensitivity of initial value ;(4) dependence on gradi-ent information. For s…     

一种非线性的BP学习算法

提出了一种非线性学习规则，以非线性函数th(x)取代传统学习算法中的线性函数x，来调整BP网络的连接权值和阈值。与传统的BP学习算法相比，其连接权值与阈值的调整量不仅与误差函数对连接权与阈值梯度的一次幂有关，而且也与梯度的高次幂有关。因此，克服了传统的BP学习算法过程中难以跳出局部极小值与收敛速度慢的缺点。模拟实验表明，该算法比传统的BP网络学习算法在学习时间和迭代次数方面都具有显著优势。     

高阶带阻滤波器优化设计研究

众所周知，传统BP神经网络收敛速度慢、学习效率低。之所以如此，主要原因在于人工神经元输出函数的同一化。本文提出的神经网络模型的主要特点是：用正交基函数作人工神经元的输出函数，而且每个神经元的输出函数各不相同。该神经网络模型有效克服了传统BP神经网络收敛速度慢、学习效率低的致命缺陷。本文还详细研究了FIR线性相位滤波器的幅频特性与余弦基函数神经网络算法的关系，给出了高阶带阻滤波器优化设计实例。计算机仿真结果表明了该算法在高阶带阻滤波器设计中的有效性和优异性能。     

Learning algorithm and application of quantum BP neural networks based on universal quantum gates

A quantum BP neural networks model with learning algorithm is proposed. First, based on the universality of single qubit rotation gate and two-qubit controlled-NOT gate, a quantum neuron model is constructed, which is composed of input, phase rotation, aggregation, reversal rotation and output. In this model, the input is described by qubits, and the output is given by the probability of the state in which （1） is observed. The phase rotation and the reversal rotation are performed by the universal quantum gates. Secondly, the quantum BP neural networks model is constructed, in which the output layer and the hide layer are quantum neurons. With the application of the gradient descent algorithm, a learning algorithm of the model is proposed, and the continuity of the model is proved. It is shown that this model and algorithm are superior to the conventional BP networks in three aspects： convergence speed, convergence rate and robustness, by two application examples of pattern recognition and function approximation.     

基于HS-BP算法的尾矿库安全评价

为有效预防尾矿库事故的发生, 针对尾矿库事故率具有随机波动性和非线性的特点, 采用和声搜索算法(HSA)和BP神经网络建立尾矿库安全评价模型. 该方法利用HS算法对BP神经网络权值进行优化, 进而对尾矿库进行安全评价. 通过对辽宁本溪南芬尾矿库安全现状进行拟合预测, 结果表明:将HS算法和BP神经网络有机结合, 能够克服传统BP网络易陷入极小值、收敛速度慢得缺陷, 有效的刻画了尾矿库事故的随机波动特性, 并且预测能力均优于其他评价算法, 具有重要意义.     

基于改进粒子群算法的BP网络在DTC系统中的转速辨识

利用改进粒子群优化(PSO)算法优化BP神经网络的权值和罔值,有效地解决了BP算法易陷入局部极小值的缺点,能更快速的实现收敛,不仅具有广泛的映射能力,还明显提高了运算效率.通过对直接转矩控制(DTC)系统进行MATLAB/SIMULINK仿真研究,结果表明:基于PSO-BP神经网络构造的速度辨识器具有良好的辨识效果.