BP学习算法的局限性与对策

研究采用多神经网络组合结构、改进ＢＰ学习算法和训练策略等３个对策来克服ＢＰ学习算法的局限性．手写数字识别的实验研究表明，这些对策效果显著．     

神经网络控制系统仿真

利用基于神经网络修正误差ＢＰ学习算法的多层网络和间接学习或专门学习的动态逆特性控制方法＾［１］编制的神经网络控制系统的仿真软件（ＳＣＳＢＮＮ），给出了调节时间和最大超调量与神经网络中间层节点数的关系曲线，同时给出了各种学习率和神经元作用函数增益的响应曲线。ＳＣＳＢＮＮ也可用于神经网络非线性控制系统。仿真结果说明神经网络非线性控制系统具有良好的控制性能。     

一种新的单层神经网络学习算法分析模型

提出了适用于单层神经网络快速学习算法分析的一种新模型——广义系统辨识模型，分析了Ｋａｒａｙｉａｎｎｉｓ的快速ＢＰ算法．研究结果表明：利用所提出的新模型，能有效地进行单层神经网络学习算法的性能分析     

热释放率计算和预测的神经网络方法

基于多层前馈神经网络提出了火灾实验中不同材料热释放率的学习算法和预测技术．同时,将具有全局收敛特性的混合共轭梯度（ＭＣＧ）算法应用于该问题中多层前馈神经网络的训练,克服了传统ＢＰ算法收敛速度慢,推广性能差的缺陷．文中对ＭＣＧ方法进行了大量模拟,并将模拟结果与ＢＰ算法及带有动量项的ＢＰ算法作了全面比较,结果表明：ＭＣＧ方法不仅在学习速度和收敛性方面均优于传统的ＢＰ算法而且显示了良好的性能和行为     

一种新型的前馈多层神经网络学习算法

利用矩阵Ｍｏｏｒｅ－Ｐｅｎｒｏｓｅ逆的方法,提出了一种新型的前馈多层神经网络学习算法－ＭＢＰ算法。该算法采用了群体搜索的策略,打破了ＢＰ算法一次一点的搜索方式,一次可搜索权空间中的一个超平面,仿真结果表明,该算法在提高收敛速度和避免陷入局部极小点方面都有一定的进展。     

基于PID调节的多层前馈网及其应用研究

介绍了多层前馈网的基本算法及其在镦粗压力计算中的应用。针对其基本学习算法（反向误差传播算法，ＢＰ算法）存在的收敛速度慢和易陷入局部最小值的问题，提出了基于ＰＩＤ调节的ＢＰ算法，由此建立起镦粗压力计算的神经网络知识库，经过测试集考核，证明该模型算法正确，能有效地提高模型的判别精度，是一种有效的和有前途的算法。     

多层递归神经网络自适应控制及稳定性分析

提出一种基于多层归神经网络的自适应控制离散时间系统的方法,使用多层递归神经网络及新的动态ＢＰ算法（ＤＢＰ）描述未知系统的输入／输出关系。基于此神经网络模型,提出一种自适应控制方案,并对该方案的闭环稳定性进行了分析。     

基于实数编码遗传算法的多层神经网络BP算法

提出用实数编码的遗传算法来优化多层神经网络的权值,并且将遗传算法与ＢＰ算法结合,能有效地避免ＢＰ算法陷入局部极小和遗传算法过早收敛,实验结果令人满意。     

神经网络应用于烧结矿质量在线推断

针对烧结过程生产实际，运用神经网络中的ＢＰ学习算法设计了分类器，用于在线推断烧结矿的质量，为了加快ＢＰ学习算法的收敛速度，采用了自适应变步长学习算法，实验结果表明，由此建立的烧结过程神经网络质量预报模型，预报正确率高，具有很好的泛化能力。     

非线性BP算法在系统辨识中的应用

研究利用非线性ＢＰ算法训练多层前馈神经网络,对非线性动力系统进行建模,给出了基于非线性ＢＰ算法的系统辨识计算步骤,通过仿真计算表明,基于非线性ＢＰ算法的系统辨识至少可以获得与常规ＢＰ算法同样的效果,因为不需要计算神经元激活函数的导函数,文中的结果可以更小的代价实现基于神经网络的控制器。     

一种新的快速收敛的反向传播算法

提出了一种新的快速的误差反向传播算法 .这种方法从神经网络的权值调节公式入手 ,通过避免过早饱和、加大权值调节的幅度等手段来加快收敛 .并通过对两个奇偶问题、一个函数逼近问题的仿真 ,验证了所提出的算法的有效性 .结果表明 ,所提出的算法在收敛速度等方面大大优于通常的BP(反向传播 )算法、带动量项的BP算法以及其他的一些改进的算法 .     

基于遗传算法径向基神经网络的交通流预测

为提高径向基（RBF）神经网络预测模型对交通流预测的准确性,提出了一种基于遗传算法优化径向基神经网络的交通流预测方法。利用遗传算法优化径向基神经网络的权值和阈值,然后训练RBF神经网络预测模型以求得最优解,并将该预测方法与RBF神经网络和BP神经网络的预测结果进行对比。仿真结果表明,该方法对交通流具有较好的非线性拟合能力,预测精度高于径向基神经网络和BP神经网络。     

一种基于综合目标函数的神经网络学习算法

为提高多层前向神经网络的学习速度和算法的稳定性,提出一种基于综合目标函数的改进学习算法.该算法在误差平方和目标函数中引入一个辅助约束项构成综合目标函数,并利用综合目标函数训练网络的输出层权值,采用牛顿法推导出训练输出层权值的递推公式.辅助约束项隐含有对网络输出平滑性的约束,提高了学习算法的稳定性.利用该算法对不同非线性函数生成的样本数据的学习结果表明,新算法的收敛速度、精度均优于Karayiannis等人的二阶学习算法.     

基于混合学习算法的模糊小波神经网络控制

采用小波函数作为模糊隶属函数,将模糊控制与神经网络相结合,利用神经网络实现模糊推理.针对BP算法易陷入局部极值点的缺点和简单遗传算法局部搜索能力差的不足,提出了一种混合学习算法,即首先利用遗传算法全局搜索的特点来离线优化神经网络的参数,再利用BP算法较强的局部搜索能力对网络参数进行在线调整.仿真结果表明,该网络能对不同的对象实施有效控制,且具有快速、适应性强等特点.     

基于递阶进化规划的RBF网络设计新方法

针对RBF神经网络的特点 ,提出一种递阶进化规划算法 ,利用此方法同时对网络的拓扑结构和网络参数 (权值、隐节点中心和形状参数 )进行优化 ,克服梯度算法需要求导且易陷入局部极小的弱点 ,分别对单入单出和多入单出非线性函数的建模问题进行了仿真 ,验证了该算法的有效性     

基于神经网络的函数逼近问题

给出了函数逼近问题,提出了一种新的神经网络模型,结合函数逼近问题及该神经网络模型给出了一种学习算法,并利用该算法对函数逼近进行了仿真.说明了该算法的实用性.     

基于梯度和模糊神经网络的容迟网络路由算法

高效的路由算法是保证容迟网络性能的关键技术.为提高适用于容迟网络的路由算法的性能,提出了一种基于梯度和模糊神经网络决策的容迟网络路由算法.该算法具有如下特点:改进了网络描述向量,采用节点自身信息及节点间链路状态信息来描述网络,实现对网络的全面描述;将有限历史信息的动态平均与精确预测相结合,自适应维护网络描述向量的各分量,进而为路由决策提供准确的量度;采用模糊径向基神经网络进行路由决策,实现路由决策过程的智能化;依据多跳传输成功概率引导分组沿梯度方向转发,提高分组转发效率.仿真结果表明,在同等网络条件下,该算法表现出比传染路由算法和下文感知路由算法更优异的网络性能.     

基于混沌和遗传算法的神经网络训练算法与研究

根据神经网络(NN)的特点，利用Logistic混沌映射和特定的适应度函数，在限制近亲数量在种群库中所占比例的前提下，及时吸收新的随机个体，提出了基于混沌和遗传算法的神经网络训练算法．根据该算法写出了MATLAB程序文件main．m，给出了应用实例，还研究了混沌参数与训练误差的关系，提出了混沌参数的调整步骤及应用。     

基于递阶遗传算法的模糊系统优化设计

给出一种基于递阶遗传算法的模糊神经网络优化算法, 在该算法中对每个染色体都采用递阶编码, 并提出一种改进的交叉算子, 可以同时优化模糊神经网络结构和权值参数. 算法中采用双目标函数作为适应度函数对模糊神经网络模型的精确度和复杂性进行估价, 且对应一个实际问题, 可以通过调整适应度函数的参数值确定所需模糊神经网络模型的精确度和复杂性之间的比例, 从而生成一个适当的模糊神经网络模型. 模拟实验结果验证了该算法的有效性.     

基于改进遗传算法的神经网络优化

针对在神经网络应用中,存在结构设计及权值训练算法的不足,提出一种新的基于混合编码方案的遗传算法.在算法中设计了用遗传算法全局优化神经网络拓扑结构和网络权值的新的编码方案,改进了适应度函数的设计和采用自适应的交叉和变异方法.试验结果表明本算法能有效地对神经网络的权值和结构同时优化,提高了训练效率.