前馈网络的一种线性化快速学习算法

针对前馈神经网络的反向传播（ＢＰ）学习算法收敛速度慢的缺点,提出了一种新的学习算法即线性化快速学习算法。这种学习算法在神经网络学习的初期,采用标准ＢＰ学习算法。而当神经网络接近最优点时,由于此时其连接权重调节幅度很小,因此采用对各层神经元的非线性作用函数进行泰勒级数展开,并取其一阶展开式近似逼近原函数,从而使其非线性作用函数转化为线性作用函数,简化了网络学习过程的计算量,加速了网络的学习速度。文中最后给出了采用线性化算法与标准ＢＰ算法对正弦函数的学习过程。     

多层神经网络BP算法的改进

多层神经网络ＢＰ算法的改进姚瑞波孙国雄汤崇熙（东南大学机械工程系，南京２１００１８）目前，前馈型多层神经网络模型已广泛应用于模式识别、语音识别、数据压缩等领域．ＢＰ算法作为其学习方式有效地解决了ＸＯＲ、Ｔ－Ｃ匹配问题，但ＢＰ网络的学习过程是对一个高...     

改进BP网络学习算法的探讨

ＢＰ网络是目前应用很广的人工神经网络。改善ＢＰ网络算法尤其是提高ＢＰ网络的学习速度一直是人们研究的重要课题。本文在对ＢＰ网络现行算法研究的基础上，提出根据系统误差自适应调节学习率的快速ＢＰ算法（ＦＢＰ），并以棉花棉铃虫预测为例，对两种算法的收敛速度进行了比较。     

前向网络的两种混合学习策略

针对前向网络反向传播算法（ＢＰ）训练缓慢和易于陷入局部极小的缺点以及反向运算的复杂性,利用ＢＰ算法监督学习特点、模拟退火（ＳＡ）算法在局部极小处的概率突跳特性和遗传算法（ＧＡ）的并行化群体搜索的特点,有效结合ＢＰ和ＳＡ算法以及ＧＡ和ＳＡ算法,提出了前向网络的两种混合学习策略即ＢＰ＆ＳＡ混合策略和ＧＡ＆ＳＡ混合策略。以异或问题为例,通过计算机仿真对混合策略与ＢＰ、改进ＢＰ算法的比较表明混合学习策略较大程度改进了前向网络学习的收敛性能和收敛速度,并一定程度上避免了反向运算的复杂性,是前向神经网络学习的有效算法。     

人工神经网络的改进训练学习算法BPGA

作者通过引进神经元增益参数和记忆上一次网络状态改变量的冲量参数，设计了ＢＰＧＡ算法，对标准的ＢＰ算法进行了改进，提高了网络的学习速度和收敛性，并与标准的ＢＰ算法进行了比较。     

改进BP网络学习算法的探讨

ＢＰ网络是目前应用很广的人工神经网络。改善ＢＰ网络算法尤其是提高ＢＰ网络的学习速度一直是人们研究的重点课题。本文在对ＢＰ网络现行算法研究的基础上，提出根据系统误差自适应调节学习率的快速ＢＰ算法（ＦＢＰ），并以棉花棉铃虫预测为例，对两种算法的收敛速度进行了比较。     

改进的 BP 算法及其应用研究

ＢＰ网络广泛应用于函数逼近、模式识别和系统辨识,但ＢＰ算法收敛速度很慢。为此提出了ＢＰ算法的一种新的改进方式,即在误差反向传播时,不仅改变网络的联接权值,也改变神经元模型参数。详细推导了改进ＢＰ算法的迭代公式。仿真研究表明,与传统ＢＰ算法相比,该算法具有收敛速度快,函数逼近精度高的优点。     

共轭梯度神经网络的研究

针对ＢＰ人工神经网络存在的两个缺点：（１）局部收敛问题不能很好解决；（２）收敛速度慢，提出应用改进共轭梯度算法建立人工神经网络，以获得共轭梯度网络的全局收敛特性和快收敛速度。计算机仿真结果表明：改进巫轭梯度网络优于ＢＰ网络。     

神经网络控制系统仿真

利用基于神经网络修正误差ＢＰ学习算法的多层网络和间接学习或专门学习的动态逆特性控制方法＾［１］编制的神经网络控制系统的仿真软件（ＳＣＳＢＮＮ），给出了调节时间和最大超调量与神经网络中间层节点数的关系曲线，同时给出了各种学习率和神经元作用函数增益的响应曲线。ＳＣＳＢＮＮ也可用于神经网络非线性控制系统。仿真结果说明神经网络非线性控制系统具有良好的控制性能。     

利用GA—BP算法对模糊神经网络进行优化

分析了ＢＰ算法和遗传算法（ＧｅｎｅｔｉｅＡｌｇｏｒｉｔｈｍｓ,以下简称ＧＡ）各自的优缺点,将改进的ＧＡ与ＢＰ算法相结合,提出了一种新的ＧＡ－ＢＰ算法,并将其应用于模糊神经网络的参数优化,仿真结果验了本算法的有效性。     

神经网络中误差反传算法的分析与改进

分析了ＢＰ网络存在的主要问题及其产生原因,提出了改进算法ＢＰＧ,以共轭梯度方向代替梯度方向进行搜索,并在学习过程中采用不精确的一维搜索、限幅和条件轮回等措施．计算机仿真结果表明：改进的ＢＰＧ算法优于原ＢＰ算法．     

神经网络在梯度功能材料制备中的应用

针对梯度功能材料（ＦＧＭ）制备过程的复杂性，提出了利用神经网络信息处理机制进行制备材料的特性预估，实例分析表明，这一方法是有效的，同时，针对ＢＰ学习算法速度较慢，易陷入局部极小的缺点，改函数型连接网络来提高学习速度，试验表明学习速度提高显著。     

基于遗传算法的最优模糊控制器设计

模糊控制规则集是模糊控制系统的核心部分,对控制的快速性和精度有很大影响,采用改进的ＧＡ算法优化ＢＰ网络,加快了ＢＰ网络的收敛速度,也避免了ＢＰ网络易于陷于局部极小的麻烦。用优化的ＢＰ网络生成规则集,经过优化的ＢＰ网络隐层神经元数减少,即优化了规则库,从而提高系统的精度,降低了对ＢＰ网络系统误差的精度要求。     

一种模糊神经网络的改进学习算法

针对前人（Ｃ．Ｔ．Ｌｉｎ， ｅｔ ａｌ． Ｉｎ ＩＥＥＥ Ｔｒａｎｓ ＯｎＣｏｍ ｐｕｔｅｒ， １９９１， Ｖｏｌ．４０， Ｎｏ．１２） 提出的模糊神经网络结构，改进了已有的学习算法，新算法更加简洁有效。利用新算法，可以自动获取模糊规则。通过函数模拟实验，验证了新算法的有效性。提出了网络的分解与综合方法，避免了模糊神经网络用于实际复杂问题时，模糊规则的组合爆炸问题。该模糊神经网络可应用于换热器受热面的结垢过程模拟。     

神经网络在自走车辆最优轨迹控制中的应用

介绍了分层网络的基本理论和相关的有效算法反向传播学习算法（Ｂ－Ｐ算法），并介绍了将神经网络应用于车辆自动行走轨迹优化控制的研究。     

GA-ANN算法在产品质量估计中的应用

针对反向传播（ＢＰ）算法,径向基函数（ＲＢＦ）算法的不足,提出了基于遗传算法（ＧＡ）确定神经网络构或权值的进化神经网络算法（简称ＧＡ－ＡＮＮ算法）。在产品质量估计仿真研究中表明,该算法不需试凑而取得较好的网络结构和参数。     

神经网络中误差反转算法的分析与改进

分析了ＢＰ网存在的主要问题及其产生原因，提出了改进算法ＢＰＧ，以共轭梯度方向代替梯度方向进行搜索，并在学习过程中采用不精确的一维搜索，限幅和条件轮回等措施。     

一种新型的动态模糊神经网络控制器

基于前向模糊神经网络ＡＮＦＩＳ提出了一种新型的动态模糊神经网络（ＤＦＮＮ）,将模糊逻辑,神经网络和ＰＩＤ控制器三者的优点有机地融合在一起。通过在ＡＮＦＩＳ的归一化层和输出层之间加入递归层,构成了动态模糊神经网络（ＤＦＮＮ）,并推导了基于ＢＰ的反传学习算法,与ＡＮＦＩＳ和ＰＩＤ控制器相比,ＤＦＮＮ具有更好的控制效果。ＤＦＮＮ的参数具有明确的物理意义,可根据专家的经验选择初值,加快了网络的收敛速度,由     

用于过程控制的神经网络自适应控制方法

本文从人工神经网络中较常用的ＢＰ（Ｂａｃｋ－ｐｒｏｐａｇａｔｉｏｎ）算法入手，针对其存在的学习（训练）速度过慢和易陷入误差局部最小的问题，对其算法进行了改进，提出了一种新的可变学习速率（η）的方法．在此基础上，针对常规自适应控制器难于实现且精度较差的问题，把人工神经网络控制器（ＮＮｃｏｎｔｒｏｌｅｒ）应用于自适应控制系统中．计算机仿真证明了改进是有效的．     

神经网络活化函数的研究及其应用

通过构造一类新的高效分段活化函数,很好地解决了ＢＰ算法学习收敛速度慢的问题,而且提出了一种自适应调整网络参数的新算法,从而大大提高了算法的学习效率和综合性能．文中详细研究了基于改进的ＢＰ算法神经网络的实验仿真系统的建模过程,并在精细化工实验方案的分析和优选中获得了令人满意的效果．