改进BP网络学习算法的探讨

ＢＰ网络是目前应用很广的人工神经网络。改善ＢＰ网络算法尤其是提高ＢＰ网络的学习速度一直是人们研究的重要课题。本文在对ＢＰ网络现行算法研究的基础上，提出根据系统误差自适应调节学习率的快速ＢＰ算法（ＦＢＰ），并以棉花棉铃虫预测为例，对两种算法的收敛速度进行了比较。     

改进BP网络学习算法的探讨

ＢＰ网络是目前应用很广的人工神经网络。改善ＢＰ网络算法尤其是提高ＢＰ网络的学习速度一直是人们研究的重点课题。本文在对ＢＰ网络现行算法研究的基础上，提出根据系统误差自适应调节学习率的快速ＢＰ算法（ＦＢＰ），并以棉花棉铃虫预测为例，对两种算法的收敛速度进行了比较。     

改进的 BP 算法及其应用研究

ＢＰ网络广泛应用于函数逼近、模式识别和系统辨识,但ＢＰ算法收敛速度很慢。为此提出了ＢＰ算法的一种新的改进方式,即在误差反向传播时,不仅改变网络的联接权值,也改变神经元模型参数。详细推导了改进ＢＰ算法的迭代公式。仿真研究表明,与传统ＢＰ算法相比,该算法具有收敛速度快,函数逼近精度高的优点。     

前馈网络的一种线性化快速学习算法

针对前馈神经网络的反向传播（ＢＰ）学习算法收敛速度慢的缺点,提出了一种新的学习算法即线性化快速学习算法。这种学习算法在神经网络学习的初期,采用标准ＢＰ学习算法。而当神经网络接近最优点时,由于此时其连接权重调节幅度很小,因此采用对各层神经元的非线性作用函数进行泰勒级数展开,并取其一阶展开式近似逼近原函数,从而使其非线性作用函数转化为线性作用函数,简化了网络学习过程的计算量,加速了网络的学习速度。文中最后给出了采用线性化算法与标准ＢＰ算法对正弦函数的学习过程。     

BP网络的最大误差学习算法*

综合了标准ＢＰ算法与“批处理”ＢＰ算法的各自特点,提出了一种新的ＢＰ网络的学习算法,该算法既具有“批处理”ＢＰ算法收敛时迭代次数少的优点,又能克服“批处理”算法对大样本集进行学习时每次计算量较大且收敛时间长的缺点,该算法具有“批处理”算法同阶的迭代次数,但每次迭代所需计算工作量大约是“批处理”算法的样本几分之一。     

一种用于快速分类问题的神经网络学习算法

对传统的ＢＰ算法进行了改进，提出了基于二阶导数的ＢＰ算法，大大减少了样本训练的迭代数，从而提高了网络运算速度，对异或问题和蜢虫分类问题的计算，取得了满意的效果。     

BP网络学习参数模糊自适应算法的实现

前馈神经网络ＢＰ算法的改进方案中，对网络训练（学习）过程率和惯性系数进行模糊自适应调节，以提高收敛速度，晃一项很有效的措施。文中具体分析了如何根据设计者的先验知识确定模糊规则和录属函数，并以三比特异或函数（或称奇偶分类）的实现为例，验证了这种算法的改进、加速了ＢＰ网络的学习过程。     

基于步长优化和共轭梯度法的改进BP算法

本文针对传统ＢＰ算法存在的两个常见问题进行了讨论，提出了基于步长优化和共轭梯度法的改进ＢＰ算法。新的算法避免了目前由人为经验确定迭代步长的缺陷，并能有效克服局部极小值。这样可使网络加快收敛，稳定性变好。     

一种采用神经网络的智能控制算法

本文基于Ａｄａｌｉｎｅ神经网络，讨论了一种采用神经网络的智能控制法，该算法用了一个二层网络代替传统控制器或专家控制器，用改进的ＢＰ算法求网络的参数。仿真结果表明，采用该控制算法的控制系统具有良好的响应特性。     

神经网络中误差反传算法的分析与改进

分析了ＢＰ网络存在的主要问题及其产生原因,提出了改进算法ＢＰＧ,以共轭梯度方向代替梯度方向进行搜索,并在学习过程中采用不精确的一维搜索、限幅和条件轮回等措施．计算机仿真结果表明：改进的ＢＰＧ算法优于原ＢＰ算法．     

“基因算法”在人工神经元网络中的应用

在使用著名的ＢＰ算法来训练一个多层毅向神经网络时，首先要确定这个神经元网络的主结构以及网络的各种初始化参数，但拓扑结构和各种参数的确定到目前为止还无确定的规则可寻。本研究将基因算法引入人工神经元网络。通过它来自动确定神经元网络的拓扑结构以及具体参数，并给出了基因算法在神经元网络应用中的具体实现。     

重磁反演的拟人工神经网络BP算法及其应用

将神经网络反推算法（ＢＰ算法）引入重、磁场反演，建立了基于神经网络原理描述反演过程的模型，并在通用数字计算机上实现了一种拟ＢＰ算法，实践表明，拟ＢＰ算法作重磁资料反演，具有快速，大维数，容错能力强和便于充分利用已知信息等特点，用ＢＰ算法对湘南地区作重磁参数反演，给出了本区的磁性，密度三维分布特征，进而对本区地壳结构和地质构造得出了新的认识，取得较好效果，神经网络算法的引入，可能带来地球物理场反演方法的革新。     

基于遗传算法的最优模糊控制器设计

模糊控制规则集是模糊控制系统的核心部分,对控制的快速性和精度有很大影响,采用改进的ＧＡ算法优化ＢＰ网络,加快了ＢＰ网络的收敛速度,也避免了ＢＰ网络易于陷于局部极小的麻烦。用优化的ＢＰ网络生成规则集,经过优化的ＢＰ网络隐层神经元数减少,即优化了规则库,从而提高系统的精度,降低了对ＢＰ网络系统误差的精度要求。     

利用GA—BP算法对模糊神经网络进行优化

分析了ＢＰ算法和遗传算法（ＧｅｎｅｔｉｅＡｌｇｏｒｉｔｈｍｓ,以下简称ＧＡ）各自的优缺点,将改进的ＧＡ与ＢＰ算法相结合,提出了一种新的ＧＡ－ＢＰ算法,并将其应用于模糊神经网络的参数优化,仿真结果验了本算法的有效性。     

一种局部回归神经网络的快速算法

针对目前局部回归神经网络动态ＢＰ算法的误差导数计算复杂、收敛速度慢的缺陷,提出了一种新的快速算法、该算法是将信号流图引入动态ＢＰ算法,较好地解决了求导数的复杂性,同时采用ＢＦＧＳ算法另快了网络的收敛速度仿真结果表明了本算法的有效性。     

基于神经网络的字符识别技术研究

本文在分析人工神经网络理论和图象处理及其特征提取理论的基础上,探讨了网络结构、特征编码、算法的实现、学习样本的收集、网络参数的选择及ＢＰ算法缺陷等问题,设计并实现了一种基于神经网络的字符识别系统。     

BP算法中样本特性及参数α，β两阶段动态调整

从样本特性和参数调整出发，提出了三种改进的ＢＰ算法，并在ＸＯＲ等问题上进行了检验。     

提高BP神经网络学习速度的算法研究

本文在深入分析了ＢＰ人工神经网络学习算法的基础上，研究了采用加动量项法、成批训练法及综合法来提高ＢＰ网络的学习速度，取得了显著效果．     

基于神经网络模型的知识获取方法与故障诊断

分析了神经网络模型的应用环境，提出了一种ＢＰ模型的快速算法，并将其应用于ＦＭＳ故障诊断系统，实践证明，这种具有柔性节点的自适应ＢＰ网络模型结构为建立诊断系统知识库提供了一条有效途径。     

多层神经网络BP算法的改进

多层神经网络ＢＰ算法的改进姚瑞波孙国雄汤崇熙（东南大学机械工程系，南京２１００１８）目前，前馈型多层神经网络模型已广泛应用于模式识别、语音识别、数据压缩等领域．ＢＰ算法作为其学习方式有效地解决了ＸＯＲ、Ｔ－Ｃ匹配问题，但ＢＰ网络的学习过程是对一个高...