前馈网络的一种线性化快速学习算法

针对前馈神经网络的反向传播（ＢＰ）学习算法收敛速度慢的缺点,提出了一种新的学习算法即线性化快速学习算法。这种学习算法在神经网络学习的初期,采用标准ＢＰ学习算法。而当神经网络接近最优点时,由于此时其连接权重调节幅度很小,因此采用对各层神经元的非线性作用函数进行泰勒级数展开,并取其一阶展开式近似逼近原函数,从而使其非线性作用函数转化为线性作用函数,简化了网络学习过程的计算量,加速了网络的学习速度。文中最后给出了采用线性化算法与标准ＢＰ算法对正弦函数的学习过程。     

Dennis-Wolkowicz最小改变割线算法的超线性收敛性

探讨由Ｄｅｎｎｉｓ和Ｗｏｌｋｏｗｉｃｚ提出的最小改变割线算法的超线性收敛性,这个算法是Ｂｒｏｙｄｅｎ族的成员之一,但是它与Ｂｒｏｙｄｅｎ凸族互不包含,而且还能很好地逼近ＤＦＰ算法。利用Ｂｙｒｄ等人给出的Ψ－函数,证明了一致凸函数的Ｄｅｎｎｉｓ－Ｗｏｌｋｏｗｉｃｚ最小改变割算法具有超线性收敛速度。     

BP网络的BP-G-S学习算法

为了解决ＢＰ网络在学习过程中存在收敛慢的缺点,文中将ＧａｕｓｓＳｅｉｄｅｌ 迭代法的基本思想与ＢＰ算法结合,将每一个最新修正的权值反映到下一个权值的修正中,提出了一种新的ＢＰＧＳ学习算法来加速ＢＰ网络的收敛。文章最后的计算机仿真说明ＢＰＧＳ总体上可以减少学习的时间,尤其当误差值逼近最小点时效果明显。     

BP网络学习参数模糊自适应算法的实现

前馈神经网络ＢＰ算法的改进方案中，对网络训练（学习）过程率和惯性系数进行模糊自适应调节，以提高收敛速度，晃一项很有效的措施。文中具体分析了如何根据设计者的先验知识确定模糊规则和录属函数，并以三比特异或函数（或称奇偶分类）的实现为例，验证了这种算法的改进、加速了ＢＰ网络的学习过程。     

前向网络的两种混合学习策略

针对前向网络反向传播算法（ＢＰ）训练缓慢和易于陷入局部极小的缺点以及反向运算的复杂性,利用ＢＰ算法监督学习特点、模拟退火（ＳＡ）算法在局部极小处的概率突跳特性和遗传算法（ＧＡ）的并行化群体搜索的特点,有效结合ＢＰ和ＳＡ算法以及ＧＡ和ＳＡ算法,提出了前向网络的两种混合学习策略即ＢＰ＆ＳＡ混合策略和ＧＡ＆ＳＡ混合策略。以异或问题为例,通过计算机仿真对混合策略与ＢＰ、改进ＢＰ算法的比较表明混合学习策略较大程度改进了前向网络学习的收敛性能和收敛速度,并一定程度上避免了反向运算的复杂性,是前向神经网络学习的有效算法。     

神经网络活化函数的研究及其应用

通过构造一类新的高效分段活化函数,很好地解决了ＢＰ算法学习收敛速度慢的问题,而且提出了一种自适应调整网络参数的新算法,从而大大提高了算法的学习效率和综合性能．文中详细研究了基于改进的ＢＰ算法神经网络的实验仿真系统的建模过程,并在精细化工实验方案的分析和优选中获得了令人满意的效果．     

共轭梯度神经网络的研究

针对ＢＰ人工神经网络存在的两个缺点：（１）局部收敛问题不能很好解决；（２）收敛速度慢，提出应用改进共轭梯度算法建立人工神经网络，以获得共轭梯度网络的全局收敛特性和快收敛速度。计算机仿真结果表明：改进巫轭梯度网络优于ＢＰ网络。     

基于遗传算法的最优模糊控制器设计

模糊控制规则集是模糊控制系统的核心部分,对控制的快速性和精度有很大影响,采用改进的ＧＡ算法优化ＢＰ网络,加快了ＢＰ网络的收敛速度,也避免了ＢＰ网络易于陷于局部极小的麻烦。用优化的ＢＰ网络生成规则集,经过优化的ＢＰ网络隐层神经元数减少,即优化了规则库,从而提高系统的精度,降低了对ＢＰ网络系统误差的精度要求。     

基于步长优化和共轭梯度法的改进BP算法

本文针对传统ＢＰ算法存在的两个常见问题进行了讨论，提出了基于步长优化和共轭梯度法的改进ＢＰ算法。新的算法避免了目前由人为经验确定迭代步长的缺陷，并能有效克服局部极小值。这样可使网络加快收敛，稳定性变好。     

人工神经网络的改进训练学习算法BPGA

作者通过引进神经元增益参数和记忆上一次网络状态改变量的冲量参数，设计了ＢＰＧＡ算法，对标准的ＢＰ算法进行了改进，提高了网络的学习速度和收敛性，并与标准的ＢＰ算法进行了比较。     

一种新的快速BP神经网络算法--QLMBP

对反向传播（BP）算法中收敛速度最快的改进版本Levenberg-Marquardt BP（LMBP）进行了研究，找出了收敛速度的瓶颈：迭代控制参数的初始化会严重地影响到算法的选代次数；涉及的矩阵求逆是每次迭代中最耗时的计算；如果每次迭代中的误差平方和没有变小，该次迭代可能需要很长时间．本文通过上下三角（LU）分解去除耗时的矩阵求逆，并采取一维搜索来加速目标函数值的下降，使得LMBP不再依赖于迭代控制参数，从而提出了一种快速神经网络算法QLMBP．QLMBP算法的收敛速度比LMBP算法快100倍左右．     

切削过程的位置误差补偿控制研究

本文作者运用经典控制论对切削过程的位置误差补偿控制进行了研究．接着，作者对神经网络理论中的标准反向传播算法BP作了改进并提出了IBP算法．基于IBP法，作者构造了一个用于切削过程位置误差补偿控制的多层前馈神经网络控制器，并作了仿真控制试验．研究结果表明：IBP法较标准BP法具有更快的迭代速度和收敛性质；所建的智能控制器虽然结构简单，但在误差补偿控制方面跟经典控制法相似具有一定的控制效果．     

LMBP神经网络PID控制器在暖通空调系统中的应用研究

针对BP神经网络学习过程收敛速度慢及易陷入局部极小值的缺陷,研究了levenberg-marquart算法(即LM算法).为解决LM算法中学习速率的选择和逆矩阵的求解这两个严重影响训练时间和收敛精度的问题,采用LU分解法对LM算法进行改进和优化,并通过MATLAB语言编程实现,将得到的LMBP神经网络PID控制器应用于暖通空调冷冻水循环的控制回路中,将其控制效果与PID控制算法、BP神经网络PID控制算法进行仿真对比研究.研究结果表明,采用LMBP神经网络PID控制器在减少超调量、加快收敛速度、减少稳态误差等方面的性能都得到了明显的改善.     

基于灰色前馈神经网络的流行色预测

提出结合灰色理论和前馈神经网络的流行色预测模型GLMBPNN(Gray Levenberg-Marquardt Back Propagation Neural Network),并利用Levenberg-Marquardt算法提高传统BP(Back Propagation)神经网络模型的学习速率.运用灰色理论学习历史数据的变化规律,对数据进行灰化处理,再对比目标值与BP网络的初始输出值,不断进行逆向反馈修正,训练完毕后通过仿真、白化处理得出流行色预测值.研究表明,GLMBPNN模型预测所得的流行值比灰色模型方法所得值的精度高,且比传统BP神经网络的收敛速度快.     

一种采用增加动量项的改进BP算法实现

介绍了反向传播网络算法(BackPropagationnetworkalgorithm,简称BP算法)的基本思想和存在的问题,阐述了增加动量项改进算法的实现方案,用VC 6.0实现的三层网络结构可改进算法的部分程序,并对这两算法的学习速度进行了测试和比较。     

基于改进遗传算法的BP神经网络自适应优化设计

BP(Back Propagation)神经网络在网络训练中存在着局部最优问题,其算法收敛过慢、局部收敛不理想,影响其工作性能.针对以上不足以及传统神经网络设计规模庞大等问题,提出了一种由EGA(改进的遗传算法)确定网络拓扑结构和训练网络的方法,该方法通过实数编码、自适应多点变异等操作有效地优化了网络拓扑结构和网络参数,从而有效缩小了网络规模和提高了BP网络训练的速度以及收敛的有效性.最后结合了番茄常见病害诊断的实例说明了此方法的可行性.     

混合遗传BP算法在图象识别中的应用

介绍了传统的遗传算法与BP算法,分析了它们各自的不足,提出了一种将BP算法与遗传算法有机结合的混合智能计算方法,并且给出了具体的算法实现流程。将该方法应用于数字图象识别,经过实验表明混合算法优于传统BP算法。     

采油控制系统神经网络建模和优化算法设计

油田抽油机普遍存在抽取能力大于油井实际负荷的问题,产生泵空或空捞现象,其结果增加了无效行程,浪费了大量电能,同时也增加了抽油设备的维护费用。针对这一问题,提出结合BP(Back Propagation)神经网络和遗传算法的采油控制系统。为了克服常规BP神经网络容易陷入局部极小和收敛速度慢的缺点,采用改进的非线性同伦BP神经网络进行采油模型辨识,并用遗传算法优化停机时间。在保证采油量的前提下,采油控制系统的节电率达25%以上,并可延长抽油机寿命30%左右,实现了抽油机采油的智能控制,经济效益十分显著。     

基于 CS 的神经网络在抽油机故障诊断中的应用

为提高抽油机故障诊断效率, 提出了在布谷鸟搜索算法(CS: Cuckoo Search)中加入自适应步长, 并 用函数进行测试, 结果验证了改进算法的有效性。 用改进的 CS 算法优化 BP(Back Propagation)神经网络 的权值和阈值, 并与传统 BP 算法进行比较, 证明了改进的 CS 算法克服了传统算法训练速度慢、 易陷局 部极值的缺点。 将优化的神经网络应用于抽油机故障诊断中的实验表明, 该算法具有较快的收敛速度和 较好的稳定性, 同时也提高了抽油机故障诊断的精确性。     

基于小波包分析与BP神经网络的氧化铝熟料检测

利用小波包分析与BP(Back Propagation)神经网络相结合的算法,对氧化铝熟料检测的应用进行了研究.通过采集回转窑中氧化铝熟料下落碰撞窑壁产生的声音信号,利用小波包分析提取特征向量,根据氧化铝的烧结状况与声音信号特征向量的对应关系,提出建立BP神经网络模型.利用MATLAB对测试样本进行验证,结果表明BP神经网络模型在氧化铝熟料检测中具有可行性,而且具备一定的准确率.