神经网络中误差反转算法的分析与改进

分析了ＢＰ网存在的主要问题及其产生原因，提出了改进算法ＢＰＧ，以共轭梯度方向代替梯度方向进行搜索，并在学习过程中采用不精确的一维搜索，限幅和条件轮回等措施。     

前向网络的两种混合学习策略

针对前向网络反向传播算法（ＢＰ）训练缓慢和易于陷入局部极小的缺点以及反向运算的复杂性,利用ＢＰ算法监督学习特点、模拟退火（ＳＡ）算法在局部极小处的概率突跳特性和遗传算法（ＧＡ）的并行化群体搜索的特点,有效结合ＢＰ和ＳＡ算法以及ＧＡ和ＳＡ算法,提出了前向网络的两种混合学习策略即ＢＰ＆ＳＡ混合策略和ＧＡ＆ＳＡ混合策略。以异或问题为例,通过计算机仿真对混合策略与ＢＰ、改进ＢＰ算法的比较表明混合学习策略较大程度改进了前向网络学习的收敛性能和收敛速度,并一定程度上避免了反向运算的复杂性,是前向神经网络学习的有效算法。     

立体神经视觉系统中零件识别的学习方法

提出了一种立体神经视觉系统中零件识别的学习方法。与标准的ＢＰ算法对比有两点改进：①用变尺度方向代替负梯度方向作为搜索方向；②用可变的最优学习率来代替不变的学习率，采用上述２仆改进后，训练速度和收敛性都有较大的改善，实际应用表明，所提出了垢训练速度、收敛性和稳定性都比标准ＢＰ算法有较大的提高。     

利用GA—BP算法对模糊神经网络进行优化

分析了ＢＰ算法和遗传算法（ＧｅｎｅｔｉｅＡｌｇｏｒｉｔｈｍｓ,以下简称ＧＡ）各自的优缺点,将改进的ＧＡ与ＢＰ算法相结合,提出了一种新的ＧＡ－ＢＰ算法,并将其应用于模糊神经网络的参数优化,仿真结果验了本算法的有效性。     

异构计算系统的表调度式任务映射与调度算法

研究了在异构计算系统（ＨＣＳ）中利用表调度式算法进行任务映射与调度．给出两种异构静态优先级表调度式任务映射算法（ＨＳＰ和ＧＨＳＰ）,以及一种异构动态优先级表调度式任务映射算法（ＢＨＤＰ）．实验结果表明,ＧＨＳＰ算法对于粗中粒度ＤＡＧ的调度效果稍好于ＨＳＰ算法,而ＢＨＤＰ算法对于粗粒度和细粒度ＤＡＧ的调度效果均明显优于ＨＳＰ和ＧＨＳＰ算法．     

热释放率计算和预测的神经网络方法

基于多层前馈神经网络提出了火灾实验中不同材料热释放率的学习算法和预测技术．同时,将具有全局收敛特性的混合共轭梯度（ＭＣＧ）算法应用于该问题中多层前馈神经网络的训练,克服了传统ＢＰ算法收敛速度慢,推广性能差的缺陷．文中对ＭＣＧ方法进行了大量模拟,并将模拟结果与ＢＰ算法及带有动量项的ＢＰ算法作了全面比较,结果表明：ＭＣＧ方法不仅在学习速度和收敛性方面均优于传统的ＢＰ算法而且显示了良好的性能和行为     

人工神经网络的改进训练学习算法BPGA

作者通过引进神经元增益参数和记忆上一次网络状态改变量的冲量参数，设计了ＢＰＧＡ算法，对标准的ＢＰ算法进行了改进，提高了网络的学习速度和收敛性，并与标准的ＢＰ算法进行了比较。     

非线性方程组拟牛顿法中线性搜索的一种改进

改进了Ｇｒｉｅｗａｎｋ（１９８６）提出了关于求解非线性方程组的一种线性搜索方式。在理论上保证了线性搜索的实现,使得算法是适定的,而且,在改进的线性搜索条件下,Ｂｒｏｙｄｅｎ算法仍具有全局收敛性和局部超线性收敛性。     

多层前向神经网络的自适应遗传算法训练

提出了一种改进的自适应遗传算法ＩＡＧＡ,它利用 特点,采用前向自适应技术,实现对神经网络的有交工具实验表明,该算法优于ＢＰ算法,标准遗传算法ＢＧＡ和普通自适应遗传算法ＡＧＡ,网络训练质量和效率都有很大提高。     

BP网络的BP-G-S学习算法

为了解决ＢＰ网络在学习过程中存在收敛慢的缺点,文中将ＧａｕｓｓＳｅｉｄｅｌ 迭代法的基本思想与ＢＰ算法结合,将每一个最新修正的权值反映到下一个权值的修正中,提出了一种新的ＢＰＧＳ学习算法来加速ＢＰ网络的收敛。文章最后的计算机仿真说明ＢＰＧＳ总体上可以减少学习的时间,尤其当误差值逼近最小点时效果明显。     

基于遗传算法的神经网络在局部放电模式识别中的应用

针对ＢＰ神经网络（ＮＮ） 在大型发电机局部放电模式识别中存在的收敛速度慢、容易陷入局部极小点的问题,提出采用遗传算法（ＧＡ） 作为神经网络的学习算法．并且根据神经网络结构的特点,构造了新的遗传算子．结果表明,与ＢＰ神经网络相比,ＧＡ 神经网络的收敛性能和推广能力都有了明显提高     

基于遗传算法的最优模糊控制器设计

模糊控制规则集是模糊控制系统的核心部分,对控制的快速性和精度有很大影响,采用改进的ＧＡ算法优化ＢＰ网络,加快了ＢＰ网络的收敛速度,也避免了ＢＰ网络易于陷于局部极小的麻烦。用优化的ＢＰ网络生成规则集,经过优化的ＢＰ网络隐层神经元数减少,即优化了规则库,从而提高系统的精度,降低了对ＢＰ网络系统误差的精度要求。     

智能搜索算法设计和分析

提出了人工智能博弈树搜索ＳＳＳ＊算法的两种改进算法ＢＳ＊和ＤＳ＊算法，给出了ＢＳ＊和ＤＳ＊搜索博弈树端结点的充分必要条件，由此证明了，如果能估计一个合适的上界，则ＢＳ＊算法优于ＳＳＳ＊算法．同时还证明了ＤＳ＊算法优于α－β算法．论述了ＤＳ＊算法搜索深度为奇数的博弈树时，在一般情况下也优于ＳＳＳ＊算法，且这两种算法都降低了存储开销．     

一种用于快速分类问题的神经网络学习算法

对传统的ＢＰ算法进行了改进,提出了基于二阶导数的ＢＰ算法,大大减少了样本训练的迭代次数,从而提高了网络运算速度．对异或问题和蜢虫分类问题的计算,取得了满意的效果．     

有限内存BFGS算法的收敛性

研究有限内存ＢＦＧＳ算法的收敛性质， 在搜索步长一致有下界的条件下对一般凸函数证明了算法的整体收敛性．     

一种新型的前馈多层神经网络学习算法

利用矩阵Ｍｏｏｒｅ－Ｐｅｎｒｏｓｅ逆的方法,提出了一种新型的前馈多层神经网络学习算法－ＭＢＰ算法。该算法采用了群体搜索的策略,打破了ＢＰ算法一次一点的搜索方式,一次可搜索权空间中的一个超平面,仿真结果表明,该算法在提高收敛速度和避免陷入局部极小点方面都有一定的进展。     

BP学习算法的局限性与对策

研究采用多神经网络组合结构、改进ＢＰ学习算法和训练策略等３个对策来克服ＢＰ学习算法的局限性．手写数字识别的实验研究表明，这些对策效果显著．     

多层感知器的加速算法

基于多层感知器(Multi-Perceptron)的反向传播(BP:Backpropagation)算法,本文提出了一种新的改进算法——加速度算法。其基本思想是交替使用负梯度方向[S~t:=—△E(W~(?))]和加速梯度方向[S~k(?)=W~k—W~(k-2)(k≥2)]作为搜索方向。理论分析与模拟实验表明,与基本BP算法比较,它有很快的收敛速度。     

改进的 BP 算法及其应用研究

ＢＰ网络广泛应用于函数逼近、模式识别和系统辨识,但ＢＰ算法收敛速度很慢。为此提出了ＢＰ算法的一种新的改进方式,即在误差反向传播时,不仅改变网络的联接权值,也改变神经元模型参数。详细推导了改进ＢＰ算法的迭代公式。仿真研究表明,与传统ＢＰ算法相比,该算法具有收敛速度快,函数逼近精度高的优点。     

一种新的混沌识别方法（II）

针对Ｇ－Ｐ算法及其改进算法的不足，提出了一种新的改进算法，应用该算法不仅能简化无标度区的确定过程，而且能客观地判断系统的关联维数是否饱和，从而对随机信号和混沌信号加以识别，对新的Ｇ－Ｐ改进算法进一步分析表明，新的Ｇ－Ｐ改进算法适用范围广泛，对于混沌信号的识别很有效。