前向网络的两种混合学习策略

针对前向网络反向传播算法（ＢＰ）训练缓慢和易于陷入局部极小的缺点以及反向运算的复杂性,利用ＢＰ算法监督学习特点、模拟退火（ＳＡ）算法在局部极小处的概率突跳特性和遗传算法（ＧＡ）的并行化群体搜索的特点,有效结合ＢＰ和ＳＡ算法以及ＧＡ和ＳＡ算法,提出了前向网络的两种混合学习策略即ＢＰ＆ＳＡ混合策略和ＧＡ＆ＳＡ混合策略。以异或问题为例,通过计算机仿真对混合策略与ＢＰ、改进ＢＰ算法的比较表明混合学习策略较大程度改进了前向网络学习的收敛性能和收敛速度,并一定程度上避免了反向运算的复杂性,是前向神经网络学习的有效算法。     

一种局部回归神经网络的快速算法

针对目前局部回归神经网络动态ＢＰ算法的误差导数计算复杂、收敛速度慢的缺陷,提出了一种新的快速算法、该算法是将信号流图引入动态ＢＰ算法,较好地解决了求导数的复杂性,同时采用ＢＦＧＳ算法另快了网络的收敛速度仿真结果表明了本算法的有效性。     

基于Volterra基函数网络的自适应逆控制方法

提出了一种基于Ｖｏｌｔｅｒｒａ基函数（ＶＰＢＦ）网络的非线性系统自适应逆控制方法。对象和逆控制器各用一个ＶＰＢＦ网络表示,应用正交最小二乘算法进行离线网络结构确定和权值初始化,构造了一种动态归一化非线性最小均方（ＤＮＮＬＭＳ）权值更新算法,以进行网络权值的在线学习。仿真结果表明,该方法具有算法简单、学习速度快、鲁棒性能好等优点。     

基于动态神经网络的人工环境自适应控制

本文将动态ＢＰ网络应用于双输入双输出非线性耦合系统的自适应控制，并利用递归最小二乘法来训练该网络，ＲＬＳ算法具有收敛速度快，抗噪声能力强等优点，还避免了常规ＢＰ算法中学习率选取困难的难点。     

热释放率计算和预测的神经网络方法

基于多层前馈神经网络提出了火灾实验中不同材料热释放率的学习算法和预测技术．同时,将具有全局收敛特性的混合共轭梯度（ＭＣＧ）算法应用于该问题中多层前馈神经网络的训练,克服了传统ＢＰ算法收敛速度慢,推广性能差的缺陷．文中对ＭＣＧ方法进行了大量模拟,并将模拟结果与ＢＰ算法及带有动量项的ＢＰ算法作了全面比较,结果表明：ＭＣＧ方法不仅在学习速度和收敛性方面均优于传统的ＢＰ算法而且显示了良好的性能和行为     

BP学习算法的改进与应用

对ＢＰ学习算法中存在的大量局部极小点以及收敛速度慢问题进行研究并提出相应的改进方案。方法采用类似模拟退火算法调整网络权值修改量η和动量项α以及对学习样本进行按类划分。结论算法的改进提高了识别率并降低了学习时间。     

Navier-Stokes方程的最佳非线性谱Galerkin算法

提出了求解二维非定常ＮａｖｉｅｒＳｔｏｋｅｓ方程的最佳非线性谱Ｇａｌｅｒｋｉｎ算法,分析了近似解的一致收敛速度．和标准的谱Ｇａｌｅｒｋｉｎ算法与非线性谱Ｇａｌｅｒｋｉｎ算法相比,该算法具有节省计算量的优点．     

一个改进的BP神经网络自适应学习算法

提出了一个改进的自适应变步长ＢＰ网络学习算法,对多个布尔学习问题以及Ｆｉｓｈｅｒ收集的一个植物分类问题进行计算．结果表明,该算法不仅有相当快的收敛速度,而且在避免学习过程陷入局部极小方面也取得较好结果．     

基于实数编码遗传算法的多层神经网络BP算法

提出用实数编码的遗传算法来优化多层神经网络的权值,并且将遗传算法与ＢＰ算法结合,能有效地避免ＢＰ算法陷入局部极小和遗传算法过早收敛,实验结果令人满意。     

改进BP网络学习算法的探讨

ＢＰ网络是目前应用很广的人工神经网络。改善ＢＰ网络算法尤其是提高ＢＰ网络的学习速度一直是人们研究的重要课题。本文在对ＢＰ网络现行算法研究的基础上，提出根据系统误差自适应调节学习率的快速ＢＰ算法（ＦＢＰ），并以棉花棉铃虫预测为例，对两种算法的收敛速度进行了比较。     

BP网络自适应学习率研究

分析了自适应学习率BP算法,并对其进行了总结分类,针对每一类介绍了几种具体的自适应学习率BP算法。最后结合XOR问题把一种自适应学习率BP算法和标准BP算法进行了比较和评价。     

一种基于遗传算法的BP神经网络算法及其应用

主要分析了神经网络和遗传算法的特点和存在的一些缺陷，研究了遗传算法和BP神经网络学习算法相结合的相关技术，设计并实现了一个基于遗传算法的BP神经网络算法BP—GA，已应用于肺癌早期细胞病理诊断系统中。实验结果表明，该算法具有较强的收敛性和鲁棒性，其应用效果很好。     

基于BP神经网络的PID控制器研究

从BP神经网络的基本原理、学习规则和学习算法出发,研究了基于BP神经网络的PID控制方法,采用3层前向网络及动态BP算法,取得了较高的控制品质。仿真结果表明,基于BP神经网络的PID控制方法在处理非线性和时变系统时具有很强的鲁棒性。     

一种用于RBF神经网络的支持向量机与BP的混合学习算法

基于支持向量机与径向基(RBF)神经网络在结构上的相似性,提出了一种用于RBF网络的支持向量机与BP的混合学习算法．算法分为2步：首先采用序贯最小优化算法学习训练支持向量机,得到RBF网络较优的初始结构和参数;随后由BP算法调整优化RBF网络参数．混合学习算法结合了支持向量机小样本学习、学习训练快捷以及BP算法在线修改网络参数的特点．仿真研究表明,混合学习算法学习效率高,网络性能优良,应用于函数逼近时效果优良．     

BP神经网络学习算法研究

对日前应用最广的人工神经网络——BP网络的学习算法及各种改进学习算法进行了分类比较和综合分析,并结合作者的研究结果对进一步研究BP网络及算法进行了探讨.     

一类有效的变尺度分层BP学习算法

提出一类有效的改进ＢＰ算法，它采用分层的变尺度学习算法克服一般变尺度学习算法处理的矩阵线数过高、难于实用的问题；同时对势态项系数采用一种自适应的调整方法，避免因其选择不当影响学习收敛速度问题．计算实例表明算法的优越性．     

应用改进BP神经网络进行用水量预测

针对工业用水量的特点，建立了改进的BP神经网络用水量预测模型，采用遗传算法对BP神经网络权系进行优化改进，改进的BP神经网络算法预测结果好于灰色理论预测和BP算法预测。以本溪市某供水厂用水量数据对改进的BP神经网络模型进行训练并预测，将其预测结果与灰色理论预测和BP神经网络预测结果进行比较分析，得出该方法用于供水系统用水量预测误差较小，同时克服了其他两种算法的缺陷。     

基于BP网络的水泥强度预测

运用改进的BP算法,建立了水泥强度预测模型.模型1用于预测水泥抗压强度,网络输入为水泥3 d抗压强度,网络输出为水泥28 d抗压强度;模型2用于预测水泥抗折强度,网络输入为水泥3 d抗折强度,网络输出为水泥28 d抗折强度.网络的改进主要采用附加冲量和自适应学习率等方法,网络运行良好.模型1的相对误差平均值为1.665 5%;模型2的相对误差平均值为3.834 1%,预测结果较为理想.     

基于BP神经网络的非特定人语音识别算法研究

当前非定特人语音识别算法大多只适于连续语音,且识别精度和速度均较低。为此,提出一种新的基于BP神经网络的非特定人语音识别算法,介绍了标准BP神经网络,针对其收敛速度慢的弊端,通过变化的自适应学习速率,令网络训练针对各种阶段自行设置学习速率值,利用变学习速率构建对应的改进BP神经网络模型,将改进的BP神经网络模型看作识别非特定语音的识别器,输入待识别语音,令累计预测残差达到最小,实现非特定人语音识别。将改进模型应用于非特定人语音识别中进行验证,结果表明所提算法识别率更高、识别速度更快,不仅适于连续语音的识别,也适于不连续语音的识别。