基于多层BP网络算法的新研究

本文对多层BP网络进行了分析并对BP算法进行了数学描述,以两层神经网络为例来叙述了BP网络的训练步骤,探讨了BP算法的缺陷,由于BP算法本身固有的缺陷,所以要改进BP算法需要避免局部极小点的产生。     

BP网络的最大误差学习算法*

综合了标准ＢＰ算法与“批处理”ＢＰ算法的各自特点,提出了一种新的ＢＰ网络的学习算法,该算法既具有“批处理”ＢＰ算法收敛时迭代次数少的优点,又能克服“批处理”算法对大样本集进行学习时每次计算量较大且收敛时间长的缺点,该算法具有“批处理”算法同阶的迭代次数,但每次迭代所需计算工作量大约是“批处理”算法的样本几分之一。     

MATLAB在模式识别中的应用

MATLAB为人工神经网络模型识别方法的实现提供了简单、高效的编程环境，本结合字符识别问题介绍了运用MATLAB软件包中的神经网络工具箱编制模式识别程序的具体方法。     

基于BP网络的一种改进算法及仿真

针对BP网络存在收敛速度慢及目标函数容易陷入局部极小值的缺点,本文研究分析了BP神经网络模型的缺陷并提出了优化策略。最后提出了一种提高BP网络学习速度的新方法,即自适应调整学习率和下降梯度。仿真结果表明,该方法大大地提高了收敛速度,而且算法简单、易行。     

基于BP网络的一种改进算法及仿真

针对BP网络存在收敛速度慢及目标函数容易陷入局部极小值的缺点,本文研究分析了BP神经网络模型的缺陷并提出了优化策略.最后提出了一种提高BP网络学习速度的新方法,即自适应调整学习率和下降梯度.仿真结果表明,该方法大大地提高了收敛速度,而且算法简单、易行.     

一种提高BP算法学习速度的有效途径

ＢＰ网络在实际应用中的最大障碍就是学习速度慢这一问题。本文在详细分析与论证的基础上得出：在学习过程中,通过对ｓｉｇｍｏｉｄ函数形状的动态调整可有效地提高ＢＰ网络的学习速度,而且这一方法实现简单、易于理解、具有普遍适用性。同时本文对近期发表的有关文献中所提出的一些不恰当的观点和结论进行了修正和补充。     

BP神经网络训练算法的改进

BP神经网络被广泛应用于分类模式识别、图像处理和系统控制等领域。 人们对BP网络算法进行了许多的研究,但尚有其不足之处,为完成其权的训练,问题的关键在于如何避免陷入局部极小及在此前提下如何提高学习速度。为此,就如何选取学习率η和动量矩α提出了改进方案,并应用于数字识别,得到了较为满意的结果。     

基于BP神经网络的学生分层算法研究

计算机网络已经渗透到各个领域,日常教学也广泛的使用到,利用网络所获取的有用信息快速对班上学生分层,从而进行因材施教有一定的实用价值;本文基于网络辅助教学系统,对学生利用网络上交作业信息进行挖掘分析,利用BP神经网络的自适应学习特点,于上交作业时间与上交作业的质量为基础,挖掘出与成绩的关系。     

基于遗传算法的神经网络权值优化

针对BP算法学习效率低、收敛速度慢，以及易陷入局部最优等缺点，提出了一种新型的、基于自然选择和基因遗传学原理的随机搜索算法——遗传算法(Genetic Algorithm)，并论述了它在BP神经网络中权值优化的问题。仿真结果表明，用遗传算法优化BP神经网络的权值收敛速度快，并有效解决了BP算法易陷入局部最优的问题。     

对提高BP神经网络泛化能力的分析和总结

BP神经网络是最著名的多层前向反馈式神经网络训练算法之一,如何提高BP神经网络的泛化能力成为人们研究的热点。本文从构造训练样本集、对样本集的处理、如何选取隐层节点以及对标准BP算法的改进这几个方面,对BP神经网络的泛化能力进行了分析和总结。     

大坝基础渗流量预测的交替学习人工神经网络方法研究

人工神经网络通过神经元之间的相互作用来完成整个网络的信息处理，具有高度非线性、自适应、自学习等一系列优点，广泛应用于物理量的预测预报中。为此提出并建立了基于交替学习迭代算法的人工神经网络模型，结合清江隔河岩水电站的实际，研究了这种模型在大坝基础渗流量预测中的应用，其预报精度较高，可望推广应用到大坝安全监控中去。     

直接转矩控制系统定子电阻的神经网络辨识

在研究异步电机直接转矩控制的基础上 ,提出了基于神经网络方法的定子电阻辨识 为了缩短学习时间 ,保证系统收敛 ,采用了自适应调整学习率 选取实时递归网络 ,对不同隐含层单元数和训练次数进行比较 ,获得合适的单元数和训练次数 仿真结果证明 ,应用该辨识可以进一步改善直接转矩控制系统的动态性能     

智能制造系统中立体神经视觉的校准

提出一种利用神经网络校准立体视觉系统的方法。该方法充分利用神经网络的学习、记忆功能 ,采用样本进行训练后 ,神经网络能学习到立体视觉系统中的非线性关系和摄像机的内外方位元素 ,并且保存起来。该方法克服了传统校准方法计算复杂、计算量大的缺点。通过实际应用 ,获得了很好的效果     

一种简洁高效的加速卷积神经网络的方法

卷积神经网络是机器学习领域一种广泛应用的方法,在深度学习中发挥着重要的作用。由于卷积神经网络一般需要多个层,而且训练数据通常都很大,所以网络训练可能需要几小时甚至很多天。目前虽然有一些利用GPU加速卷积神经网络训练的研究成果,但基本上都是实现方式复杂,需要技巧很高,而且容易出错。提出了一种简洁、高效的加速卷积神经网络训练的方法,其主要过程是将卷积层展开,这样卷积层和全连接层的主要训练步骤都可以用矩阵乘法表示;再利用BLAS库高效计算矩阵乘法。这种方法不需要过多考虑并行处理的细节和处理器的内核特点,在CPU和GPU上都能加速。实验证明,GPU上使用该方法比传统的CPU上的实现快了100多倍。     

故障诊断知识获取的一种神经网络理论方法

基于神经网络的竞争学习机制,提出了一种新的基于神经网络专家系统的自动化生产过程监控的知识获取理论方法.这种理论方法在故障诊断的知识获取上是通过竞争学习机制来实现的,与以往人们一般较常采用的BP学习算法相比,具有算法简单、易于实现及无需教师进行监督等特点.利用此方法,经在一个铣削加工过程监控系统上进行仿真研究表明:这种理论方法是非常有效的.     

Jordan神经网络的改进研究

针对Jordan神经网络的反馈网络的反馈信息表征能力不强的缺点,提出了一种新的反馈网络模型,对Jordan神经网络的缺点进行了改进,并且对原来的训练学习算法进行了改进,提出了一种提取绝对值最大权的训练学习算法来降低计算复杂性,最终给出了实验结果证明。     

故障诊断中的函数连接网络

函数连接网络通过产生一组线性独立的函数，将原输入模式进行了一次非线性扩展后作为单层感知器的输入，从而克服了学习速度慢，易陶于局部极小点的问题，把这种网络用于故障模式分类并和BP网进行比较，由此可看出它的优点。     

基于Q-学习的卫星姿态在线模糊神经网络控制

将模糊神经网络控制引入到三轴稳定卫星的姿态控制中,结合Q-学习和BP神经网络来解决模糊神经网络参数在线调整问题,在无需训练样本的前提下实现控制器的在线学习. 仿真结果表明,这种基于Q-学习的模糊神经网络控制不仅可以满足对姿态控制精度的要求,还有效地抵制了外界干扰,提高了姿态稳定度,对卫星的不确定性有较强的鲁棒性.     

回声状态网络的研究进展

回声状态网络是近年来新兴的一种递归神经网络,独特而简单的训练方式以及高精度的训练结果已使其成为当前研究的热点之一.在该网络中,引入了储备池计算模式这一新的神经网络的建设方案,克服了之前网络模型基于梯度下降的学习算法所难以避免的收敛慢和容易陷入局部极小等问题.围绕这种新型网络结构,国内外许多学者开展了多样的研究.本文全面深入介绍了回声状态网络这一新兴技术,讨论了回声状态网络的优缺点,并综合近年的研究现状,总结了回声状态网络的主要研究工作进展和未来的研究方向.     

一种PNN网络的EM训练算法

提出一种概率神经网络（ＰＮＮ）的ＥＭ（ＥｘｐｅｃｔａｔｉｏｎＭａｘｉｍｉｚａｔｉｏｎ）训练算法．ＰＮＮ网为一四层前馈网,它构成一个贝叶斯分类器,实现多类分类的贝叶斯判别,它把输入的样本模式,经网络变换为输出的分类判决．其网络节点对应于贝叶斯后验概率公式的各个变量．此ＰＮＮ网络用高斯核的Ｐａｒｚｅｎ窗函数作为核密度函数,网络参数训练由ＥＭ算法实现,其学习方式为类间的监督学习和类内的非监督学习．实验表明了此网络及其学习算法在分类应用中的有效性．