前向神经网络学习速率的白适应算法

学习速率是控制神经网络学习过程的一个重要参数，影响神经网络的稳定性和快速性．提出了一种能够满足实时性要求的神经网络学习速率的自适应算法，并证明了在该学习速率下，神经网络的学习过程是Lyapunov意义稳定的。试方法通过为神经网络的输出增加一个输出修正量来补偿多个未知因素对学习误盖的影响，从而构造使学习误差快速收敛到零的学习速率自适应算法。通过对神经网络在线逼近一个非线性对象的过程进行仿真，结果证明了该方法的有效性。     

前向神经网络学习速率的自适应算法

学习速率是控制神经网络学习过程的一个重要参数,影响神经网络的稳定性和快速性。提出了一种能够满足实时性要求的神经网络学习速率的自适应算法,并证明了在该学习速率下,神经网络的学习过程是Lyapunov意义稳定的。该方法通过为神经网络的输出增加一个输出修正量来补偿多个未知因素对学习误差的影响,从而构造使学习误差快速收敛到零的学习速率自适应算法。通过对神经网络在线逼近一个非线性对象的过程进行仿真,结果证明了该方法的有效性。     

基于神经网络的管理信息系统综合评价方法

在建立管理信息系统综合评价指标体系的基础上，提出了一种基于BP网络的管理信息系统的综合评价方法，该方法不仅能够模拟专家对管理信息系统进行综合评价，而且避免了评价过程中的人为失误，仿真实验表明采用该方法获得的结果是令人满意的。     

混沌序列的T-SK反馈模糊神经网络预测

针对模糊神经网络预测混沌系统输入节点数目的确定随意性较大及敛速度慢的缺点,提出T SK反馈模糊神经网络(T SKrecurrentfuzzynetwork,TRFN)。同时采用两阶段学习算法:先进行结构学习来确定TRFN的最佳结构,再利用基于混沌动态量的BP算法对神经网络进行参数学习,提高了收敛速度和预测精度。应用此网络和相应的学习算法,对Henton序列进行了预测,与传统的模糊神经网络相比,在节点数目较少的情况下,取得了更快更精确的预测结果,验证了该方法的有效性。     

一种新型复合神经网络模型

本文首先详细地阐述了ＢＰ神经网络和ＣＭＡＣ神经网络各自的结构，原理以及算法。提出了一种ＢＰ神经网络与ＣＭＡＣ神经网络组合起来的新型复合神经网络模型，并利用误差逆向传播原理推导出复合网络的学习法。仿真实验结果表明，这种复合神经网络在保留了ＢＰ和ＣＭＡＣ各自特长的基础上，同时具有学习速度快，泛化能力强等特点     

前馈神经网络的学习能力

使用新的分类子网,改进了Huang得到的一个关于两个隐层前馈型神经网络的学习能力的结果,证明了具有$2(2N)^{(1/2)}+2$个隐层节点的神经网络可以学会N个不同的样本.同时,新的讨论方法使得结果对广泛的一类活化函数都适用,而不只限于sigmoid活化函数.     

基于卡尔曼滤波的二次型神经网络学习算法及收敛性分析

提出了二次型多层前馈神经网络的卡尔曼滤波学习算法,并证明了该算法的收敛性。与文献［２,３］中的学习算法和经典的误差反向传播学习算法相比,新的学习算法具有更快的学习速度、良好的泛化能力,并且对学习率有很好的鲁棒性,不容易陷入局部极小点。仿真实验结果表明了新算法的有效性。     

汽油机动力性的前馈神经网络模型

如何优化汽油机的动力性 ,是研究者致力追求的目标。利用多层前馈神经网络的反向传播算法特性 ,建立了汽油机动力性与点火正时、空燃比、发动机转速、油门开度等之间关系的神经网络模型 ,用以分析、预测、优化汽油机动力性能 ,探讨车用汽油机动力性的科学评价指标     

BP神经网络算法的改进及其应用

根据BP算法的基本原理,分析指出了BP算法存在着收敛慢、接近最优时易产生波动和振荡现象的原因。在此基础上,通过进一步研究,提出了一种新的改进BP算法。改进后的BP算法不仅运算速度有所提高,而且在一定程度上克服了易产生波动和振荡现象的问题。由于改进BP算法的每个权都能找到最优学习率,因此收敛精度得到了提高;并且该算法基本不受初始学习率的影响,因而避免了学习率选取的困难。图1,表3,参4。     

改进的遗传和BP杂交算法及神经网络经济预警系统设计

分析了设计神经网络经济预警系统的一些关键问题,并提出了一种改进的遗传算法,在此基础上,介绍了一种基于这种改进遗传算法和ＢＰ算法的杂交算法神经网络经济预警系统     

一种改进的RBF神经网络学习算法

提出了一种改进的RBF神经网络学习算法 ,分别通过减聚类和监督学习算法对网络参数和权值进行训练 ,既可以根据样本合理地聚类、确定RBF径向基函数的个数和相应参数 ,又具有较强的网络映射能力 ,从而不仅使RBF神经网络结构得以优化 ,性能也得到了提高。仿真结果表明了该学习算法的实用性和有效性     

前馈神经网络的一种连续型学习算法

本文给出前馈神经网络的一种连续型学习算法，对传统的ＢＰ算法作了改进。分析了该算法的收敛性。通过实例与传统ＢＰ算法进行比较，该算法可以明显提高网络的收敛速度，说明它是一种实用的学习算法。     

基于加速进化规划的模糊神经网络学习算法

提出了一种训练模糊神经网络的加速进化规划算法。该算法是进化规划算法的一种改进 ,适合于多维高精度的数值优化。经仿真实例验证 ,其收敛速度有了明显的改善 ,且不易陷入局部极小。     

Fuzzy Entropy Based Combined Learning Algorithm for Neural Networks

ＦｕｚｚｙＥｎｔｒｏｐｙＢａｓｅｄＣｏｍｂｉｎｅｄＬｅａｒｎｉｎｇＡｌｇｏｒｉｔｈｍｆｏｒＮｅｕｒａｌＮｅｔｗｏｒｋｓ￥ＭｉｎＹａｏ（Ｄｅｐｔ．ｏｆＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅ，ＨａｎｇｚｈｏｕＵｎｉｖｅｒｓｉｔｙ，Ｈａｎｇｚｈｏｕ３１００２８，Ｐ...     

训练前向神经网络的全局优化新算法及其应用

把填充函数法与BP算法相结合，提出一种训练前向神经网络的混合型全局优化新算法。该算法首先由BP算法得到一个局部极小点，然后利用充函数使BP算法跳出局部最优，得到一个更低的极小点。重复此过程最终求得全局最优解。最后给出一个应用实例。     

基于信号流图的动态神经网络在线学习算法

复杂的链式规则求导计算是动态神经网络在线学习算法中梯度向量计算的主要瓶颈,针时这一问题,根据P.Campolucci等人提出的动态系统梯度信息信号流图分析方法,设计了动态神经网络的在线学习算法,该算法可以直接从网络的信号流图及其伴随流图中获取目标函数关于网络参数的梯度信息,从而简化了算法梯度向量的计算.为了确保算法的稳定,根据Lyapunov稳定性定理,提出并证明了可以保证算法收敛的自适应学习速率,并且学习速率容易获得.利用NARX神经网络对非线性动态系统在线辨识的仿真实例也表明了本算法的有效性.     

反馈神经网络的一种反向传播算法

曾有人提出利用线性最小二乘法解决神经网络求解优化问题,如用于 Ｂ Ｐ、 Ｈｏｐｆｉｅｌｄ 网络求解。但在许多实际应用中,典型的反向传播法速度较慢。顾提到的反馈神经网络新型算法基于线性代数方法,使用线性最小二乘技巧获得每个神经元的激活函数的权重和,并根据理想权重和与实际权重和的“子误差”来逐层调整权重。在描述时间序列等应用方面,其速度比经典的反向传播要快几个数量级。     

过程神经元网络学习算法中的积分方法分析

过程神经元网络常采用基于正交基展开的学习算法,以简化积分运算.分析对比了基于正交基展开和基于梯形公式两种不同积分方法,提出并证明了网络结构一定时,两种方法可以使网络达到相同的误差精度,并推论出积分运算方法不影响网络训练所能达到的误差精度.两种方法具有不同的适用情况,连续函数输入适合采用正交基展开法,在网络输入为离散等距采样点时,基于梯形公式的方法能够在不影响网络原始输入数据的前提下简化运算,避免了由原始数据构造拟合曲线或平滑插值,再进行正交基展开的过程.     

BP神经网络模型的改进

本文在深入研究ＢＰ神经网络模型的基础上，提出了对该模型的若干改进技术处理方法，并通过仿真试验．实践表明，这些改进和技术处理方法是有效的．