基于重置的拟牛顿动态前馈神经网络

前馈神经网络的结构直接影响网络的性能。构造基于拟牛顿法(Quasi．NewtonAlgorithm)的前馈神经网络模型，为了优化神经网络结构，尝试引入重置算法(EarlyRestartAlgorithm)，得到基于重置的拟牛顿动态前馈神经网络。对比实验表明，重置算法的引入有效地解决了结构优化问题，优化后的神经网络具有良好的收敛性与稳定性。     

基于动量项前馈神经网络盲均衡算法

针对基于前馈神经网络的盲均衡算法中，BP优化算法具有收敛速度慢、易陷入局部极小的缺点，提出了一种新的盲均衡算法，该算法结合动量项前馈神经网络与传统恒模盲均衡算法的优点，将以前权值的调节量用于当前权值的修改过程，降低了算法对于误差曲面局部极值点的敏感性。仿真结果表明，该算法可有效抑制网络陷入局部极小，防止振荡，加快盲均衡器的收敛速度。     

信息理论框架下的神经网络构建

神经网络模型的构建方法是神经网络研究的重点和难点,传统的构建方法建立在实验和重复学习的基础上,本文提出了一种信息理论框架下的神经网络构建方法基于熵的神经网络(EBNN).EBNN借助于前馈网络与决策树的等价性,采用熵做为神经网络构造的准则,利用决策树的构造思想和方法,建立了一种系统的神经网络构造方法.实验表明EBNN方法学习速度比传统BP网络快,但又不降低神经网络性能.     

分区前馈神经网络及其算法

基于鲎小眼间侧向抑制的Hartline Ratliff模型，文中将自组织网络与BP网络相结合，提出了一种分区前馈神经网络，并给出其具体学习，仿真算法.该网络结构能反映人脑多网络结构，并行处理信息的特点，因而具有学习快速，一定程度上克服局部极小和适合并行计算的特点.计算机仿真的算例证明，即使在患行计算机学习时间也可以减少到以往的50%以下，而与传统的前馈神经网络具有相同的泛化能力.     

一种新的基于目标反传的前馈式神经网络训练算法

提出了一种基于目标反传的前馈式神经网络训练算法,该算法将网络的目标输出信息反传到网络的每一个隐层上,于是将神经网络的训练问题转化为求解一系列线性方程组和线性不等式组的问题,数值实验结果表明本文提出的方法与传统的BP算法相比提高了网络的训练速度.     

前馈神经网络结构优化新算法

前馈神经网络的结构直接影响网络的性能.首先基于拟牛顿NL2SOL法构造前馈神经网络模型,为了优化神经网络结构,尝试引入重置算法(Early Restart Algorithm),构建基于重置的NL2SOL动态前馈神经网络.最后通过对比实验表明,重置算法的引入有效地解决了神经网络的结构优化问题,优化后的神经网络具有良好的收敛性与稳定性.     

基于两级神经网络的发酵过程多变量前馈解耦控制

针对具有时变、非线性、不确定性的多变量耦合生物发酵过程,提出了一种基于两级神经网络的多变量前馈解耦方法.一级神经网络利用可获得的过程信息拟和耦合通道的过程特性,实现耦合作用对被控量影响的估计;二级神经网络用来拟和控制通道的逆特性.通过两级网络的串联,消除系统间的耦合.实验结果表明,提出的解耦控制方法能适应生物发酵过程模型的不确定性和参数时变性,克服了前馈解耦方法依赖于过程模型和对模型参数的变化表现敏感的缺点.     

LM算法在神经网络语音识别中的应用

输入语音信号中声音的特征提取和分类识别可以通过多层前馈神经网络大量学习实现,但基于误差反向传播的前馈神经网络(BP神经网络)标准算法收敛速度慢,在训练中效率不高。采用一种快速稳定的Levenberg-Marquardt算法进行语音识别,通过对语音信号的预处理、特征提取和网络结果优化,建立了网络训练样本集,用MATLAB进行了仿真,仿真结果表明,该算法优于传统的BP算法,具有更好的收敛性。     

热分解过程的神经网络预测方法的研究

提出了用前馈神经网络求解热分解过程的新方法．针对传统的ＢＰ算法的缺陷,把无约束优化中的变尺度应用于网络的训练学习,改进了学习算法,提出了一种基于动态步长的新的变尺度算法．通过它对热分解过程的预测分析,其结果非常逼近实验结果并优于传统的理论计算结果;同时,新的变尺度算法提高了网络算法的收敛性．     

基于神经网络算法的单框架控制力矩陀螺系统复合控制

提出一种基于双神经网络的前馈?反馈控制系统，采集单框架控制力矩陀螺系统在不同条件下的运行数据并使用卡尔曼滤波处理，基于神经网络构建了涵盖控制通道与干扰通道信息的虚拟广义被控对象模型，由此设计了神经网络前馈补偿器。实现了前馈补偿器?原反馈控制器的复合控制系统，减少了传统的前馈?反馈复合控制需要精确地获取干扰通道信息的约束，能够克服单框架控制力矩陀螺系统存在的复杂干扰对控制性能的影响。仿真结果表明了方案能够提升系统稳态精度，减小稳态误差，改善控制动态性能。     

非线性系统定阶的神经网络方法

前馈型神经网应用于非线性系统辨识的一个问题是确定系统阶次。采用前馈神经网进行非线性系统定阶与神经网的推广性问题密切相关。ＯＬＳ算法是构筑径向基神经网的一种学习算法，但是采用ＯＬＳ算法构筑神经网存在推广性问题。ＲＯＬＳ算法将ＯＬＳ算法与正则化（ｒｅｇｕｌａｒｉｚａｔｉｏｎ）方法相结合，以提高算法的推广能力。本文将基于径向基网的ＲＯＬＳ算法应用于非线性系统定阶。本文对提出的方法进行了仿真研究，结果验证了方法的有效性。     

基于组合神经网络的软件可靠性预测研究

为了进一步提高神经网络的预测能力,提出了一种前馈神经网络混合学习算法,并将其应用于组合神经网络.该算法由一种模式提取算法(Alopex)和伪逆算法组成.在该混合学习算法中,网络的学习任务被分解为2个部分:隐藏层的权值先随机给定,然后使用Alopex算法不断地对其进行扰动;输出层的权值使用伪逆算法确定.所使用的组合神经网络由多个结构相同的前馈神经网络组成,每个前馈神经网络都使用混合学习算法(采用不同的初值)进行训练.实验结果表明,这种组合神经网络能够显著提高软件可靠性的预测精度.     

我们还需要前馈神经网络技术？

定义了前馈核神经网络的体系结构。从实际应用的需求出发。所定义的网络涵盖了目前多数前馈神经网络。从理论上证明了该网络的批量学习过程实际上所表达的是一种核学习机,进而证明了网络的学习仅需在最后一层实施即可,而在隐含层的参数可任意赋值。因此,该结论事实上是现有LLM及ELM的拓广。同时,发现在逼近精度要求不是太高的情况下,目前的前馈神经网络学习技术因过于繁琐而没有必要,仅需对网络最后一层进行学习即可。而前馈神经网络技术目前最前沿的应用是解决大样本及深度知识表达问题。针对这两个热点问题,分别提出了大样本下的廉价学习策略和深度知识挖掘下的灵巧学习策略。在此,作者希望该文能引起广泛讨论甚至争论。     

利用前馈神经网络计算Lyapunov指数

Ｌｙａｐｕｎｏｖ指数是混沌动力学系统的重要不变量．用基于前馈神经网络的自适应快速学习算法计算混沌动力学系统的全部Ｌｙａｐｕｎｏｖ指数．结果表明，本算法在有限的样本点及出现外部噪声的情况下，是非常可靠的．     

时变最优化信息处理技术及其应用(Ⅱ)——前馈神经网络学习算法

多层前馈神经网络应用成功的关键之一在于寻找一种有效的学习方法。尤其是在线应用,其学习和效率显著极为重要。而且前应用最广泛的ＢＰ算法却存在收敛慢和振荡等缺点。     

前馈神经网络的容错性研究

以前馈神经网络为研究对象,提出了一种容错型神经网络学习算法．将系统运行过程中可能发生的各类故障随机地引入网络训练过程,使系统获得更加稳健的内部表示．仿真结果表明,该学习算法能够有效地提高神经网络的容错能力和泛化能力．     

非线性系统的神经网络自学习控制

提出了一种对非线性系统的神经网络自学习控制方法,基于逆动力学控制的思想,构造了神经网络结构一致的控制器和辩识器。辨识器采用多层前向网络结构和广义Ｄｅｌｔａ学习规则算法实现了对系统逆动力学模型的动态辨识,并通过在线动态传递权值给神经网络控制器的方法实现了神经网络辨识器的神经网络控制器的有机结合,从而使整个控制系统具有很强的自适应和自学习能力,所提出的控制方案可适用于不含滞后环节和包含滞后环节的非线性     

基于RBF神经网络的冠心病识别模型

RBF神经网络是前馈神经网络研究中的一个热点.对RBF神经网络的网络结构、基本原理和学习算法进行了介绍.针对BP神经网络自身的缺陷,提出以RBF神经网络为识别模型,采用最近邻聚类学习算法,建立一种冠心病模式识别诊断系统.仿真实验表明,该模型可快速完成对冠心病样本的学习与拟合,具有预测识别率高的优点,可作为该病诊断的一种有效的辅助手段.     

基于改进的双并联动态过程神经网络的旅游需求预测

为克服前向过程神经网络收敛速度慢、精度低的问题,提出了一种改进的双并联动态过程神经网络,对于给定的全连接的过程神经网络,通过优化其连接权值和网络结构,删除冗余连接使之成为部分连接的过程神经网络系统,并给出了基于正交基函数展开的学习算法,从而降低了计算的成本。改进的双并联动态过程神经网络应用于旅游预测问题,结果表明其预测精度能够满足工程需要。     

基于组合神经网络的教师评价模型研究

本文提出的基于组合神经网络的教师评价模型,可以弥补以往基于神经网络的教师评价模型的不足,不但可以给出教师的综合得分或所属类别,还可以给出教师在每个方面的得分.所使用的组合神经网络,由多个结构相同的BP神经网络组成;用构建的组合神经网络和传统BP神经网络分别进行实验.仿真实验表明,该模型相对误差较小,可以满足评价需求.