一种新的模糊神经网络删剪策略

模糊规则的数量直接决定模糊神经网络结构的复杂度和效率.基于神经网络自构行学习(NNSCL)算法,用共轭剃度预条件正则方程算法求取删除隐层神经元后的剩余权值,得到改进的NNSCL-1算法.将此算法应用到模糊神经网络的规则推理层,可以极大地优化网络的规则及结构,并且结构优化后不需要重新训练也能保持网络的精确度和泛化能力.仿真结果显示了此算法的有效性和可行性.     

基于量子差分进化算法的神经网络优化方法

一般的神经网络的结构是固定的,在实际应用中容易造成冗余连接和高计算成本。该文采用了协同量子差分进化算法(cooperative quantum differential evolution algo-rithm,CQGADE)以同时优化神经网络的结构和参数,即采用量子遗传算法(quantum genetic algorithm,QGA)来优化神经网络的结构和隐层节点数,采用差分算法来优化神经网络的权值。训练后的神经网络的连接开关能有效删除冗余连接,算法的量子概率幅编码和协同机制可以提高神经网络的学习效率、逼近精度和泛化能力。仿真实验结果表明:用训练后的神经网络预测太阳黑子和蒸汽透平流量具有更好的预测精度和鲁棒性。     

一种基于蚁群聚类的径向基神经网络

提出了一种基于蚁群聚类算法的径向基神经网络．利用蚁群算法的并行寻优特征和挥发系数方法的自适应更改信息量的能力，并以球面聚类的方式确定了径向基神经网络中基函数的位置，同时通过比较隐层神经元的相似性、合并相似性较为接近的2个神经元来约简隐含层的神经元，以达到简化径向基神经网络结构的目的．实验比较了几种不同聚类算法的径向基神经网络，结果表明，所提神经网络的整体训练时间至少可缩短40％，学习的准确率可提高1%以上，而且网络结构更加精简．     

一种优化多层前馈神经网络中隐节点数的算法

多层神经元网络中隐含层的层数及其每一层的神经元数的多寡，至今仍无法用一个解析式精确求得，提出了一种基于黄金分割法的算法，用于求解三层前馈神经网络中的隐层节点数，所得结果有助于提高三层前馈神经网络整体品质。仿真结果表明该算法能较快地找到较优的隐层节点数。     

模糊神经网络控制及其学习方法的研究

对模糊神经网络的学习方法进行了研究.该方法中,在分层训练的基础上通过改变隐层节点数目、训练样本数目和BP算法参数来对网络进行训练.仿真结果表明该方法精简了网络的结构,减少了训练的时间,为模糊神经网络用于实时控制系统提供了可能的条件.     

ELM-RBF神经网络的智能优化策略

提出了ELM-RBF(extreme learning machine-radial basis function)神经网络的智能优化方法,采用差分进化算法和粒子群优化算法来确定ELM-RBF神经网络中隐层神经元的中心和宽度。仿真结果表明,在具有相同的网络结构前提下,基于智能优化策略的ELM-RBF神经网络学习算法具有更好的泛化能力和较好的鲁棒性。     

对提高BP神经网络泛化能力的分析和总结

BP神经网络是最著名的多层前向反馈式神经网络训练算法之一,如何提高BP神经网络的泛化能力成为人们研究的热点。本文从构造训练样本集、对样本集的处理、如何选取隐层节点以及对标准BP算法的改进这几个方面,对BP神经网络的泛化能力进行了分析和总结。     

基于组合神经网络的软件可靠性预测研究

为了进一步提高神经网络的预测能力,提出了一种前馈神经网络混合学习算法,并将其应用于组合神经网络.该算法由一种模式提取算法(Alopex)和伪逆算法组成.在该混合学习算法中,网络的学习任务被分解为2个部分:隐藏层的权值先随机给定,然后使用Alopex算法不断地对其进行扰动;输出层的权值使用伪逆算法确定.所使用的组合神经网络由多个结构相同的前馈神经网络组成,每个前馈神经网络都使用混合学习算法(采用不同的初值)进行训练.实验结果表明,这种组合神经网络能够显著提高软件可靠性的预测精度.     

激励函数可调的NARX神经网络

提出了一种隐层神经元激励函数可调的具有外部输入的非线性回归(NARX)神经网络,它在进行权值调整的同时,还对各隐层神经元激励函数的参数进行自适应调节;并推导出激励函数参数的学习算法,从而使NARX神经网络更符合生物神经网络.通过系统辨识的仿真实例,说明了隐层神经元激励函数对网络性能的影响,还验证了文中提出的NARX神经网络具有更快的收敛速度,并且能有效地避免算法陷入局部最小.     

任意前馈神经网络的稀疏化算法

主要讨论前馈神经网络的稀疏化,即如何确定和删除网络中冗余的神经元和连接。首先给出前馈神经网络的数学定义,并将偏序和拓扑排序引入到前馈神经网络的学习算法和稀疏化算法中。在此基础上提出了冗余神经元和连接的判断依据,并按照自构形和自调整的策略,提出了适用于前馈神经网络的自构形学习算法和自调整删减算法。实验结果表明,上述的稀疏化算法不仅能够有效地删除网络中冗余的神经元和连接,而且能够改善网络的性能。     

基于遗传算法和模拟退火算法优化神经网络的铁路营业里程预测

提出应用遗传算法(GA)和模拟退火(SA)优化神经网络预测铁路营业里程.采用3层前馈神经网络实现铁路营业里程的时间序列预测,输入节点数为5,隐层节点数为8,输出节点数为1.对神经网络的连接权重和节点阈值的确定,采用GA和SA算法相结合的混合优化学习策略.两种算法结合时,SA算法处于外层,GA处于内层.GA采用实数编码,把要确定的神经网络节点连接权重和节点阈值作为基因串.数值计算结果表明混合优化的神经网络的学习速度和精度都比单纯BP算法得出的结果好.因此,用GA-SA混合优化的神经网络预测铁路营业里程是可行的.     

多项式前向神经网络

提出了一种新型的前向神经网络模型-多项式神经网络。该网络具有三层结构,隐层、输出层神经元激活函数分别为：f(x)=x^p和线性函数,网络隐层-输出层的权值采取最速下降法学习,输入层-隐层的权值采用遗传算法进行学习;网络学习时,其误差函数单调递减,学习算法具有较好的收敛性;该网络能逼近任意的连续函数,且具有较好的稳定性,应用实例表明该网络的性能是优良的。     

神经网络控制系统仿真

利用基于神经网络修正误差ＢＰ学习算法的多层网络和间接学习或专门学习的动态逆特性控制方法＾［１］编制的神经网络控制系统的仿真软件（ＳＣＳＢＮＮ），给出了调节时间和最大超调量与神经网络中间层节点数的关系曲线，同时给出了各种学习率和神经元作用函数增益的响应曲线。ＳＣＳＢＮＮ也可用于神经网络非线性控制系统。仿真结果说明神经网络非线性控制系统具有良好的控制性能。     

基于小波神经网络的股票预测

通过将Morlet母小波基函数作为神经网络隐含层神经元的激励函数,构建了Morlet小波神经网络,对网络结构进行了隐含层节点的优化,对股票收盘价的变化进行仿真和预测,实验结果表明,Morlet小波神经网络具有较好的逼近非线性映射的能力,其泛化性能和预测能力较优.     

基于参数优化的RBF神经网络结构设计算法

针对径向基函数(RBF)神经网络的结构优化问题,提出了一种基于参数优化的RBF神经网络优化算法.首先,改进K-means++算法,使得聚类算法更精确,为RBF神经网络的隐含层节点找到一个合适的初始中心;然后,考虑数据分布和缩放因子选择的影响,采用方差度量法计算隐含层神经元基函数的宽度;最后,修正网络参数,提高网络的非线性逼近能力.实验结果表明,本文提出的基于参数优化的RBF神经网络具有良好的逼近效果和泛化能力.     

基于ELM神经网络的FAST节点位移预测研究

针对ELM神经网络隐含层节点数目需要人工设定,容易出现过拟合现象从而导致网络的泛化能力降低的问题,引出了基于误差最小化的ELM神经网络的改进方法 EM_ELM算法,并在理论上论证了EM_ELM算法对于提高ELM神经网络预测精度和泛化能力的可行性.随后将EM_ELM算法应用到FAST节点位移的预测模型中,并且进行了仿真验证.仿真结果表明虽然EM_ELM神经网络在训练时间上有了一定的损失,但是仍能满足实时性的要求,而且它的预测精度和泛化能力都得到提升,证明了改进算法的有效性与可行性,进一步说明了EM_ELM神经网络更适合应用于FAST节点位移预测.     

高斯激活函数特征值分解修剪技术的D-FNN算法研究

 提出了一种D-FNN的新算法。其算法的最主要特点是：D-FNN选择高斯函数作为网络的激活函数和模糊系统的隶属函数,该算法不仅具有强大的全局映射泛化能力,而且在细化局部方面也有效;使用特征值分解修剪技术使得网络结构不会持续增长,可获得更为紧凑的D FNN结构,避免了过拟合现象。最后通过对Hermite多项式逼近能力来验证所提方案的有效性。仿真结果表明使用特征值分解修剪技术和高斯激活函数的D-FNN具有良好的性能。