基于粒子群优化和模拟退火的神经网络优化研究

文章把模拟退火思想引入到粒子群优化算法中,提出一种关于神经网络结构的优化设计方法,用于同时完成对网络结构空间和权值空间的搜索。算法对神经网络的结构和权值进行了优化,删除了网络中的冗余结点和权值,提高了网络的处理能力。实验结果表明,算法能够有效抑制粒子群优化算法不成熟收敛的发生,有效提高前馈神经网络的收敛精度和收敛速度,表现出良好的性能。     

前馈神经网络快速算法及其应用

针对现有前馈神经网络学习算法的缺陷,提出一种前馈神经网络的快速学习算法.该算法是基于无监督学习中的主元分析算法的Oja规则和监督学习中δ规则的.与现有同类算法相比,该算法简化了学习过程,计算量小,有更快的学习收敛速度和更高的收敛精度,较适用于快速学习的系统辨识和其他应用.系统辨识的仿真实例表明了该算法的优良性能.     

一种新型的前馈多层神经网络学习算法

利用矩阵Ｍｏｏｒｅ－Ｐｅｎｒｏｓｅ逆的方法,提出了一种新型的前馈多层神经网络学习算法－ＭＢＰ算法。该算法采用了群体搜索的策略,打破了ＢＰ算法一次一点的搜索方式,一次可搜索权空间中的一个超平面,仿真结果表明,该算法在提高收敛速度和避免陷入局部极小点方面都有一定的进展。     

修正的解相关前馈神经网络盲均衡算法研究

针对基于传统梯度下降算法的前馈神经网络盲均衡在输入线性相关条件下收敛速度慢的问题,提出了一种修正解相关前馈神经网络盲均衡改进算法。对接收观测数据进行解相关处理,使梯度方向保持正交,同时,设定判断阈值,如果前馈神经网络输入相关系数大于阈值,说明输入向量强相关,保持梯度更新大小和方向不变,以克服强相关输入条件下解相关算法收敛停滞的问题。计算机仿真结果表明,文中提出的算法与基于直接梯度下降算法和传统解相关前馈神经网络盲均衡算法相比具有更快的收敛速度,有效提高了均衡性能。     

基于GaussNewton-NL2SOL法的前馈神经网络及应用

目前基于高斯牛顿法及其衍生算法的前馈神经网络虽然可以达到局部二阶收敛速度,但只对小残量或零残量问题有效,对大残量问题则收敛很慢甚至不收敛.为了实时解决神经网络学习过程中可能遇到的小残量问题和大残量问题,引入NL2SOL优化算法,并与GaussNewton法相结合,构建基于GaussNewton-NL2SOL法的前馈神经网络.仿真实例表明,该神经网络较好地解决了残量问题,具有良好的收敛性和稳定性.     

基于动量项前馈神经网络盲均衡算法

针对基于前馈神经网络的盲均衡算法中，BP优化算法具有收敛速度慢、易陷入局部极小的缺点，提出了一种新的盲均衡算法，该算法结合动量项前馈神经网络与传统恒模盲均衡算法的优点，将以前权值的调节量用于当前权值的修改过程，降低了算法对于误差曲面局部极值点的敏感性。仿真结果表明，该算法可有效抑制网络陷入局部极小，防止振荡，加快盲均衡器的收敛速度。     

前馈神经网络权值学习综合算法

目前基于高斯牛顿法及其衍生算法的前馈神经网络虽然可以达到局部二阶收敛速度,但只对小残量或零残量问题有效,对大残量问题则收敛很慢甚至不收敛.为了实时解决神经网络学习过程中可能遇到的小残量问题和大残量问题,引入NL2SOL优化算法与GaussNewton法相结合,并引入熵误差函数,构建基于GaussNewton NL2SOL法的前馈神经网络.仿真实例表明,该神经网络较好地解决了残量问题,具有良好的收敛性和稳定性.     

热释放率计算和预测的神经网络方法

基于多层前馈神经网络提出了火灾实验中不同材料热释放率的学习算法和预测技术．同时,将具有全局收敛特性的混合共轭梯度（ＭＣＧ）算法应用于该问题中多层前馈神经网络的训练,克服了传统ＢＰ算法收敛速度慢,推广性能差的缺陷．文中对ＭＣＧ方法进行了大量模拟,并将模拟结果与ＢＰ算法及带有动量项的ＢＰ算法作了全面比较,结果表明：ＭＣＧ方法不仅在学习速度和收敛性方面均优于传统的ＢＰ算法而且显示了良好的性能和行为     

前馈神经网络的二阶学习算法

前馈神经网络是神经网络中应用最广的一种。但由于神经网络采用Ｂ－Ｐ算法，收敛速度慢。在分析了神经网络算法原理的基础上，提出了一种基于变质量法的优化训练算法。仿真证明，这种算法能够大大提高神经网络的收敛速度。     

激励函数可调的前馈神经网络在线学习算法

针对标准ＢＰ算法的不足,提出了一种激励函数可调的前馈神经网络在线学习算法。该方法去除了样本的预处理过程,以在线方式训练前馈神经网络,同时修正网络的权重,阈值与激励函数。,上于避免了神经元的输出饱和现象,算法的收敛速度明显提高,并在一定程度上防止了局部极小解的出现。仿真结果证明了这种算法的有效性。     

基于遗传算法的RBF神经网络设计

采用了遗传算法自动构造ＲＢＦ网络,把网络结构的形式作为一个子集选择问题来解决,并提出了新的遗传操作算子来改进遗传算法,加快了收敛速度,提出了算法的实用性,文中介绍了遗传算法的结构与优化原理,并给出了ＲＢＦ网络结构的生成方法,用仿真结果证明了本算法的可行性。     

遗传算法在船舶动力定位系统中的应用

针对船舶动力定位系统提出了一种基于神经网络的模糊控制模型,它通过神经网络来实现模糊控制的模糊化、规则推理到反模糊化的整个过程,并且采用遗传算法进行网络学习;在此基础上针对船舶的纵向运动进行了仿真实验,结果表明,这种模糊神经网络结构及算法对船舶的动力定位实施具有可行性以及有效性.     

基于复合神经网络的网络业务分类算法

针对目前计算机网络业务流管理问题,提出了一种基于复合神经网络的网络业务分类方案．将复合神经网络用于网络业务源特征提取与分类的研究中,打包法和BP算法结合用于复合神经网络的训练．并分析比较与单个神经网络和模糊神经网络算法用于网络业务分类效果．计算机仿真结果表明,复合神经网络分类收敛快、误差小,比单个神经网络算法和模糊神经网络算法更优越；同时,研究结果为解决网络业务源特征提取与分类提供了一种有效的途径．     

模糊 RBF 网络简化模型研究

在一定的前提条件下,提出一种简化的模糊ＲＢＦ网络模型．该网络由输入层、模糊化层、模糊联结层、合成联结层和输出层组成．同时,还给出网络的构造方法和自学习方法．仿真结果表明此网络对非线性、多变量函数具有良好的逼近能力．     

基于遗传算法神经网络集成股票市场预测研究

神经网络集成技术能有效地提高神经网络的学习能力和泛化能力,已经成为机器学习和神经计算领域的一个研究热点.本文利用不同的神经网络算法产生神经网络集成个体,以误差平方和最小为准则,用遗传算法动态求解集成个体的非负权重系数,进行最优组合集成建模研究,并以此建立股市预测模型.通过上证指数开盘价、收盘价进行实例分析,计算结果表明该方法相对传统的简单平均集成模型,具有预测精度高、稳定性好,易于操作的特点.     

Fuzzy ARTMAP neural network for seafloor classification from multibeam sonar data

This paper presents a seafloor classification method of multibeam sonar data, based on the use of Adaptive Resonance Theory （ART） neural networks. A general ART-based neural network, Fuzzy ARTMAP, has been proposed for seafloor classification of multibeam sonar data. An evolutionary strategy was used to generate new training samples near the cluster boundaries of the neural network, therefore the weights can be revised and refined by supervised learning. The proposed method resolves the training problem for Fuzzy ARTMAP neural networks, which are applied to seafloor classification of multibeam sonar data when there are less than adequate ground-troth samples. The results were synthetically analyzed in comparison with the standard Fuzzy ARTMAP network and a conventional Bayesian classifier. The conclusion can be drawn that Fuzzy ARTMAP neural networks combining with GA algorithms can be alternative powerful tools for seafloor classification of multibeam sonar data.     

基于遗传算法神经网络盲均衡算法的研究

将遗传算法引入神经网络盲均衡,利用其全局搜索能力强的特性来消除传统神经网络算法易陷入局部最优解、训练速度慢的缺点。采用两阶段寻优法,首先,通过遗传算法来为神经网络提供一个全局较优的局部搜索空间;其次,利用传统神经网络在这个局部空间进行更精确地搜索,最终实现盲均衡。计算机仿真表明,该算法能达到更好的收敛特性和均衡效果。     

基于遗传算法神经网络盲均衡算法的研究

将遗传算法引入神经网络盲均衡,利用其全局搜索能力强的特性来消除传统神经网络算法易陷入局部最优解、训练速度慢的缺点。采用两阶段寻优法,首先,通过遗传算法来为神经网络提供一个全局较优的局部搜索空间;其次,利用传统神经网络在这个局部空间进行更精确地搜索,最终实现盲均衡。计算机仿真表明,该算法能达到更好的收敛特性和均衡效果。     

一种基于遗传算法的BP神经网络算法及其应用

主要分析了神经网络和遗传算法的特点和存在的一些缺陷，研究了遗传算法和BP神经网络学习算法相结合的相关技术，设计并实现了一个基于遗传算法的BP神经网络算法BP—GA，已应用于肺癌早期细胞病理诊断系统中。实验结果表明，该算法具有较强的收敛性和鲁棒性，其应用效果很好。     

一种新的时滞细胞神经网络全局渐近稳定性准则

研究了一类具有时滞的细胞神经网络全局稳定性问题。首先,提出所研究的时滞细胞神经网络模型、系统激活函数所需满足的条件及本文需要用到的引理。然后,将所研究的系统通过一个等式进行线性变换,在定义一个与系统相关的积分操作基础上讨论时滞细胞神经网络的全局渐近稳定性。与早期的文献结果相比,本文所得结果具有更少保守性,并且该条件是与时滞相关的。本文所得到的稳定性准则可以很容易地求出系统稳定的时滞上界,进而可以很容易得到时滞无关稳定性结果。最后,用一个数值例子证明本文所得的稳定性条件是有效的。