延迟离散Hopfield-型网络广义异步收敛性分析

给出了延迟离散Hopfield -型神经网络的收敛性定理。在广义异步运行方式下 ,证明了对称连接权阵 (只要w0 对称 )条件下的收敛性定理 ,推广了已有的延迟离散Hopfield -型神经网络的收敛性结果 ,表明网络收敛滞后于能量函数收敛最多 2n 1步。最后给出了能量函数的极大值点与延迟离散Hopfield -型神经网络的稳定态的关系。     

单亲遗传算法的选择方式

给出了单亲遗传算法的几种常用选择方式 ,并指出单亲遗传算法的全局收敛性和收敛速度与选择方式有关。锦标赛选择方式和父子竞争选择方式不能保证算法的全局收敛性 ,但有较快的收敛速度 ;按适应度比例选择方式在引入了最优保持操作后能保证算法的全局收敛性 ,但收敛速度较慢。     

延迟离散Hopfield-型网络的收敛性及其算法

给出了延迟离散 Hopfield-型网络的收敛性定理 ,提出了用于组合优化计算的延迟扰动算法 .在正规异步运行规则下 ,证明了网络滞后于能量函数收敛的步数由 Hopfield结果的 n2 步降到 2 n +1步 .揭示了离散 Hopfield-型网络与延迟离散 Hopfield-型神经网络收敛性的内在关系 ,为离散Hopfield-型网络的应用研究构筑了新的框架.     

离散Hopfield神经网络的异步渐近行为

主要研究非对称离散Hopfield神经网络和带有延迟项的非对称离散Hopfield神经网络的异步渐近行为。提出了异步演化的网络状态图和网络状态图的洞的概念 ,研究了网络状态图的洞和神经网络的异步稳定性之间的关系。给出了非对称离散Hopfield网络的异步稳定条件和不稳定条件以及某些特殊情况下的网络状态图的结构。同时 ,也得到了非对称延迟离散Hopfield网络的异步收敛性条件。所获结果推广了一些已有的结论。     

不同演化模式的离散Hopfield网络的稳定性研究

神经网络的稳定性被认为是神经网络应用的基础。研究了非对称离散Hopfield神经网络的异步、同步、部分同步演化方式的稳定性 ,证明得到对于已知稳定的网络 ,如果经其连接权矩阵一定的增量 ,得到一个新的连接权矩阵 ,则在一定条件下可保证所得新的网络仍是稳定的。所获结果不仅推广了已有的结论 ,而且为离散Hopfield神经网络稳定性的稳健性能分析和应用提供了理论基础。     

前馈神经网络的一种连续型学习算法

本文给出前馈神经网络的一种连续型学习算法，对传统的ＢＰ算法作了改进。分析了该算法的收敛性。通过实例与传统ＢＰ算法进行比较，该算法可以明显提高网络的收敛速度，说明它是一种实用的学习算法。     

跨越连接BP算法及其在卷烟制丝工艺中的应用

传统BP神经网络算法及其改进算法都是非完全全连接神经网络算法,具有收敛速度慢,泛化能力差等不足.通过对神经网络连接方式的转化,可以得到一种完全全连接神经网络--跨越连接神经网络,并给出了跨越连接BP神经网络算法.针对卷烟制丝工艺的仿真实验表明,该算法具备描述复杂数据的能力,与传统BP算法相比,网络训练收敛速度快且泛化能力强.     

求解有界约束二次规划问题神经网络模型的收敛性分析

通过深化Lasalle不变原理,建立了判别一般动力系统全局收敛性的一个准则.应用这一准则,详尽研究了一个求解有界约束二次规划问题神经网络的全局收敛性,给出了当目标函数为一类非凸函数时的全局收敛性条件.特别地利用常微分方程理论,证明了该网络对任意凸函数全局收敛性,所获结果深化和推广了现有文献相关结论的相应结论.这些新的结论都表明了该神经网络在求解有界约束二次规划问题时的有效性.数值模拟与理论分析结果一致.     

使用干细胞机制优化反向传播神经网络

借鉴细胞学中的干细胞理论,提出了基于干细胞机制的进化神经网络（SCEABPNN）,以实现误差反向传播神经网络（BPNN）的优化。SCEABPNN不需要遗传神经网络（GABPNN）中的编码、解码、交叉、变异等操作,把网络中的结点看成细胞,通过细胞移植、细胞置换、细胞凋亡操作进行网络优化。仿真结果证实,SCEABPNN不但可以全局收敛,有效解决BPNN易陷局部最小的问题,而且收敛速度比GABPNN和标准BPNN更快。     

GSVM优化问题的一种新的光滑函数法

提出求解广义支撑向量机(GSVM)优化问题的一种新的光滑函数法,克服了已有算法收敛速度慢且计算结构复杂的缺陷。首先利用最优化理论的KKT互补条件,将GSVM转化为无约束优化问题,然后给出了基于Newton型迭代的光滑函数的迭代方法。给出了这种光滑函数的有关性质、迭代算法的迭代格式及其收敛性。通过理论分析及数值实验证明了该算法对初始点不敏感,且收敛速度快、数值稳定。从而验证了算法的可行性和有效性。     

基于遗传算法的进化神经网络

提出一种基于遗传算法的多层前向神经网络的自动化设计方法(genetic multiplayer feedforward neural network，GMFNN)，用以同时完成对网络结构空间和权值空间的搜索。该算法利用双种群权值优化、结构进化自适应变异率等方法来加快算法的收敛速度，改善解的性能。仿真结果显示本文提出的算法能够有效抑制遗传算法初期收敛的发生，有效地提高多层前向神经网络的收敛精度，并可获得更为简洁的网络结构。     

Volterra Feedforward Neural Networks:Theory and Algorithms

Ｖｏｌｔｅｒｒａ　Ｆｅｅｄｆｏｒｗａｒｄ　Ｎｅｕｒａｌ　Ｎｅｔｗｏｒｋｓ：　Ｔｈｅｏｒｙ　ａｎｄ　ＡｌｇｏｒｉｔｈｍｓＪｉａｏＬｉｃｈｅｎｇｌ；ＬｉｕＦａｎｇ＆ＸｉｅＱｉｎ（ＮａｔｉｏｎａｌＬａｂ．ｆｏｒＲａｄａｒＳｉｇｎａｌＰｒｏｃｅｓｓｉｎｇａｎ...     

遗传算法在神经网络控制中的应用与实现

比较了遗传算法与神经网络的特点，并对将遗传算法用于前向神经网络的可能性进行了研究，同时阐明了遗传算法和神经网络结合的必要性，提出了一种融合遗传算法的神经网络控制方法，该方法采用多层前向神经网络作为遗传搜索表示方式的思维，以神经网络为基础，用遗传算法 习神经网络的权系数，即保留了遗传算法的强全局随机搜索能力，又具有神经网络的鲁棒性和自学习能力，将遗传算法和神经网络相结合，分析了遗传算法基本参数及神经网络结构、隐层和输出层节点非线性函的选择，设计了用遗传算法学习神经网络权系数的软件实现方法，成功地实现了机械手逆运动学求解问题及倒立摆的控制，仿真结果显示了遗传算法快速学习神经络权系数的学习效率与收敛精度，确保了快速达到全局收敛，克服了多层前向神经网络传统的BP学习算法精度低、收敛速度慢、容易陷入局部极小的缺陷，表明了该方法的可行性与有效性。     

粗正交小波网络及其在交通流预测中的应用

基于交通流预测的特点和输入向量的主成分分析方法,把粗集理论与正交小波网络相结合,给出了一种基于粗集的正交小波网络交通预测模型,并成功应用于城市交通流的实时预测.粗正交小波网络具有极强的鲁棒性,可以有效克服季节、天气等随机因素对交通流量预测性能的影响;主成分分析方法解决了正交小波网络多维输入时的维数灾难.实验结果表明,该模型的预测精度和收敛速度明显优于常规BP网络和小波框架神经网络,对交通流量等预测问题具有较高的应用价值.     

AN INFORMATION THEORETICAL APPROACH TO NEURAL NETWORKS

The purpose of this paper is to present a unified theory of several differentneural networks that have been proposed for solving various computation, pattern recog-nition, imaging, optimization, and other problems. The functioning of these networks ischaracterized by Lyapunov energy functions. The relationship between the deterministicand stochastic neural networks is examined. The simulated annealing methods for findingthe global optimum of an objective function as well as their generalization by injectingnoise into deterministic neural networks are discussed. A statistical interpretation of thedynamic evolution of the different neural networks is presented. The problem of trainingdifferent neural networks is investigated in this general framework. It is shown how thisapproach can be used not only for analyzing various neural networks, but also for the choiceof the proper neural network for solving any given problem and the design of a trainingalgorithm for the particular neural network.     

基于改进递阶遗传算法的RBF神经网络分类器

针对通信信号调制类型识别,应用递阶遗传算法动态确定径向基神经网络分类器结构。建立了新的适应度函数,该函数简单直观,待定参数少;同时结合相关联赛选择方法对选择算子进行了改进,增加了种群进化的多样性,避免了早熟收敛。仿真结果表明改进算法能更好地确定分类器结构,分类准确率更高。     

基于RBF神经网络的分数阶混沌系统的同步

针对分数阶混沌系统的同步问题,提出一种基于径向基函数(Radial BasisFunction,RBF)神经网络的控制器。利用RBF神经网络对同步误差系统进行补偿控制,神经网络的权值可以在线调整,使得同步误差渐近收敛到零点。基于Lya-punov稳定性理论,分析了该控制器的稳定性。分别以分数阶Chen系统的同步和分数阶Liu系统的同步为例进行了数值仿真,仿真结果验证了所设计的控制器的有效性和鲁棒性。