基于多分辨率学习的正交基小波神经网络设计

提出一种基于正交基函数的小波神经网络设计方法，采用多分辨率学习确定隐含层结构，并用收敛较快的阻尼最小二乘法训练权值．该方法可灵活调整隐含层结构，有效地克服神经网络中常见的过拟合和泛化能力差等问题．传真结果表明该方法具有逼近精度高，泛化能力好，网络结构冗余度小，参数优化收敛快等特点．     

径向基概率神经网络的混合结构优化算法

使用递归正交最小二乘算法(ROLSA)优选径向基概率神经网络(RBPNN)的隐中心矢量，微遗传算法(μGA)用于求解RBPNN最优核函数控制参数，并同ROLSA相结合(ROLS-μGA)来优化RBPNN的全结构(优选最优控制参数及隐中心矢量)。实验结果表明，ROLS-μGA具有很好的优化效率，而且优化后的RBPNN的推广性能也没有下降。实验还验证了ROLS-μGA对径向基函数网络(RBFNN)也有很好的适用性。     

基于预测风险最小化的模型选择理论与方法研究

阐述基于预测风险最小化的模型选择问题，提出基于经验风险最小化原则的模型选择一致收敛性定理，解决有限样本下利用经验风险来最小化预测风险的问题，并分析模型选择欠学习或过学习问题的根源，给出一种模型选择的次优迭代算法。最后通过具体实例验证上述理论和方法的可行性和优越性。     

基于OLS算法的RBF神经网络高速公路事件探测

高速公路事件是指破坏正常交通流并造成交通阻塞的非重现随机发生的事件。事件发生后对其进行快速可靠的探测对减少交通延误、保障道路安全、减少环境污染具有十分重要的意义。文中提出了一种基于模糊聚类技术和RBF神经网络的混合智能高速公路事件自动探测算法，同时改进了用于RBF神经网络训练的OLS(正交最小二乘)选择算法。仿真实验证明，改进的OLS选择算法大大提高了RBF神经网络的训练速度，同时具有无须事先确定RBF中心的优点，将之运用于公路事件探测可以获得满意的性能。     

一种新的小波网络快速学习混合策略

针对传统的小波网络梯度学习算法易于陷入局部极值、收敛速度慢且对初始参数很敏感的缺点,将全局性能优越的差异进化(DE)算法和最小二乘算法(LS)有机的结合起来,提出了一种新的快速学习混合策略。该混合学习算法思想是将待训练参数分为非线性和线性两类,利用差异进化算法对小波网络非参数进行全局优化训练,而最小二乘法用于快速训练网络连接权值。非线性函数逼近实验表明,小波网络逼近性能要远优于传统的BP神经网络,相对于使用随机梯度学习算法的小波网络,提出的混合学习算法收敛速度更快,且具有更小的均方差。     

一种小波神经网络结构及其学习算法研究

基于仿射小波神经网络的逼近原理和结构设计问题 ,本文提出了一种新型小波神经网络结构 ,研究了其结构化设计方法和相应的学习算法 ,优化组合小波基元激励函数 ,实现了小波神经网络权系数的二次学习 ,避免了“维数灾”问题 ,改善了网络学习特性。计算机仿真结果表明 ,研究的小波神经网络结构及其学习算法简单有效 ,函数逼近更精确     

基于小波神经网络的自适应逆控制及其应用

神经网络控制特别适用于具有非线性和不确定性因素的系统。采用小波神经网络(WNN)对飞行仿真转台的直流伺服系统进行实时辨识,得到其逆模型。然后将这一训练后的网络作为前馈控制器与常规反馈控制器结合构成并行自适应逆控制器,控制转台跟踪指定的速度和位置轨线。仿真结果表明该方法的有效性。     

基于多值编码的混合遗传算法的小波神经网络优化

采用多值编码方式构造染色体结构，对小波神经网络的结构和参数进行编码，可以同时确定小波神经网络结构和优化网络参数，简化了问题的求解过程。在遗传算法中嵌入一个梯度下降算子，使得混合算法既有较快的收敛性，又能以较大概率得到全局极值。仿真表明，利用该算法训练小波神经网络，能使网络具有简单的结构形式，较快的收敛速度，较高的逼近精度和较强的泛化能力。     

模糊神经网络的混合学习算法及其软测量建模

提出了一阶TSK模糊神经网络的混合学习算法，算法由三部分组成：基于模糊聚类的网络初始化；基于梯度下降的规则前件的学习算法；基于部分最小二乘的规则后件的学习算法。该混合算法可以根据训练样本的分布自动确定模糊神经网络的初始值，当输入变量个数多时不会出现模糊规则数爆炸现象，训练速度快，模型精度高。将混合学习算法应用到PTA工业过程中4-CBA含量的软测量建模中，取得了令人满意的效果。     

基于小波与最小二乘正则化技术的图像超分辨方法

采用正则化技术与小波插值方法相结合，并利用最小二乘原理，研究一种图像的超分辨方法，数值实验表明，新方法具有高精度、高效率的特点。     

一种基于遗传算法的小波神经网

网络的优化学习是人工神经研究中的一个重要问题.将遗传算法全局性优化搜索和小波分析的时-频局部性特点相结合,本文提出了一种基于遗传算法学习的小波神经网络--遗传算法小波神经网络(WNNGA).三位异或问题和双螺旋问题的实验结果证明,遗传算法小波神经网络不仅继承了小波分析良好的局部性及其神经网络的学习和推广能力,而且具有遗传算法全局快速寻优的特点,是多层前向神经网络学习的一种理想算法.     

基于递归小波网络的直升机动力学模型研究

提出一种基于递归小波网络建立直升机动力学模型的方法,给出了模型结构并利用粒子群优化算法对小波网络权参数进行调整。这种网络模型利用内部状态反馈来描述系统的非线性动力学特性,不必事先确定系统模型的类别和阶次,直接建立操纵量与加速度、角速度等变量之间的对应关系,从而避免了建立复杂的气动系数、气动导数模型的过程。与传统的机理模型相比,该模型具有结构简单、并行解算程度高、运算速度快的特点。在某型直升机飞行模拟器中取得了良好的应用效果。     

Fuzzy Entropy Based Combined Learning Algorithm for Neural Networks

ＦｕｚｚｙＥｎｔｒｏｐｙＢａｓｅｄＣｏｍｂｉｎｅｄＬｅａｒｎｉｎｇＡｌｇｏｒｉｔｈｍｆｏｒＮｅｕｒａｌＮｅｔｗｏｒｋｓ￥ＭｉｎＹａｏ（Ｄｅｐｔ．ｏｆＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅ，ＨａｎｇｚｈｏｕＵｎｉｖｅｒｓｉｔｙ，Ｈａｎｇｚｈｏｕ３１００２８，Ｐ...     

基于信号流图的动态神经网络在线学习算法

复杂的链式规则求导计算是动态神经网络在线学习算法中梯度向量计算的主要瓶颈,针时这一问题,根据P.Campolucci等人提出的动态系统梯度信息信号流图分析方法,设计了动态神经网络的在线学习算法,该算法可以直接从网络的信号流图及其伴随流图中获取目标函数关于网络参数的梯度信息,从而简化了算法梯度向量的计算.为了确保算法的稳定,根据Lyapunov稳定性定理,提出并证明了可以保证算法收敛的自适应学习速率,并且学习速率容易获得.利用NARX神经网络对非线性动态系统在线辨识的仿真实例也表明了本算法的有效性.     

正交尺度小波网络在我国税收预测中的应用

提出一种用正交尺度函数代替RBF网络中的激活函数的小波网络,给出相应小波网络学习算法;并以我国1978~2001年的税收数据为样本进行税收模拟预测,预测结果表明,该模型预测误差低于普通BP网络。     

Distributed Parameter Neural Networks via Adaptive Wavelet

The paper outlines a new neural net (DPNN) for describing brain's action based on one-dimensional cable theory. While the traditional neural network system only finding its character involving time changing (as HNN, BP etc.), the model-DPNNs (distributed parameter neural networks) are not only the transmitted neurons of time variation, but also the functions of positions by the voltage u(x. I). With the neuroscientific relevance, some bionural features like intermittent conduction and dendritic spike are fixed well by DPNNs which considered as complicated and adaptive devices contract to the functional elementary units. To find the semi-analytical representation of DPNNs, adaptive wavelets are utilized as new microlocalization tools. While maintaining all advantages of wavelet function, the adaptive wavelet offers a viable alternative learning procedure to the orthogonal least squares method (OLS), Adaptive wavelet method develops a fairly general, low-cost multiscale method for neural net optimization.     

Volterra Feedforward Neural Networks:Theory and Algorithms

Ｖｏｌｔｅｒｒａ　Ｆｅｅｄｆｏｒｗａｒｄ　Ｎｅｕｒａｌ　Ｎｅｔｗｏｒｋｓ：　Ｔｈｅｏｒｙ　ａｎｄ　ＡｌｇｏｒｉｔｈｍｓＪｉａｏＬｉｃｈｅｎｇｌ；ＬｉｕＦａｎｇ＆ＸｉｅＱｉｎ（ＮａｔｉｏｎａｌＬａｂ．ｆｏｒＲａｄａｒＳｉｇｎａｌＰｒｏｃｅｓｓｉｎｇａｎ...     

基于连续时间系统仿真的神经网络学习算法

从连续时间动力学的角度,研究了多层前馈神经网络的学习问题.基于李雅普诺夫稳定性分析方法,建立了一种神经网络权重参数连续调整的学习算法,并基于连续时间系统仿真的思想,给出了一种算法实现的自适应策略.算法实现中,通过估计截断误差估计自动调整步长,几乎不需要人工确定任何参数,而且可以保证算法的稳定性及计算精度.最后,给出了两个典型的应用算例.