一种新型δ函数神经元构成的神经网络及学习算法

本文提出一种新型δ函数神经元构成的三层前馈神经网络，其隐层中神经元采用δ变换函数而不是ｓｉｇｍｏｉｄ函数。学习算法不再采用误差反向传播（ＢＰ）算法，而是通过选定隐层与输入层之间的自由权来确定隐层与输出层间的待求权的直接算法完成学习。这种学习算法运算速度快，不存在局部极小和收敛速度慢的问题，只要隐层δ函数神经元个数等于样本对数量就一定能完成学习，这是传统ＢＰ算法不能比拟的。计算机仿真实例表明该算法是十分有效的。     

样条权函数神经网络的一种新型算法

针对前馈神经网络在数值插值领域的应用场合,提出了一种新型结构的神经网络及其训练算法。网络拓扑结构简单,网络训练所需的神经元个数与样本个数无关,可以简单地表示成输入、输出样本向量维数之积。算法只需训练1层权函数。训练后的权函数由三次样条函数构成,而不是传统方法(反向误差传播算法“BP”或径向基函数算法“RBF”)的常数。通过求解两组线性方程组,就可以确定具体三次样条权函数形式。不存在传统梯度下降类算法的局部极小、收敛速度慢、初值敏感性等问题。仿真实验说明此算法比传统算法(如BP、RBF)精度高、速度快。     

人工神经网络控制的Sigmoidal函数研究

本文针对前馈神经网络误差反向传播算法（ＢＰ）算法应用于控制系统收敛速度慢，神经元非线性处理函数选择难等问题，提出了自动寻找最优Ｓｉｇｍｏｉｄａｌ函数方法。与ＢＰ算法相比较，该方法不仅收敛速度快，而且学习次数和隐节点数减少。仿真计算结果表明，该方法应用于控制系统鲁棒性能好，提高了网络学习能力，改善了学习性能，在神经网络控制中有一定推广价值。     

带一类自适应非线性特性的变步长BP学习算法

针对前馈神经网络的反向传播(BP)学习算法收敛速度慢、易陷入局部最小等缺点,本文提出了在BP搜索进入误差代价函数曲率较小、收敛速度较慢处时,在变步长BP学习算法的基础上,引入一个非线性特性项,并将该特性项的强度系数构造为具有升温、降温策略控制的自适应非线性函数.仿真结果表明,该算法的收敛稳定、快速,具有较好的效果.     

基于Chebyshev基函数模糊神经网络的快速辨识方法

神经网络的非线性逼近能力的研究是神经网络成为辨识模型的理论基础。首先研究了基于正交多项式函数的神经网络逼近理论和方法,并在此基础上证明了新型Chebyshev神经网络具有良好的非线性并研究了它的全局最优逼近性质。然后提出了一种用于复杂非线性系统辨识的基于Chebyshev基函数的模糊神经网络模型和学习算法。该模型以Chebyshev基函数为隶属函数,规则后件采用输入变量的线性函数,无需调整隶属函数的参数,只是采用BP学习算法学习后件参数,因而大大减少了模型算法的计算量,学习算法简单,加快了学习收敛速度,而且不使网络结构复杂,设计简单。仿真结果表明所提模型和方法的有效性。     

一种非线性的BP学习算法

提出了一种非线性学习规则，以非线性函数th(x)取代传统学习算法中的线性函数x，来调整BP网络的连接权值和阈值。与传统的BP学习算法相比，其连接权值与阈值的调整量不仅与误差函数对连接权与阈值梯度的一次幂有关，而且也与梯度的高次幂有关。因此，克服了传统的BP学习算法过程中难以跳出局部极小值与收敛速度慢的缺点。模拟实验表明，该算法比传统的BP网络学习算法在学习时间和迭代次数方面都具有显著优势。     

微分器优化设计研究

提出了一种基于BP算法的正弦基函数神经网络模型 ,研究了该神经网络算法与线性相位微分器幅频特性的关系 ,证明了该神经网络算法的收敛性 ,给出了微分器的优化设计实例。与传统的雷米兹优化设计方法相比 ,提出的优化设计方法不需要计算矩阵的逆 ,因而解决了雷米兹优化设计方法求高阶矩阵逆的困难。计算机仿真结果表明了该算法模型的微分器的优化设计中不仅是有效的 ,而且是高效的     

跨越连接BP算法及其在卷烟制丝工艺中的应用

传统BP神经网络算法及其改进算法都是非完全全连接神经网络算法,具有收敛速度慢,泛化能力差等不足.通过对神经网络连接方式的转化,可以得到一种完全全连接神经网络--跨越连接神经网络,并给出了跨越连接BP神经网络算法.针对卷烟制丝工艺的仿真实验表明,该算法具备描述复杂数据的能力,与传统BP算法相比,网络训练收敛速度快且泛化能力强.     

遗传算法在神经网络控制中的应用与实现

比较了遗传算法与神经网络的特点,并对将遗传算法用于前向神经网络的可能性进行了研究,同时阐明了遗传算法和神经网络结合的必要性,提出了一种融合遗传算法的神经网络控制方法,该方法采用多层前向神经网络作为遗传搜索表示方式的思维,以神经网络为基础,用遗传算法 习神经网络的权系数,即保留了遗传算法的强全局随机搜索能力,又具有神经网络的鲁棒性和自学习能力,将遗传算法和神经网络相结合,分析了遗传算法基本参数及神经网络结构、隐层和输出层节点非线性函的选择,设计了用遗传算法学习神经网络权系数的软件实现方法,成功地实现了机械手逆运动学求解问题及倒立摆的控制,仿真结果显示了遗传算法快速学习神经络权系数的学习效率与收敛精度,确保了快速达到全局收敛,克服了多层前向神经网络传统的BP学习算法精度低、收敛速度慢、容易陷入局部极小的缺陷,表明了该方法的可行性与有效性。     

3型FIR滤波器优化设计研究

详细研究了3型FIR线性相位滤波器的幅频响应与正弦基函数神经网络算法之间的关系,提出并证明了该模型算法的收敛性定理,给出了3型FIR带通滤波器、海尔伯特变换器和微分器的优化设计实例。研究结果表明提出的算法避免了求高价逆矩阵的困难,有效解决了3型FIR高价数字滤波器优化设计的瓶颈问题。计算机仿真结果表明了正弦基函数神经网络算法在3型FIR高价数字滤波器优化设计领域中的有效性。     

FIR带阻滤波器优化设计研究

详细讨论了神经网络在FIR线性相位带阻滤波器中的应用.用神经网络方法设计的线性相位带阻滤波器,其幅频响应在通带与阻带范围均无过冲与波动现象,衰减特性好,在100dB以上.给出了FIR线性相位带阻滤波器的设计实例,计算结果表明,该算法在FIR线性相位滤波器设计中非常有效,具有优异性能.     

Learning algorithm and application of quantum BP neural networks based on universal quantum gates

A quantum BP neural networks model with learning algorithm is proposed. First, based on the universality of single qubit rotation gate and two-qubit controlled-NOT gate, a quantum neuron model is constructed, which is composed of input, phase rotation, aggregation, reversal rotation and output. In this model, the input is described by qubits, and the output is given by the probability of the state in which （1） is observed. The phase rotation and the reversal rotation are performed by the universal quantum gates. Secondly, the quantum BP neural networks model is constructed, in which the output layer and the hide layer are quantum neurons. With the application of the gradient descent algorithm, a learning algorithm of the model is proposed, and the continuity of the model is proved. It is shown that this model and algorithm are superior to the conventional BP networks in three aspects： convergence speed, convergence rate and robustness, by two application examples of pattern recognition and function approximation.     

前馈神经网络的一种连续型学习算法

本文给出前馈神经网络的一种连续型学习算法，对传统的ＢＰ算法作了改进。分析了该算法的收敛性。通过实例与传统ＢＰ算法进行比较，该算法可以明显提高网络的收敛速度，说明它是一种实用的学习算法。     

BP神经网络算法的改进

本文分析了ＢＰ算法所面临的问题，给出了一种改进算法，说明了它们的原理和应用环境，将它们与传统的ＢＰ算法作了比较，并通过一实例验证：应用改进算法可以大幅度地提高ＢＰ神经网络的学习速度，这对ＢＰ神经网络的应用有较大实际意义。     

基于卡尔曼滤波的二次型神经网络学习算法及收敛性分析

提出了二次型多层前馈神经网络的卡尔曼滤波学习算法,并证明了该算法的收敛性。与文献［２,３］中的学习算法和经典的误差反向传播学习算法相比,新的学习算法具有更快的学习速度、良好的泛化能力,并且对学习率有很好的鲁棒性,不容易陷入局部极小点。仿真实验结果表明了新算法的有效性。     

基于模糊推理的自适应BP算法

ＢＰ网络是迄今为止应用最广泛的一种神经网络，但这种算法也存在着收敛速度慢、容易陷入局部极小点等问题．本文在标准ＢＰ算法的基础上提出一种改进ＢＰ算法，称之为自适应ＢＰ算法．这种自适应ＢＰ算法采用模糊规则动态调整学习参数，并且能在学习过程中和学习完成后通过隐节点调整算法优化网络结构，有比标准ＢＰ算法更好的收敛性和更好的泛化能力