多项式前向神经网络

提出了一种新型的前向神经网络模型-多项式神经网络。该网络具有三层结构,隐层、输出层神经元激活函数分别为：f(x)=x^p和线性函数,网络隐层-输出层的权值采取最速下降法学习,输入层-隐层的权值采用遗传算法进行学习;网络学习时,其误差函数单调递减,学习算法具有较好的收敛性;该网络能逼近任意的连续函数,且具有较好的稳定性,应用实例表明该网络的性能是优良的。     

复杂系统辨识的网络初始化算法

针对用于非线性辨识的连续激发函数的神经网络 ,提出一种根据被测对象非线性特性设计网络初值的算法。这种方法分析了双曲函数 f(x) =tanh(x)敏感区分布和神经网络的灵敏度对网络输出的影响 ,根据样本 ,求出敏感区宽度 Gb,网络隐层权值与 Gb成反比 ,同时满足网络的第 K层权值小于 (K- 1 )权值。电动机非线性磁场的辨识表明这种初始化算法不仅使辨识精度有所提高 ,且加快了网络的收敛速度。     

基于自组织选取中心的广义RBF神经网络学习算法

根据RBF网络要学习的3个参数:基函数的中心、方差和权值,提出了广义RBF网络自组织选取中心的学习算法.该算法首先学习隐层基函数的中心与方差,然后学习输出层权值,仿真结果表明了该算法的有效性.     

一种用于多类模式识别的综合感知器网络和学习算法

提出一种由感知器神经元组合成的综合网络模型及相应的学习算法,网络由3层感知器神经元组成,中间屋到输出层的权值相应地为＋1或－1,输入层到中间层的权值通过学习获得,且中间层每个神经元的权值单独学习完成,该学习算法在有限次迭代步骤内终止。当算法终止时,对于可线性发的多类模式识别问题总是能找到正确的解,如果还有模式不能识别,则说明这是一个不可线性划分的多类模式识别问题,用阿拉伯数字识别的例子说明了网络模型和算法的有效性。     

基于线性判别深度信念网络的人脸表情识别

深度信念网络在人脸表情识别领域表现出很好的性能,但由于其最后一个隐层与分类层之间的初始权值矩阵通常随机生成,这样的权值矩阵不具有判别能力,从而导致经该权值矩阵映射得到的特征不能保证适合于分类任务。为了解决此问题,提出一种新的深度信念网络结构——线性判别深度信念网络,其对传统线性判别分析法进行改进,设计了一个新的类间离散度矩阵,解决了传统线性判别分析法中存在的秩限问题;使用改进的线性判别分析法初始化深度信念网络最后一个隐层和分类层之间的权值矩阵,使网络更适合于分类任务。本文提出的线性判别深度信念网络在JAFFE和Extended Cohn-Kanade人脸表情数据库上分别得到了78.26%和94.48%的识别率。     

神经网络权值和阈值的优化方法

为确定多层神经网络权值和阈值建立了真实的最优化求解方法,即将网络总体平均误差建立为目标函数,以权值和阈值作为设计变量,采用梯度法和共轭梯度法对网络权值和阈值进行优化计算·通过 Ｂ Ｐ 算法、梯度法和共轭梯度法对相同实例网络权值和阈值计算,验证了所提出的优化方法的有效性,实现了权值和阈值的快速准确计算·     

神经网络权值和阈值的优化方法

为确定多层神经网络权值和阈值建立了真实的最优化求解方法,即将网络总体平均误差建立为目标函数,以权值和阈值作为设计变量,采用梯度法和共轭梯度法对网络权值和阈值进行优化计算·通过ＢＰ算法、梯度法和共轭梯度法对相同实例网络权值和阈值计算,验证了所提出的优化方法的有效性,实现了权值和阈值的快速准确计算·     

前向多层感知器网络的逐层学习算法

提出一种改进的前向多层网络逐层学习算法,隐层神经元的输出函数由具体系统的样本输出值确定,先让前面的隐层及输入层的权值确定不变,然后对当前层的权值进行,前一隐层输出值地误差进行估计以得到新的输出值,将其作为临时教师信号用来训练前一层的权值,把每一层权值的改变量和输出值误差的估计转变为最小二乘问题,逐层处理,直到输入层,数字仿真和具体应用的结果表明了算法的有效性。     

改进的小波神经网络及其Matlab仿真

针对小波神经网络存在的不足,对其结构进行改进：构造四层结构的小波网络,增加一层隐含层,并在这一层中将网络输入不同类型的参数进行分类综合.改进后的网络结构更具直观性和物理意义,且网络权值被大大精简,提高了网络的训练和收敛速度.     

基于Laguerre正交基神经网络的动态手势识别

提出一种基于Laguerre正交基前向神经网络的动态手势识别方法.首先根据多项式逼近和矩阵理论,构造了一种以Laguerre正交多项式作为隐含层神经元激励函数的多输入、多输出三层前向神经网络模型,在网络权值迭代计算公式基础上推出一种基于伪逆的直接计算网络权值方法,避免求取权值的反复迭代过程;提出一种快速的基于颜色的指尖...     

基于组合神经网络的软件可靠性预测研究

为了进一步提高神经网络的预测能力,提出了一种前馈神经网络混合学习算法,并将其应用于组合神经网络.该算法由一种模式提取算法(Alopex)和伪逆算法组成.在该混合学习算法中,网络的学习任务被分解为2个部分:隐藏层的权值先随机给定,然后使用Alopex算法不断地对其进行扰动;输出层的权值使用伪逆算法确定.所使用的组合神经网络由多个结构相同的前馈神经网络组成,每个前馈神经网络都使用混合学习算法(采用不同的初值)进行训练.实验结果表明,这种组合神经网络能够显著提高软件可靠性的预测精度.     

过热汽温的模拟柔性神经网络直接自适应控制系统

提出一种模拟复合正交柔性神经网络,并应用于电厂过热汽温的直接自适应控制方法。模拟柔性神经网络被用作为过热汽温控制系统中的主、副调节器,以改善控制系统的动态性能。神经网络采用5层网络结构,网络隐层节点采用带参数的Sigmoid函数构成的Laguerre（拉盖尔）复合正交多项式。网络在学习过程中,输入层与隐层之间不用调整权值,仅连续调整输出层与隐层之间的权值和隐层中Sigmoid函数的参数,以提高网络的学习适应性。网络隐层节点（处理元）是复合正交多项式的展开项,展开项的多少决定着网络的学习速度和精度。通过对具有严重参数不确定性、扰动以及大迟延的电厂过热汽温被控对象进行仿真研究,结果表明控制系统的干扰和超调明显减小,在控制系统的动态性能上,所提控制方法优于常规控制方法。电厂过热汽温控制取得了令人满意的效果。     

基于单隐层前馈神经网络的优化算法

前馈神经网络是神经网络中最常用的函数近似技术。根据普适定理,单隐层前馈神经网络(a single-hidden layer feedforward neural network,SFNN)可以任意接近相应的期望输出。一些研究人员使用遗传算法(genetic algorithms,GAs)探索FNN结构的全局最优解。然而,使用GAs来训练SFNN是相当费时。提出了一种新的SFNN优化算法。该方法是基于凸组合算法(convex combination algorithm,CCA)在隐含层上分析信息数据。事实上,该技术是将分类遗传演算法结合交叉策略的GAs算法。改进方法比GAs算法性能更优,但在进行学习和遗传演算前需要大量预处理工作如将数据分解为二进制代码。同时设置一个新的误差函数量化SFNN性能、获得连接权值最优选项以直接解决非线性优化问题。采用几个计算实验验证改进算法,结果表明改进方法更适合寻找单隐含层SFNN的最优权重。     

神经网络控制系统仿真

利用基于神经网络修正误差ＢＰ学习算法的多层网络和间接学习或专门学习的动态逆特性控制方法＾［１］编制的神经网络控制系统的仿真软件（ＳＣＳＢＮＮ），给出了调节时间和最大超调量与神经网络中间层节点数的关系曲线，同时给出了各种学习率和神经元作用函数增益的响应曲线。ＳＣＳＢＮＮ也可用于神经网络非线性控制系统。仿真结果说明神经网络非线性控制系统具有良好的控制性能。     

河网洪水预报径向基函数人工神经网络方法

讨论了神经网络在河网水流数值模拟中的运用现状,并基于河网水流数值计算模拟的特点,将径向基函数神经网络方法应用于复杂河网水流．模型采用混合学习算法,选用高斯核函数作为隐藏层基函数,充分发挥其表示形武筒单、径向对称、光滑性好和解析性好的优势,并采用k-均值聚类算法来确定径向基函数的参数,运用最小二乘法求解权值．建立了珠江三角洲河网的洪水预报模型,计算表明,预测结果与实测数据吻合较好,该模型具有运算速度快、简便易用且预报精度较高等特点．     

线性与非线性输出单元相结合的神经网络

从神经网络的连接方式着手，扩展从隐含层到输出层的连接，提出了一种新的神经网络连接结构，在此基础上推导出了相应的学习算法．并通过对奇偶问题、非线性函数逼近问题、模式分类问题等的仿真，验证了所提出方法的有效性．实验结果表明，通过适当地调整线性输出与非线性输出的比例，所提出的算法具有训练速度快和正确识别率高的双重优点．     

人工免疫的神经网络预报方法及其应用

针对RBF(radial basis function)神经网络在预测铁水含硅量中出现的预测精度低,收敛速度慢的问题,提出了一种基于免疫识别原理的径向基函数神经网络的学习算法.该算法利用人工免疫原理确定高斯基函数的中心和宽度参数,同时将所识别的数据作为抗原,抗体作为抗原的压缩映射并作为神经网络的隐层中心,利用递推最小二乘法(recursion least square, RLS)确定连接权值,提高了RBF神经网络的收敛速度和精度.应用该模型于某大型钢铁厂高炉铁水硅含量预报的实例中, 实验结果表明, 该模型具有更高的预测精度和更短的训练时间.     

基于参数优化的RBF神经网络结构设计算法

针对径向基函数(RBF)神经网络的结构优化问题,提出了一种基于参数优化的RBF神经网络优化算法.首先,改进K-means++算法,使得聚类算法更精确,为RBF神经网络的隐含层节点找到一个合适的初始中心;然后,考虑数据分布和缩放因子选择的影响,采用方差度量法计算隐含层神经元基函数的宽度;最后,修正网络参数,提高网络的非线性逼近能力.实验结果表明,本文提出的基于参数优化的RBF神经网络具有良好的逼近效果和泛化能力.     

一种基于油中溶解气体分析的变压器绝缘故障诊断新方法

将小波神经网络优良的分类诊断能力和最小二乘加权融合方法相结合,采用油气分析实现电力变压器的故障诊断.用非线性Morlet小波基作为神经网络激励函数,形成神经元,结合双方的优点,建立了紧致型小波神经网络.采用6个同一小波,其隐层单元数目、学习率等相关训练参数不同的单个子网络,对相同变压器故障信号样本进行训练,用最小二乘加权融合法对各个子网络的输出结果进行决策信息融合,通过对融合结果的分析,得到变压器故障的识别结果.测试结果表明,系统具有较好的分类诊断能力和可靠性.