多维离散傅立叶变换神经网络函数逼近

利用多维离散傅立叶变换原理构造新颖的神经网络模型用于函数逼近,网络结构为分层前向网络。给出了网络的学习算法,网络的大部分权值都是固定的,只有输出层与最后隐层之间的权值需要调节。     

基于自组织选取中心的广义RBF神经网络学习算法

根据RBF网络要学习的3个参数:基函数的中心、方差和权值,提出了广义RBF网络自组织选取中心的学习算法.该算法首先学习隐层基函数的中心与方差,然后学习输出层权值,仿真结果表明了该算法的有效性.     

权值直接确定的三角型模糊前向神经网络

为了确定前向神经网络的网络结构,提出了一种基于采样数据的含单隐层神经元的模糊前向神经网络,反映了构造数据所蕴含的系统信息,其隐层神经元激励函数选择为三角型隶属函数和构造数据相应输出的乘积。该网络模型可以随采样数据的多少自主选择构造数据,自主设定隐层神经元,利用权值直接确定法得到网络最优权值。数值仿真实验表明,相比于现有文献的已有网络模型,模糊前向神经网络具有逼近精度高、网络结构可调、较好的预测性和实时性高的优点。     

过热汽温的模拟柔性神经网络直接自适应控制系统

提出一种模拟复合正交柔性神经网络,并应用于电厂过热汽温的直接自适应控制方法。模拟柔性神经网络被用作为过热汽温控制系统中的主、副调节器,以改善控制系统的动态性能。神经网络采用5层网络结构,网络隐层节点采用带参数的Sigmoid函数构成的Laguerre（拉盖尔）复合正交多项式。网络在学习过程中,输入层与隐层之间不用调整权值,仅连续调整输出层与隐层之间的权值和隐层中Sigmoid函数的参数,以提高网络的学习适应性。网络隐层节点（处理元）是复合正交多项式的展开项,展开项的多少决定着网络的学习速度和精度。通过对具有严重参数不确定性、扰动以及大迟延的电厂过热汽温被控对象进行仿真研究,结果表明控制系统的干扰和超调明显减小,在控制系统的动态性能上,所提控制方法优于常规控制方法。电厂过热汽温控制取得了令人满意的效果。     

一种基于综合目标函数的神经网络学习算法

为提高多层前向神经网络的学习速度和算法的稳定性,提出一种基于综合目标函数的改进学习算法.该算法在误差平方和目标函数中引入一个辅助约束项构成综合目标函数,并利用综合目标函数训练网络的输出层权值,采用牛顿法推导出训练输出层权值的递推公式.辅助约束项隐含有对网络输出平滑性的约束,提高了学习算法的稳定性.利用该算法对不同非线性函数生成的样本数据的学习结果表明,新算法的收敛速度、精度均优于Karayiannis等人的二阶学习算法.     

复杂系统辨识的网络初始化算法

针对用于非线性辨识的连续激发函数的神经网络 ,提出一种根据被测对象非线性特性设计网络初值的算法。这种方法分析了双曲函数 f(x) =tanh(x)敏感区分布和神经网络的灵敏度对网络输出的影响 ,根据样本 ,求出敏感区宽度 Gb,网络隐层权值与 Gb成反比 ,同时满足网络的第 K层权值小于 (K- 1 )权值。电动机非线性磁场的辨识表明这种初始化算法不仅使辨识精度有所提高 ,且加快了网络的收敛速度。     

小波神经网络用于非线性函数逼近的研究

神经网络具有良好的学习特性，而小波变换具有良好的时频局部化特性．将二者结合在一起构成小波神经网络，网络隐层采用morlet小波函数，输出层采用线性函数，使得该网络兼具神经网络和小波变换的优点．分别用小波网络和BP网络逼近一非线性函数，其结果表明，在相同的误差条件下，小波网络的收敛速度要远远快于一般的BP网络．     

基于综合目标函数的神经网络多新息辨识算法

为提高动态神经网络学习算法的辨识精度及抗噪性能,提出一种基于综合目标函数的多新息辨识算法。该算法基于多新息理论在最小均方误差目标函数中引入一辅助项构造综合目标函数,利用该目标函数进行网络输出层权值的训练,并采用牛顿法推导出输出层权值的递推计算公式。与已有二阶学习算法相比,新算法鲁棒性强,收敛速度快,辨识精度高。仿真结果验证了算法的有效性。     

一种新的RBF神经网络学习算法

本文提出一种改进的RBF神经网络学习算法,它利用减聚类算法确定隐层单元的数量,并用修剪的办法删除冗余单元,避免了传统的K聚类算法对隐层单元数量确定的盲目性。利用最小二乘法确定隐层和输出层之间的权值。在对非线性函数进行逼近的仿真中,验证了该算法的有效性。     

基于权值函数神经元的BP网络研究

研究了一种神经元模型,在该模型中将参数可调的激励函数往前移到权值上,即把权值变为参数可调的函数,这些权值函数的累加和作为神经元的输出.将此类神经元称为权值函数神经元,根据BP算法给出了由其构成的前馈神经网络的学习算法.仿真实验对比结果表明,在给定的误差精度要求下,基于权值函数神经元的BP神经网络每次训练都能收敛,且平均迭代步数较少,其收敛速度要优于传统BP网络,具有较好的研究应用价值.     

前向多层感知器网络的逐层学习算法

提出一种改进的前向多层网络逐层学习算法,隐层神经元的输出函数由具体系统的样本输出值确定,先让前面的隐层及输入层的权值确定不变,然后对当前层的权值进行,前一隐层输出值地误差进行估计以得到新的输出值,将其作为临时教师信号用来训练前一层的权值,把每一层权值的改变量和输出值误差的估计转变为最小二乘问题,逐层处理,直到输入层,数字仿真和具体应用的结果表明了算法的有效性。     

基于小波网络的永磁无刷直流电机无位置传感器控制

通过对永磁无刷直流电机的无位置传感器检测原理和小波网络特性的分析，提出了基于小波神经网络的永磁无刷直流电机无位置传感器控制新方法．该方法构建小波网络模型，采用梯度下降法对网络进行训练．网络训练分为离线训练和在线训练，由离线训练初步确定网络隐层节点的小波平移因子、尺度因子及网络输出层权值．以滤波和逻辑处理后的网络输出信号为教师对网络输出层连接权进行在线调整．从而由电机的相电流、端电压映射出电机的换相信号，取代了传统的位置传感器．最后仿真及实验结果表明，该方法能得到准确的永磁无刷直流电机的换相信号．     

线性与非线性输出单元相结合的神经网络

从神经网络的连接方式着手，扩展从隐含层到输出层的连接，提出了一种新的神经网络连接结构，在此基础上推导出了相应的学习算法．并通过对奇偶问题、非线性函数逼近问题、模式分类问题等的仿真，验证了所提出方法的有效性．实验结果表明，通过适当地调整线性输出与非线性输出的比例，所提出的算法具有训练速度快和正确识别率高的双重优点．     

基于组合神经网络的软件可靠性预测研究

为了进一步提高神经网络的预测能力,提出了一种前馈神经网络混合学习算法,并将其应用于组合神经网络.该算法由一种模式提取算法(Alopex)和伪逆算法组成.在该混合学习算法中,网络的学习任务被分解为2个部分:隐藏层的权值先随机给定,然后使用Alopex算法不断地对其进行扰动;输出层的权值使用伪逆算法确定.所使用的组合神经网络由多个结构相同的前馈神经网络组成,每个前馈神经网络都使用混合学习算法(采用不同的初值)进行训练.实验结果表明,这种组合神经网络能够显著提高软件可靠性的预测精度.     

多层人工神经网络合理结构的确定方法

隐层结构如何选择是多层人工神经网络应用中一个关键问题·基于多层神经网络优化算法原理和非线性方程理论,建立了多层神经网络计算输出和理想输出关系的非线性方程组,分析了权阈变量、标准样本数量和输出层单元数量的内在关系,给出隐层层数和每个隐层单元数量选取应该满足的基本条件·提出多层神经网络合理结构,即隐层层数和每个隐层单元数量选取的一般原则,给出隐层结构定量求解的直接计算方法和间接优化计算方法·对具体算例进行了合理结构分析,通过神经网络优化算法对多种结构组合比较,表明所提出的合理结构分析方法的正确性·这种方法将为多层神经网络在工程应用中如何选取合理结构提供理论依据和选取有效方法·     

基于改进遗传RBF神经网络的双电机驱动伺服系统控制

针对常规遗传算法的缺陷,提出了一种基于改进遗传算法和RBF神经网络相结合的控制方法.该方法对RBF神经网络的隐层中心值和宽度进行了优化,用递推最小二乘法训练隐层和输出层之间的权值.最后在双电机驱动伺服系统中进行了仿真试验,结果表明所提出的控制策略是有效的.     

基于单隐层前馈神经网络的优化算法

前馈神经网络是神经网络中最常用的函数近似技术。根据普适定理,单隐层前馈神经网络(a single-hidden layer feedforward neural network,SFNN)可以任意接近相应的期望输出。一些研究人员使用遗传算法(genetic algorithms,GAs)探索FNN结构的全局最优解。然而,使用GAs来训练SFNN是相当费时。提出了一种新的SFNN优化算法。该方法是基于凸组合算法(convex combination algorithm,CCA)在隐含层上分析信息数据。事实上,该技术是将分类遗传演算法结合交叉策略的GAs算法。改进方法比GAs算法性能更优,但在进行学习和遗传演算前需要大量预处理工作如将数据分解为二进制代码。同时设置一个新的误差函数量化SFNN性能、获得连接权值最优选项以直接解决非线性优化问题。采用几个计算实验验证改进算法,结果表明改进方法更适合寻找单隐含层SFNN的最优权重。     

基于人工免疫的RBF神经网络在钢筋性能预报中的应用

提出了一种基于免疫识别原理的径向基函数神经网络学习算法.该算法利用人工免疫系统的识别、记忆、学习等原理,将输入数据作为抗原,抗体为抗原的压缩映射作为径向基函数神经网络模型的隐层中心,输出采用最小二乘法确定权值.通过预报热轧带肋钢筋力学性能的仿真实验结果表明,与K-均值法选择中心点比较,该算法计算量较小,精度高.     

基于离散过程神经网络页岩油气储层有机碳含量预测

受地层岩性变化影响,传统方法进行有机碳含量(TOC)拟合预测精度偏低。为提高TOC拟合精度,减小普通神经网络对连续信号的时间累积误差,提出一种极限学习离散过程神经网络的TOC拟合预测模型。模型用向量模拟过程式输入,内部通过抛物插值的数值积分完成离散样本的时域聚合。通过对离散过程神经元的结构分析,提出极限学习训练算法,在隐层相关参数随机赋值后,通过Moore-Penrose广义逆求解输出权值,模型学习速度快。最后将该方法应用于TOC拟合预测,利用相关性分析,选取对TOC响应最敏感的测井曲线作为模型的特征输入。与传统方法和其他神经网络对比,该方法的拟合精度较高,预测TOC与实测值有更好的相关性。