一种复值可分离的泛函网络学习算法

泛函网络是最近提出的一种对神经网络的一般化推广。与神经网络不同,它处理的只是一般的实值泛函模型,针对该问题,将实值泛函神经元推广到复值泛函神经元,再对复值泛函神经元的结构作了变形,提出了一种复值泛函网络新模型,给出了基于梯度下降法的复值可分离泛函网络学习算法。采用复分析的方法,利用单一泛函神经元模型,借助于正交边界和实步长函数概念求解复值XOR分类问题。通过理论分析可看出,相比复值神经网络,用复值泛函网络解决问题具有很强的计算能力。     

基于泛函网络的多维函数逼近理论及学习算法

提出一种多维函数逼近的泛函网络逼近方法,设计了一类用于函数逼近的可分离泛函网络,给出了基于泛函网络的函数逼近学习算法。而泛函网络的参数通过解方程组得到,它们能逼近给定函数到预定的精度。仿真结果表明,这种逼近方法简单可行,具有较快的收敛速度和良好的逼近性能。     

正交尺度小波网络在我国税收预测中的应用

提出一种用正交尺度函数代替RBF网络中的激活函数的小波网络,给出相应小波网络学习算法;并以我国1978~2001年的税收数据为样本进行税收模拟预测,预测结果表明,该模型预测误差低于普通BP网络。     

信息不完备小样本条件下离散DBN参数学习

针对信息不完备小样本条件下离散动态贝叶斯网络参数学习问题,提出约束递归学习算法。该方法通过前向算法建立含有隐藏变量的离散动态贝叶斯网络参数递归估计模型,以当前时刻网络参数为变量,构建均匀分布表示的先验参数约束模型。在此基础上利用优化算法获得近似的Beta分布,将该分布下的先验参数信息加入递归估计模型中完成参数学习。通过无人机动态威胁评估模型验证了该方法的有效性和精确性。     

基于泛函网络的组合推荐算法

在研究组合算法的基础上，提出一种基于泛函网络实现前融合推荐算法. 探讨Vague集条件下推荐算法的前融合问题，给出了基于泛函网络构架实现前融合组合推荐算法的一般过程. 通过推荐系统泛函拓朴结构的建立，利用泛函神经元的自学习、自组织和自适应能力，进一步优化推荐结果，较大地提高了系统的推荐准确度. 最后，将算法应用于Movielens推荐系统中，计算机仿真实验结果表明，本文提出的基于泛函网络实现前融合推荐算法是有效的、可靠的.     

非线性系统辨识的一种泛函网络方法

泛函网络是最近提出的一种对神经网络的有效推广.与神经网络不同,它处理的是一般的泛函模型,而不仅仅是Sigmoidal函数,并且在各个处理单元之间没有权值.提出了一种基于泛函网络的非线性系统的辨识方法,而网络参数利用梯度下降方法来进行学习.计算机仿真结果表明,这种辨识方法具有较快的收敛速度和良好的性能.     

自适应T-S型模糊径向基函数网络

针对T-S型模糊推理系统的模型参数辨识问题,充分利用模糊推理系统的可理解性与神经网络的学习能力,提出一种自适应T-S型模糊径向基函数网络。为设计满足精度要求的最小结构神经网络,在对网络学习动态进行分析的基础上,给出了网络拓扑结构的动态构造学习算法。在不需要任何先验知识的情况下,能够根据任务复杂度和学习进度进行网络隐层节点的自适应增加、合并和删除操作。将该网络应用于非线性函数逼近问题,取得较好的效果。     

目标数据缺失下离散动态贝叶斯网络的参数学习

离散动态贝叶斯网络参数学习的难点在于:隐藏节点的片间转移概率获得及观测数据发生不同程度缺失。针对上述问题,提出基于目标缺失数据估计的前向递归参数学习算法。该算法利用离散动态贝叶斯网络中各观测变量与隐藏变量之间的对应关系,采用支持向量机建立观测变量间的非线性函数关系完成缺失数据估计,此基础上利用完整数据集和前向递归算法完成片内和片间参数更新。以空中目标识别为仿真背景,通过与期望最大算法对比,验证了该算法的学习效率和精度两个方面的优势。     

基于模糊聚类与非线性最小二乘法的径向基网络设计

针对径向基网络构造的关键，径向基函数中心位置的合理选取，利用改进的模糊聚类法给出了径向基网络中心的选择算法，并在此基础上结合非线性最小二乘法，提出了一种新的网络递推学习算法，这种学习算法充分利用径向基网络的二次信息，迭代地确定径向基函数的中心位置和 网络的权系数。通过运用于泵站特性曲面的拟合，证明了该算法的行之有效的。     

正交小波网络及其在经济预测中的应用

依据多分辨分析和正交小波分解理论,建立由正交小波函数和正交尺度函数共同作为神经网络的激励函数的正交小波网络,并充分利用二者互补的特性,给出正交小波网络的分层、递阶学习算法,这使得正交小波网络在逼近函数的过程中不存在局部最小的问题,而且可以建立网络结构与逼近精度之间的明确关系;建立了我国人口预测的正交小波网络模型并验证了模型的实际有效性.     

基于深度自编码器的电力能耗异常检测方法

针对电力能耗数据的非线性和不平稳特征,提出了一种基于深度自编码器的电力能耗异常检测模型。将深度学习的门控循环单元网络和自编码器结构相结合,通过传统自编码器的编码器和解码器部分采用门控循环单元网络来实现,充分发挥门控循环单元的数据特征提取能力和自编码器结构的数据重构功能。根据原始数据和重构数据之间的重构误差来检测电力能耗异常数据点。将所提方法应用于实际的车间电力能耗数据集,结果表明：所提方法能够对电力能耗数据进行异常点检测,检测效果良好。     

AN INTELLIGENT CONTROL SYSTEM BASED ONRECURRENT NEURAL FUZZY NETWORK AND ITS APPLICATION TO CSTR

In this paper, an intelligent control system based on recurrent neural fuzzy network is presented for complex, uncertain and nonlinear processes, in which a recurrent neural fuzzy network is used as controller (RNFNC) to control a process adaptively and a recurrent neural network based on recursive predictive error algorithm (RNNM) is utilized to estimate the gradient information ρy/ρu for optimizing the parameters of controller.Compared with many neural fuzzy control systems, it uses recurrent neural network to realize the fuzzy controller. Moreover, recursive predictive error algorithm (RPE) is im-plemented to construct RNNM on line. Lastly, in order to evaluate the performance of the proposed control system, the presented control system is applied to continuously stirred tank reactor (CSTR). Simulation comparisons, based on control effect and output error,with general fuzzy controller and feed-forward neural fuzzy network controller (FNFNC),are conducted. In addition, the rates of convergence of RNNM respectively using RPE algorithm and gradient learning algorithm are also compared. The results show that the proposed control system is better for controlling uncertain and nonlinear processes.     

基于RBFLN网络的改进RBF神经网络学习算法

提出了一种基于径向基链网络（RBFLN）的改进径向基函数（RBF）网络学习算法．网络结构采用RB—FLN模型,添加输入层对输出层的线性映射,在训练过程中基于最大误差学习样本对资源分配网络（RAN）新性条件进行改动,在不满足新性条件时,采用相似度参数对隐层中心和宽度进行调整;而满足新性条件时,对新增隐层节点也通过类均值的方法做出相应的改进．最后通过对无机建筑材料成分分析的仿真表明该算法可有效地简化网络结构,实现样本正确分类,并获得较好的校验能力．     

基于模糊神经网络的动态非线性系统辨识研究

针对静态模糊神经网络对动态系统辨识精度低的特点,在5层静态模糊神经网络基础上进行了优化和改进,形成了可将暂态信息记忆于网络的动态回归层的动态模糊神经网络,来提高对动态系统的辨识能力。同时给出了参数的动态自适应学习算法。通过仿真实验,证明提出的动态模糊神经网络对动态非线性系统的辨识,可以取得较好的辨识精度,较快的网络收敛速度,为动态非线性系统的辨识提供新的思路。     

基于动态神经网络的PID参数整定与实时控制

提出了一种基于对角回归神经网络的PID控制器结构,给出了PID参数在线自整定的学习控制算法。为检验控制效果同时还使用了静态BP网络来整定PID参数,并在Matlab环境下,分别建立了基于对角回归神经网络和BP网络的液位实时控制系统。实际的控制效果说明,基于动态网络的PID控制器工作稳定,具有较好的鲁棒性。     

一种新的小波网络快速学习混合策略

针对传统的小波网络梯度学习算法易于陷入局部极值、收敛速度慢且对初始参数很敏感的缺点,将全局性能优越的差异进化(DE)算法和最小二乘算法(LS)有机的结合起来,提出了一种新的快速学习混合策略。该混合学习算法思想是将待训练参数分为非线性和线性两类,利用差异进化算法对小波网络非参数进行全局优化训练,而最小二乘法用于快速训练网络连接权值。非线性函数逼近实验表明,小波网络逼近性能要远优于传统的BP神经网络,相对于使用随机梯度学习算法的小波网络,提出的混合学习算法收敛速度更快,且具有更小的均方差。     

一种小波神经网络结构及其学习算法研究

基于仿射小波神经网络的逼近原理和结构设计问题 ,本文提出了一种新型小波神经网络结构 ,研究了其结构化设计方法和相应的学习算法 ,优化组合小波基元激励函数 ,实现了小波神经网络权系数的二次学习 ,避免了“维数灾”问题 ,改善了网络学习特性。计算机仿真结果表明 ,研究的小波神经网络结构及其学习算法简单有效 ,函数逼近更精确     

准对角递归神经网络及其算法的研究

提出一种准对角递归神经网络(QDRNN)结构及学习算法。此QDRNN结构上与对角递归神经网络(DRNN)相似，保留了DRNN结构简单的优点，以减小计算量，同时增加了相邻递归神经元之间的关联，可以直接应用BP学习算法进行训练。进一步，引入递推预报误差(RPE)学习算法，并且证明了其稳定性。仿真结果表明，QDRNN比DRNN具有更好的非线性逼近能力，而运算时间却增加甚微，DRNN的学习算法稍加变化即可应用。     

混沌量子粒子群的权重类条件贝叶斯网络分类器参数学习

针对贝叶斯网络判别学习方法在处理大数据集时,存在的模型训练时间长、算法迭代次数过多等问题,通过引入指数级参数,提出了混沌量子粒子群的权重类条件贝叶斯网络参数学习方法。该方法首先通过优化对数似然函数,解决生成学习的参数估计问题。然后,使用生成学习的结果,初始化判别学习的参数。最后,引入混沌映射序列,通过混沌量子粒子群优化(chaos quantum particle swarm optimization, CQPSO)算法,优化条件对数似然函数。使用权重类条件贝叶斯网络分类器对液体火箭发动机的故障进行分类,仿真结果表明,改进的方法分类精度高,误分类率低。同时,采用CQPSO与量子粒子群优化(quantum particle swarm optimization, QPSO)算法、标准粒子群优化(particle swarm optimization, PSO)算法相比,能够有效减少算法的迭代次数,提高算法的效率。     

基于残差生成对抗网络的调制识别算法

针对小样本条件下通信信号识别准确率不高、网络训练困难的问题, 本文提出一种基于残差生成对抗网络的调制识别算法。首先, 设计一种以Leakyrelu作为隐藏层激活函数的新残差单元, 使得网络对输入为负值的数据也可以进行梯度计算; 然后, 将新残差单元组成的残差网络和卷积神经网络作为本文算法的基本网络结构, 使用卷积步幅为1的非对称小卷积核, 更好地提取信号的边缘特征信息; 最后, 用Dropout代替池化操作, 并选择Adam梯度优化算法以交替迭代方式完成网络训练。仿真实验结果表明, 小样本条件下, 残差生成对抗网络算法复杂度明显降低, 信噪比(signal to noise ratio, SNR)在0 dB以上时, 对10种调制信号的识别准确率可以达到91%, 验证了所提方法的有效性。