基于Chebyshev基函数模糊神经网络的快速辨识方法

神经网络的非线性逼近能力的研究是神经网络成为辨识模型的理论基础。首先研究了基于正交多项式函数的神经网络逼近理论和方法,并在此基础上证明了新型Chebyshev神经网络具有良好的非线性并研究了它的全局最优逼近性质。然后提出了一种用于复杂非线性系统辨识的基于Chebyshev基函数的模糊神经网络模型和学习算法。该模型以Chebyshev基函数为隶属函数,规则后件采用输入变量的线性函数,无需调整隶属函数的参数,只是采用BP学习算法学习后件参数,因而大大减少了模型算法的计算量,学习算法简单,加快了学习收敛速度,而且不使网络结构复杂,设计简单。仿真结果表明所提模型和方法的有效性。     

改进的PSO算法及其在软测量建模中的应用

通过大量仿真实验,考察了粒子群算法(PSo)中粒子平均速度和算法收敛性之间的关系,提出了一种基于粒子速度反馈信息的自适应调整权重策略,同时在搜索过程中引入混沌序列.给出的收敛性分析证明,该算法可以以概率1收敛到全局最优解.对经典函数的测试计算表明,改进后的PSO算法较好地解决了基本粒子群算法中易陷入局部最优的缺点,在稳定性和收敛精度上均优于普通的PSO算法.改进的粒子群算法被用于优化神经网络的结构和参数,并将基于改进算法的神经网络用于4cBA软测量建模中.实际应用表明,与基于其它智能算法的神经网络相比,该网络不仅有较高的泛化性能,而且有更快的学习速度和较好的实时性.     

样条权函数神经网络的一种新型算法

针对前馈神经网络在数值插值领域的应用场合,提出了一种新型结构的神经网络及其训练算法。网络拓扑结构简单,网络训练所需的神经元个数与样本个数无关,可以简单地表示成输入、输出样本向量维数之积。算法只需训练1层权函数。训练后的权函数由三次样条函数构成,而不是传统方法(反向误差传播算法“BP”或径向基函数算法“RBF”)的常数。通过求解两组线性方程组,就可以确定具体三次样条权函数形式。不存在传统梯度下降类算法的局部极小、收敛速度慢、初值敏感性等问题。仿真实验说明此算法比传统算法(如BP、RBF)精度高、速度快。     

过程神经元网络学习算法中的积分方法分析

过程神经元网络常采用基于正交基展开的学习算法,以简化积分运算.分析对比了基于正交基展开和基于梯形公式两种不同积分方法,提出并证明了网络结构一定时,两种方法可以使网络达到相同的误差精度,并推论出积分运算方法不影响网络训练所能达到的误差精度.两种方法具有不同的适用情况,连续函数输入适合采用正交基展开法,在网络输入为离散等距采样点时,基于梯形公式的方法能够在不影响网络原始输入数据的前提下简化运算,避免了由原始数据构造拟合曲线或平滑插值,再进行正交基展开的过程.     

一种非线性的BP学习算法

提出了一种非线性学习规则，以非线性函数th(x)取代传统学习算法中的线性函数x，来调整BP网络的连接权值和阈值。与传统的BP学习算法相比，其连接权值与阈值的调整量不仅与误差函数对连接权与阈值梯度的一次幂有关，而且也与梯度的高次幂有关。因此，克服了传统的BP学习算法过程中难以跳出局部极小值与收敛速度慢的缺点。模拟实验表明，该算法比传统的BP网络学习算法在学习时间和迭代次数方面都具有显著优势。     

大数据中面向乱序数据的改进型BP算法

针对大数据中的乱序数据缺少关联规则的问题，提出了一种动态调整的改进型BP 算法，运用了动态自适应结构调整机制，根据环境要求自适应调整网络训练结构，自动删除无效训练神经元，优化迭代训练过程；并在网络学习过程中动态调整网络参数中的三因子，即动量因子、权学习指数、阈学习指数，来达到加快学习响应速度、增强网络稳定性的目的. 仿真结果表明，通过动态自适应调整结构、动态调整三因子的改进型算法，能够获得更多的收敛次数，并能有效地提高收敛率，进而提高整体网络性能.     

一种新的小波网络快速学习混合策略

针对传统的小波网络梯度学习算法易于陷入局部极值、收敛速度慢且对初始参数很敏感的缺点,将全局性能优越的差异进化(DE)算法和最小二乘算法(LS)有机的结合起来,提出了一种新的快速学习混合策略。该混合学习算法思想是将待训练参数分为非线性和线性两类,利用差异进化算法对小波网络非参数进行全局优化训练,而最小二乘法用于快速训练网络连接权值。非线性函数逼近实验表明,小波网络逼近性能要远优于传统的BP神经网络,相对于使用随机梯度学习算法的小波网络,提出的混合学习算法收敛速度更快,且具有更小的均方差。     

基于模糊推理的自适应BP算法

ＢＰ网络是迄今为止应用最广泛的一种神经网络，但这种算法也存在着收敛速度慢、容易陷入局部极小点等问题．本文在标准ＢＰ算法的基础上提出一种改进ＢＰ算法，称之为自适应ＢＰ算法．这种自适应ＢＰ算法采用模糊规则动态调整学习参数，并且能在学习过程中和学习完成后通过隐节点调整算法优化网络结构，有比标准ＢＰ算法更好的收敛性和更好的泛化能力     

对学习样本无误分类的对数型目标函数BP算法

提出了一种对学习样本无误分类的改进ＢＰ学习算法。该算法采用对数型目标函数，可以减少每次迭代的计算量。同时将输出节点分为正确分类节点和误分类节点两类。对于误分类节点，将其误差项加入到目标函数中，然后采用梯度下降算法进行学习。在学习过程中，对学习率μ（ｋ）采用动态优化确定方法，以加快算法收敛速度。为保证收敛后的网络对学习样本能够正确分类，算法终止条件要求对所有输入样本，无误分类输出节点。算例仿真表明了算法的有效性。     

一种前馈过程神经元网络初始化方法及改进学习算法

分析了前馈过程神经元网络初始化对其训练速度的影响.提出了一种前馈过程神经元网络初始化方法,该方法将阈值初始化为时间积分运算的均值,可消除网络初始化不当的影响.提出了改进的网络学习算法,采用与初始化相似的方法修正阈值,可加快前馈过程神经元网络的训练速度.以时变信号分类为例,仿真验证了初始化方法及改进学习算法的正确性和有效性.     

改进免疫算法在预测过程神经网络中的应用

基于过程神经网络（procedure neural network, PNN）建立了具有高精确度的多步预测模型。针对PNN训练过程复杂的特点,提出了一种基于正交基函数展开和矢量矩免疫算法(vector distance based immune algorithm, VD-IA)相结合的PNN训练方法。根据PNN在三角函数正交基展开形式下的数学模型,推导出适用于VD-IA的优化问题模型,采用一种自适应策略加快了VD IA的收敛速度。基于Mackey-Glass混沌序列检验了该方法的有效性,将该方法与BP训练方法、改进粒子群优化（improved particle swarm optimization, IPSO）算法进行了对比分析。仿真结果表明,基于VD-IA的PNN训练方法可以获得较优的结果,且获得泛化性能较好的PNN模型。     

基扩展模型下基于LSTM神经网络的时变信道预测方法

针对高速移动正交频分复用系统, 提出了一种基扩展模型(basis expansion model, BEM)下基于长短期记忆(long short-term memory, LSTM)神经网络的时变信道预测方法。为了降低传统BEM的建模误差, 根据高速移动环境中不同列车在相同位置处的无线信道具有强相关性的特点, 首先基于历史时刻的信道状态信息获取最优的基函数, 并利用该基函数对信道进行建模。然后, 通过LSTM神经网络对信道基系数进行线下训练与线上预测来获取未来时刻信道信息, 大大降低了计算复杂度。在线下训练中, 将网络的逼近目标设置为信道估计值, 而不是理想的信道信息, 以增强预测模型的实用性。仿真结果表明, 相比现有方法, 新方法的计算复杂度较低, 且预测精度较高。     

河流水质的预测模型研究

东江惠州－东岸段河流水质直接影响着香港和深圳的淡水供应质量。本文根据东江水质自动监测系统的分布情况,提出了由上游水质预测下游水质和当前水质预测未来水质的两种基于自适应神经网络的东江惠州－东岸段水质预测建模方法,给出了基于正交多项式基的神经网络静、动态学习算法,在学习过程中可同时确定网络的拓扑结构和相应的正交多项式基,且无局部极值问题。仿真结果证明了该方法具有较高的预测7精度,且方法简便、适用对象广泛。     

基于正交试验法的神经网络优化设计

运用正交试验法,以三层前向型神经网络为例,对神经网络的训练样本、权值和阀值、训练参数的选择进行分析和研究。在此基础上,提出一种基于正交试验法的神经网络优化设计方法。研究结果表明,正交试验法对于神经网络模型的确定具有很好的效果,是一种既直观易行又客观科学的方法。     

基于神经网络方法的大型电网短期负荷预报

电力系统负荷预报研究现状,介绍了神经网络方法应用于电力系统短期负荷预报的可行性及存在的问题。详细讨论了应用BP神经网络、共轭梯度算法改进BP神经网络方法进行电力系统短期负荷预报的算法,及在预报过程中对电网负荷数据进行预处理方法。分别应用二种方法对东北电力系统进行了72小时短期负荷预报仿真。仿真结果表明,BP神经网络训练时间长,预报精度低;而共轭梯度算法改进BP神经网络算法训练步数大大减小,缩短了网络训练时间,而且提高了预报精度。该方法可行,可用于电力系统短期负荷在线预报。     

基于数值积分的离散过程神经网络算法及应用

为解决离散过程神经网络的训练问题,提出了两种基于数值积分的离散过程神经网络训练算法.分别采用三次样条积分和抛物插值积分直接处理离散样本和权值的时域聚合运算,采用梯度下降法实现网络参数的调整.以漫湾水电站的月径流数据预报为例,实验结果表明,两种算法性能接近,均优于基于正交基展开的过程神经网络.     

径向基神经网络解决威胁排序问题

在空战威胁估计中,把一架战机的态势量化为一个向量,每一个决策因素为一个分量。确定各因素之间的相对重要程度,是合成综合威胁指数,完成威胁排序的关键。本文使用径向基神经网络确定各个因素之间的非线性复杂关系。使用层次分析法生成初始的(战机态势量化向量、综合威胁指数)训练样本对。然后使用样本校正器对不合理的样本对自动进行校正。调整后的综合威胁指数,作为最终的学习样本的目标值,以供径向基神经网络训练使用。实验表明,径向基神经网络可以很好的逼近各个因素之间的权重关系。     

混沌时间序列的混合遗传神经网络预测方法

在相空间重构理论的基础上,将改进的遗传算法和神经网络结合起来,提出了一种混合遗传神经网络预测混沌时问序列的方法.通过复相关法和Cao方法重构混沌时间序列,利用改进的遗传算法优化神经网络的结构、初始权值和阚值,然后训练神经网络求得最优解.该算法应用到混沌时间序列的预测中,验证了该算法的有效性,并与BP和RBF算法的预测精度进行了比较,仿真结果表明该算法对混沌时间序列具有更好的非线性拟合能力和更高的预测精度.     

基于UKF神经网络的姿态测量信息融合算法

针对融合系统建模误差、噪声统计特性不精确性和环境的动态变化性致使传统联合滤波过程中融合权值难以确定,引入人工智能中的神经网络,提出了基于神经网络的多信息自适应智能估计融合算法研究;利用神经网络的自适应能力对状态估计融合结果进行实时辅助补偿和修正,将非线性最优估计与神经网络技术相结合,重点研究了基于UKF的神经元融合权重在线自适应学习算法,以便在缺少准确局部子滤波器协方差信息情况下,仍能使全局估计融合结果最优,从理论上证明了UKF学习算法优于传统EKF学习方法,并以卫星多姿态测量信息融合定姿系统为例,给出了计算实例和结论分析,表明了所提出的模型与算法在实际应用中的有效性。

Abstract：

The fusion weight of traditional Federal Kalman Filter is difficult to be determined because of the fusion system modeling error,the inaccuracy of noise statistic characteristics as well as the dynamic variability in the fusion filtering process.In order to solve this problem,a self-adaptive fusion estimation algorithm for multi-information measurement based on neural networks was presented,which used the self-adaptive ability of neural networks to make real-time compensation and amendment for the state fusion estimation results.Combining a nonlinear optimal estimation with neural network,an online adaptive training algorithm for the weights of neuron based on Unscented Kalman filter （UKF） was researched,which could still realize the optimal fusion for the global estimation even if the accurate covariance information of each local sub-filter were absent.The performances of UKF training algorithm and the traditional EKF algorithm were analyzed and compared,and moreover taking the multi-information fusion system for satellite attitude determination as the experimental example,the simulation calculation and analysis were advanced,which show that the presented models and algorithms are effective in the actual application.     

基于递阶遗传算法和BP网络的时间序列预测

提出一种基于递阶遗传算法和BP神经网络的时间序列预测模型。现有的BP训练方法只能训练BP网络的权重,网络的结构得预先用某种方法确定。利用很好设计的递阶遗传算法能够把网络的结构和权重同时通过训练确定。以铁路客运市场数据进行训练和测试,与传统的BP网络预测模型相比较,结果证明该模型的预测精确度是令人满意的,所提出的方法是可行的。