基于免疫算法的前向神经网络学习方法

提出了一种采用免疫算法训练多层前向神经网络的方法。该方法利用免疫算法训练前向神经网络,能够使网络优化过程趋于全局最优。利用基于遗传策略的聚类机制确定前向神经网络的初始权值,增加了网络训练算法收敛于全局最优的概率。将这种神经网络用于雷达模拟调制信号的调制方式识别的仿真结果表明,采用该算法设计的前向神经网络达到了较高的性能。     

遗传算法在神经网络控制中的应用与实现

比较了遗传算法与神经网络的特点,并对将遗传算法用于前向神经网络的可能性进行了研究,同时阐明了遗传算法和神经网络结合的必要性,提出了一种融合遗传算法的神经网络控制方法,该方法采用多层前向神经网络作为遗传搜索表示方式的思维,以神经网络为基础,用遗传算法 习神经网络的权系数,即保留了遗传算法的强全局随机搜索能力,又具有神经网络的鲁棒性和自学习能力,将遗传算法和神经网络相结合,分析了遗传算法基本参数及神经网络结构、隐层和输出层节点非线性函的选择,设计了用遗传算法学习神经网络权系数的软件实现方法,成功地实现了机械手逆运动学求解问题及倒立摆的控制,仿真结果显示了遗传算法快速学习神经络权系数的学习效率与收敛精度,确保了快速达到全局收敛,克服了多层前向神经网络传统的BP学习算法精度低、收敛速度慢、容易陷入局部极小的缺陷,表明了该方法的可行性与有效性。     

实行计划生育人口复杂巨系统的数学模型

将神经网络理论应用住宅建筑的主要工料消耗计算 ,建立了应用 BP算法的多层前馈神经网络模型 .计算实例表明 ,用神经网络估算住宅建筑工料消耗是非常有效的 ,借助该模型可实现主要工料消耗的快速估算 .     

一种优化计算确定神经网络结构的方法

对于一个具体的多层前向神经网络设计问题,网络的输入输出以及标准样本数为已知,网络的隐层结构,即隐层层数和每个隐层神经元个数如何选择是神经网络设计中的关键.根据代数方程理论,通过权值和阈值与隐层结构的关系,建立了以权值和阈值为设计变量的目标函数表达式,通过分析,提出了多层前向神经网络合理的隐层层数和每个隐层神经元个数的一般确定方法,给出了确定多层前向神经网络合理结构的优化目标函数及其约束条件.仿真研究结果表明所提出方法确定的多层前向神经网络结构是合理的.     

基于加工工序的高维多输入层神经网络及应用

提出一种新的神经网络——高维多输入层神经网络,给出了这种神经网络的结构图及其学习算法.这种神经网络可看作是BP神经网络将一部分输入结点移至其某些隐层上的结果,因此具有较少的连接权;又因为这种神经网络可以依照生产流程安排除第一层以外各输入层的位置,只要位置安排合适,这种神经网络可达到比BP神经网络好的效果.文章将这神经网络按加工工序用于热轧产品质量的建模中,并将结果与BP神经网络的结果进行比较,事实表明,由于连接权值的减少,这种神经网络具有较快的学习速度,在同样的时间内可以达到比BP神经网络更好的学习效果.     

多层前向神经网络的RLS修正训练算法

文献［４］提出一种训练多层前向神经网络的快速学习算法—ＲＬＳ算法,与标准ＢＰ算法相比有较高的学习效率,但该方法的主要缺陷是存在数值稳定问题和鲁棒性不强的问题。提出了一种修正的基于递推最小二乘算法（ＲＬＳ）的多层前向神经网络的快速学习算法,证明了算法的数值稳定性,对两个系统进行了辨识,并与ＲＬＳ训练算法和标准ＢＰ算法进行了比较,仿真结果显示了所提方法的鲁棒性和有效性。     

BP人工神经网络自适应学习算法的建立及其应用

解决了BP神经网络结构参数、学习速率与初始权值的选取问题,并对传统的BP算法进行了改进,提出了BP神经网络自适应学习算法,又将其编制成计算机程序,使得输入节点、隐层节点和学习速率的选取全部动态实现,减少了人为因素的干预,改善了学习速率和网络的适应能力.计算结果表明:BP神经网络自适应学习算法较传统的方法优越,训练后的神经网络模型不仅能准确地拟合训练值,而且能较精确地预测未来趋势.     

基于结构熵和IGSO-BP算法的动态威胁评估

针对传统超视距空战威胁评估不能根据各类威胁因素的变化动态调整其对应权值的问题,引入前向反馈(back propagation, BP)神经网络,采用综合考虑主客观因素的结构熵权法确定各威胁指数权值并作为神经网络训练参数进行训练,提出了改进萤火虫算法(improved glowworm swarm optimization, IGSO)和BP神经网络相结合的空战动态权值计算方法。该算法采用改进萤火虫算法优化BP网络的权值和阈值,优化后的BP网络能更好地计算不同态势下的威胁指数权值,从而根据威胁估计模型进行威胁评估。以某一时刻预测多无人机空中对抗时的威胁度为想定,分别采用结构熵权法和IGSO BP进行仿真计算。结果表明：结构熵权法能够科学合理地计算各威胁指数权值,IGSO BP算法可有效解决空战目标威胁评估问题,且所提算法与现有几种算法相比在可靠性和准确性上都有明显提高。     

基于遗传算法的进化神经网络

提出一种基于遗传算法的多层前向神经网络的自动化设计方法(genetic multiplayer feedforward neural network，GMFNN)，用以同时完成对网络结构空间和权值空间的搜索。该算法利用双种群权值优化、结构进化自适应变异率等方法来加快算法的收敛速度，改善解的性能。仿真结果显示本文提出的算法能够有效抑制遗传算法初期收敛的发生，有效地提高多层前向神经网络的收敛精度，并可获得更为简洁的网络结构。     

跨越连接BP算法及其在卷烟制丝工艺中的应用

传统BP神经网络算法及其改进算法都是非完全全连接神经网络算法,具有收敛速度慢,泛化能力差等不足.通过对神经网络连接方式的转化,可以得到一种完全全连接神经网络--跨越连接神经网络,并给出了跨越连接BP神经网络算法.针对卷烟制丝工艺的仿真实验表明,该算法具备描述复杂数据的能力,与传统BP算法相比,网络训练收敛速度快且泛化能力强.     

多层混沌神经网络及其在交通量预测中的应用

研究多层混沌神经网络及其在交通量预测中的应用问题。以BP网络和混沌理论为基础,提出了一种在隐层中包含混沌神经元的多层混沌神经网络。XOR问题实验得出:该混沌神经网络能有效地强化网络的非线性和学习效率。鉴于城市交通流具有明显的混沌特性,将该混沌神经网络应用于城市交通流的预测。对广东江门市某路口交通量的预测结果显示出:采用该混沌神经网络,预测误差一般可以控制在10%以下(或左右)。该网络还可以应用于其他混沌系统的预测和控制。     

神经网络在预测编码中的应用

讨论如何有效地利用backpropagation(BP)神经网络进行预测编码。改进的BP算法可以提高BP神经网络地收敛速度、泛化能力和稳定性。一般而言 ,四层网络比三层网络具有更快地学习速度 ;二阶网络比一阶网络性能更优越。利用MATLAB程序 ,构造三层、四层和二阶BP神经网络进行预测编码。测试结果表明 ,利用规模足够大的三层BP网络进行预测编码可以取得较好效果 ;四层和二阶网络比等价的三层网络可以更有效地进行预测编码     

基于HS-BP算法的尾矿库安全评价

为有效预防尾矿库事故的发生, 针对尾矿库事故率具有随机波动性和非线性的特点, 采用和声搜索算法(HSA)和BP神经网络建立尾矿库安全评价模型. 该方法利用HS算法对BP神经网络权值进行优化, 进而对尾矿库进行安全评价. 通过对辽宁本溪南芬尾矿库安全现状进行拟合预测, 结果表明:将HS算法和BP神经网络有机结合, 能够克服传统BP网络易陷入极小值、收敛速度慢得缺陷, 有效的刻画了尾矿库事故的随机波动特性, 并且预测能力均优于其他评价算法, 具有重要意义.     

PSO-BP模型在城市用水量短期预测中的应用

为解决现有的城市用水量短期预测BP神经网络法对初始权值敏感、易陷入局部极小点和收敛速度慢等问题,通过对城市时用水量数据特征的分析,应用基于全局随机优化思想的粒子群优化(PSO)算法对BP网络的初始权值进行优化,建立了PSO-BP城市时用水量预测模型.在算例分析中与传统BP神经网络预测法进行对比,发现该方法的收敛速度明显提高,且平均预测精度提高了2%,在用水量短期预测中非常有效.     

过程神经元网络学习算法及软测量方法的研究

研究输入输出以及连接权函数均可为时间函数的过程神经元网络(process neural network,PNN)的学习算法,在基本算法上增加基函数展开系数的规一化处理、权函数动量项调整项,提出学习率自适应调整方法和加速网络收敛速度的改进算法。将过程神经元网络引入到生产过程质量参数的软测量,研究基于正交基展开的过程神经元网络算法,通过分析原网络收敛速度慢等问题,对传统BP算法加以改进,实现了污水处理过程出水水质BOD的预测,仿真取得较好的结果,实践证明这是一种时变过程参数软测量的新方法。     

基于EEMD-BP组合模型的区域海平面变化多尺度预测

海平面变化具有非线性、非平稳性以及多时间尺度变化特性,传统的基于时间序列的统计预测模型对于这种变化的预测存在较大局限性,预测结果不够理想.结合集合经验模式分解(ensemble empirical mode decomposition,EEMD)与BP (back propagation)神经网络,本文提出一种改进的海平面变化多尺度预测方法——EEMD-BP组合模型.首先利用EEMD分解提取海平面变化序列中具有物理含义的信号并降低噪声影响,得到不同尺度的多个固有模式函数(intrinsic mode functions,IMFs),确定出海平面变化中隐含的周期及趋势;然后利用BP神经网络分别对不同尺度IMF分量建立预测模型分析其未来变化趋势,最后将各IMF分量的预测结果重构,得到海平面变化序列的最终预测值.结果显示:EEMD分解能有效提取海平面变化中隐含的多时间尺度信号,神经网络能较好地预测不同尺度海平面变化趋势.相对于直接利用BP神经网络进行预测(R=0.74,RMSE=37.51 mm,MAE=48.02 mm),EEMD-BP组合模型预测精度显著提高(R=0.88,RMSE=29.23 mm,MAE=37.50 mm).EEMD-BP组合模型首先对海平面变化序列进行平稳化、降噪等处理,再对分解后的不同尺度时间序列分别进行预测,能够有效提高预测精度,为区域海平面变化预测研究提供了一种新方法.     

改进粒子群算法优化 BP 神经网络的短时交通流预测

为提高 BP 神经网络预测模型的预测准确性, 提出了一种基于改进粒子群算法优化 BP 神经网络的预测方法. 引入自适应变异算子对陷入局部最优的粒子进行变异, 改进了粒子群算法的寻优性能, 利用改进粒子群算法优化 BP 神经网络的权值和阈值, 然后训练 BP 神经网络预测模型求得最优解. 将该预测方法应用到实测交通流的时间序列进行有效性验证, 结果表明了该方法对短时交通流具有更好的非线性拟合能力和更高的预测准确性.     

基于神经网络方法的大型电网短期负荷预报

电力系统负荷预报研究现状,介绍了神经网络方法应用于电力系统短期负荷预报的可行性及存在的问题。详细讨论了应用BP神经网络、共轭梯度算法改进BP神经网络方法进行电力系统短期负荷预报的算法,及在预报过程中对电网负荷数据进行预处理方法。分别应用二种方法对东北电力系统进行了72小时短期负荷预报仿真。仿真结果表明,BP神经网络训练时间长,预报精度低;而共轭梯度算法改进BP神经网络算法训练步数大大减小,缩短了网络训练时间,而且提高了预报精度。该方法可行,可用于电力系统短期负荷在线预报。     

基于遗传算法的BP神经网络时间序列预测模型

神经网络能以任意精度逼近非线性函数 ,以神经网络为基础的时间序列预测模型能很好地反映非线性系统发展的趋势 ,但神经网络训练速度慢、易陷入局部极值。针对这种情况 ,用具有良好的全局搜索能力的遗传算法来改进神经网络时间序列预测模型 ,提出了一种将遗传算法和BP算法相结合的学习算法来训练BP神经网络 ,并将该神经网络时间序列预测模型应用于某时间序列的预测。