新的组合激活函数BP网络模型研究

作者提出了一种新的BP神经网络模型，其隐层激活函数采用中心参数可调的Gaussian函数，输出层采用斜度可调的Sigmoid函数，从而神经元具有了更强的信息存储、处理能力。由于采用组合函数，将Gaussian函数良好的局部性和Sigmoid函数良好的全局性相结合，提高了神经网络的收敛速度。几个典型实验的结果表明，与传统BP网络模型相比，新网络模型在学习能力和泛化推广能力方面都有明显提高。     

一种新型多神经元PID伺服控制器研究

针对BP神经网络算法的收敛速度慢,权值畸形导致迭代无法进行,非线性多耦合收敛局部极小点的缺陷,本文提出了一种新型多神经元PID神经网络算法。该算法核心通过简化PID神经元网络控制器,改善其权值初始化,在权值迭代计算中运用符号函数解决上述缺陷。通过对该新型多神经元PID控制算法结果分析,该算法在反传运算过程中大为简化,算法收敛速度快,且网络权值灵活。将该算法与传统神经网络算法分别应用到全液压矫直机伺服控制,通过对比分析验证了该算法的有效性,同时为多神经元PID控制器的工程化应用提供了理论支持和技术借鉴。     

一种改进的Jacobi正交多项式的BP神经网络算法

 根据多项式理论,构造一种以Jacobi正交多项式作为隐层神经元激励函数的BP(back-propagation)神经网络模型.针对该网络,提出一种改进算法即隐层神经元数可快速确定的权值直接确定算法.首先介绍正交基函数和Jacobi多项式的定义,以及BP神经网络的基本原理.然后进行网络隐层数设计及其隐神经元数的确定,且设置各层连接权值、给出改进算法的步骤.最后,将其与传统矩阵迭代法和Levenberg-Marquardt训练算法进行比较.计算机实验结果表明,该算法具有比传统的BP迭代法更快的计算速度,并且能够达到更高的工作精度.     

利用遗传算法优化人工神经网络权值

遗传算法是一种新的、基于自然选择和基因遗传学原理的随机搜索算法．针对神经网络中BP算法学习效率低且收敛速度慢以及容易陷入局部最优等不足，文章提出利用遗传算法对BP神经网络中的神经元间的连接权值进行优化的方法．试验结果表明，用遗传算法优化BP神经网络的连接权值后收敛速度快，并有效的解决了BP算法容易陷入局部最优的问题．     

基于小波神经网络的邮件分类算法研究

小波神经网络模型是将小波理论和神经网络结合起来的一种模型.通过对邮件分类问题的分析,采用由伸缩和平移因子决定的小波基函数代替传统的神经元激励函数的小波神经网络的方法,建立了相应的邮件分类的小波神经网络模型.该模型克服了传统BP神经网络参数不足、隐含层单元数目难以确定、收敛速度较慢等缺点.应用结果表明,该算法在邮件分类中能有效减少平均绝对误差,提高查准率,为邮件分类算法研究提供了一种新的方法.     

基于Tan-Sigmoid函数参数调整的BP神经网络改进算法

为提高BP神经网络的性能,对网络的联接权值W和神经元的tan-sigmoid转换函数的参数T、θ进行调整,使信息分布存储于权值矩阵及转换函数中,比传统的算法具有更强的非线性映射能力．经严密的数学推导,给出了最终的改进算法公式和1个预测需求量的算例,结果表明,改进后的算法能有效地减少隐层节点数,且能加快收敛速度和提高收敛精度．     

GA-SAPSO神经网络模型的构建

BP神经网络存在寻优参数多、收敛速度慢、易陷入局部极小的固有缺陷,为改进其网络性能,本文利用遗传-模拟退火粒子群算法(GA-SAPSO)对BP神经网络的初始权值及神经元阀值进行优化处理,并重新构建网络模型.实例仿真结果表明:所构建模型降低了BP网络结构的复杂性,避免了网络参数选取的盲目性,提高了网络的计算精度.     

一种新的快速收敛的反向传播算法

提出了一种新的快速的误差反向传播算法 .这种方法从神经网络的权值调节公式入手 ,通过避免过早饱和、加大权值调节的幅度等手段来加快收敛 .并通过对两个奇偶问题、一个函数逼近问题的仿真 ,验证了所提出的算法的有效性 .结果表明 ,所提出的算法在收敛速度等方面大大优于通常的BP(反向传播 )算法、带动量项的BP算法以及其他的一些改进的算法 .     

基于PSO算法优化的BPNN天然气脱CO_2膜分离过程软测量模型

天然气脱CO2膜分离过程是一个非线性复杂系统.针对其过程中一些关键性能参数如脱碳气流量和尾气CO2浓度难以在线精确测量,建立了基于PSO算法优化的BP神经网络天然气脱CO2膜分离过程软测量模型.其中,为克服BP神经网络收敛速度慢、易陷入局部最小值等缺点,引入惯性权重算法和收缩因子对传统PSO算法进行改进后,用PSO算法优化BP神经网络的权值和阈值;然后,基于Matlab软件和采集的现场数据对天然气脱CO2膜分离过程进行建模仿真.结果表明,模型收敛速度快,模型测量的天然气脱CO2膜分离过程中的关键参数脱碳气流量和尾气CO2浓度值与实测值符合较好,误差小.     

多层感知器学习算法研究

多层感知器是一种单向传播的多层前馈网络模型,由于具有高度的非线性映射能力,是目前神经网络研究与应用中最基本的网络模型之一．BP算法是多层前向神经网络中应用最重要的算法,但是由于BP算法实质是一种梯度下降的搜索算法,它存在着其固有的不足,如收敛速度较慢,易于陷入误差函数的局部极值．本文基于权值外推和三项因子的思想,提出了一种改进算法,能够有效的提高网络收敛的速度和精度,计算机仿真结果也有力的证实了这一点．     

改进的 BP 算法及其应用研究

ＢＰ网络广泛应用于函数逼近、模式识别和系统辨识,但ＢＰ算法收敛速度很慢。为此提出了ＢＰ算法的一种新的改进方式,即在误差反向传播时,不仅改变网络的联接权值,也改变神经元模型参数。详细推导了改进ＢＰ算法的迭代公式。仿真研究表明,与传统ＢＰ算法相比,该算法具有收敛速度快,函数逼近精度高的优点。     

改进的神经网络快速学习算法

提出了一种新颖的神经元模型和用于神经网络训练的推广准则，给出了多层神经网络的快速学习算法，研究了一种用于语音识别的时变多层神经网络及其相应的快速学习算法．语音识别实验表明：所给出的快速学习算法能有效地加速网络训练进程．     

基于改进粒子群优化-反向传播神经网络算法的小麦储藏品质预测模型

在使用反向传播神经网络(back propagation neural network,BPNN)预测小麦的储藏品质时,由于其易陷入局部极值且收敛速度慢,导致预测误差较大且稳定性较差,由此提出一种改进粒子群(improved particle swarm optimization,IPSO)算法优化的BPNN预测模型.采用非线性函数动态调整粒子群算法中的惯性权重和学习因子,优化BPNN中的权值参数,进而构建IPSO-BPNN预测模型.为验证该模型的准确性和稳定性,将其与BPNN模型、PSO-BPNN模型进行对比,结果表明:IPSO-BPNN模型预测的均方误差显著降低,有助于提高小麦储藏品质预测的准确性和可靠性.     

采用BP-GA算法的一种LSI神经网络的电路设计

将误差反传 (BP)算法和遗传算法 (GA)有机地结合在一起 ,提出了一种新的算法 BP- GA。采用 BP- GA算法 ,设计了一个两层前向 L SI神经网络。作为神经网络的关键部件 ,提出的新型神经元性能优越。它的激活函数与理想sigmoid函数拟合很好 ;可实现对阈值及增益因子的编程并且不同增益因子下饱和输出电压值相同。采用标准 1.2 μmCMOS工艺的模型参数 ,对该两层前向神经网络电路进行的HSPICE模拟证明了它有解决异或 (XOR)问题的能力     

一个基于改进遗传算法的RBF网络入侵检测模型

针对异常入侵检测中存在的误报率高的问题,文章提出了一种基于改进遗传算法的RBF网络入侵检测模型。采用数据挖掘方法建立聚簇规则集,用改进的遗传算法优化RBF网络,用已训练好的RBF网络对与聚簇规则集中不匹配的可疑行为进行检测,并能识别出具体的入侵类型。实验表明,文中提出的模型采用改进遗传算法的RBF神经网络,较基于BP神经网络的检测技术有更好的识别精度。     

模糊优选神经网络及其在综合后评价中的应用

将模糊优选理论与神经网络理论相结合,确定网络拓扑结构：隐含层数、隐含层节点数与节点激励函数的合理模式。将模糊优选的相对优属度模型作为人工神经网络的激励函数,建立模糊优选神经网络权重调整BP模型,实证研究表明,模糊优选BP神经网络模型,可以较好地应用于综合后评价。     

一种基于禁忌神经网络的网络入侵检测模型

随着互联网的发展和普及,传统网络入侵防范方法如防火墙、数据加密等已经很难保证系统和网络资源的安全。为此,本文设计了基于改进禁忌算法和神经网络的网络入侵检测方法。首先建立三层的BP神经网络模型用于实现入侵检测。然后通过BP反向传播算法获取网络的权值和阀值等参数,并设计了一种基于双禁忌表的改进禁忌优化算法,采用此改进的禁忌优化算法对BP算法优化得到的权值和阀值进行进一步寻优。最后,将禁忌算法优化后的神经网络用于网络入侵检测。仿真实验表明,此方法能够有效地实现网络入侵检测,具有较快的收敛速度和较高的检测率,是一种适合网络入侵检测的可行方法。     

对改进的自适应BP算法中参数研究

文章以预测开式冷挤压中极限变形程度的BP网络模型为例,针对改进的BP算法,讨论神经元作用函数、初始学习率及隐层节点数等对预测准确性的影响;确定了各参数的选择范围和选择比较理想的网络结构;为更好地预测极限变形程度具有重要的使用价值。     

一种基于粗糙神经元的神经网络预测算法

根据粗糙集理论的上、下边界,在神经网络预测模型中引入粗糙神经元,建立了一种新的BP神经网络,它由传统神经元和粗糙神经元组成。仿真实例中将其应用于降水量的预测控制,研究显示了该网络具有良好的克服偶然因素的能力以及较强的预测准确率。     

基于遗传算法的人工神经网络学习算法

为了克服和改进BP算法的不足，提出了一种基于遗传算法的神经网络学习算法，仿真结果表明，该算法具有无比的优越性，可避免BP算法易于陷入局部极小值，训练速度慢、误差函数必须可导、受网络结构的限制等缺陷。