BP神经网络结点数选取的改进方法及其应用

提出一种改进的隐含层神经元个数的选取方法.该方法基于隐含层神经元输出之间的相关关系,估计隐含层结点数,把隐含层结点的改进算法用于物种选取的实例中,通过MATLAB编程实现,并与回归分析做出的结果进行比较.结果表明,该方法对建立BP神经网络结构有一定的借鉴作用.     

基于参数优化的RBF神经网络结构设计算法

针对径向基函数(RBF)神经网络的结构优化问题,提出了一种基于参数优化的RBF神经网络优化算法.首先,改进K-means++算法,使得聚类算法更精确,为RBF神经网络的隐含层节点找到一个合适的初始中心;然后,考虑数据分布和缩放因子选择的影响,采用方差度量法计算隐含层神经元基函数的宽度;最后,修正网络参数,提高网络的非线性逼近能力.实验结果表明,本文提出的基于参数优化的RBF神经网络具有良好的逼近效果和泛化能力.     

基于BP网络的混凝土碳化研究

运用改进的BP算法,建立了3 5 1(输入层为3个神经元,隐含层为5个神经元,输出层为1个神经元)混凝土碳化深度BP网络计算模型·计算模型以水灰比、单位水泥用量及砂率为输入,以碳化深度为输出,计算结果与试验结果符合较好·同时,运用改进的BP算法,建立了3 5 1(输入层为3个神经元,隐含层为5个神经元,输出层为1个神经元)混凝土碳化深度BP网络预测模型·预测模型以水灰比、单位水泥用量及混凝土暴露时间为输入,预测模型之一以暴露20年的混凝土碳化深度为输出,预测模型之二以暴露30年的混凝土碳化深度为输出,预测结果均较为理想·     

基于BP神经网络的GFSINS角速度预测

针对无陀螺捷联惯导系统(GFSINS)中传统角速度算法解算精度不高的问题,提出一种可避免复杂代数运算的反向传播(BP)神经网络算法来求解角速度.基于一种十加速度计构型方案,选择10个加速度计输出、采样周期和臂杆距离等12个已知量作为网络输入,以对数法得到的角速度值作为期望输出,针对5 000个样本在不同的隐含层层数、单层神经元个数以及学习步数等情况下进行网络训练,构建了一个含有30个隐含层神经元的3层BP网络模型.采用此模型对角速度进行实时预测,结果表明:网络具有很好的适应能力和实时性,角速度实时预测时间与对数法相当,且其预测精度比对数法提高大约3倍.     

一种改进AFSA-Elman边坡位移预测网络

Elman网络在边坡位移序列预测的应用中,对于网络隐含层神经元个数、阈值的选取没有具体的定论,且收敛速度慢,容易陷入局部解.基于此,将人工鱼群算法与 Elman 网络相结合,建立了改进的 AFSA-Elman 边坡位移预测网络,修正鱼群算法的步长,并利用经改进后鱼群算法强大的寻优能力,对Elman网络的初始权值和阈值进行优化,提高了Elman网络的预测精度和收敛速度.将改进的AFSA-Elman网络与传统Elman网络以及AFSA-BP网络进行对比,并模拟了3种网络的迭代过程,发现改进的AFSA-Elman预测网络较以上两种预测网络具有较高的精度,收敛性更好,更适用于边坡位移的预测.     

一种改进的Jacobi正交多项式的BP神经网络算法

 根据多项式理论,构造一种以Jacobi正交多项式作为隐层神经元激励函数的BP(back-propagation)神经网络模型.针对该网络,提出一种改进算法即隐层神经元数可快速确定的权值直接确定算法.首先介绍正交基函数和Jacobi多项式的定义,以及BP神经网络的基本原理.然后进行网络隐层数设计及其隐神经元数的确定,且设置各层连接权值、给出改进算法的步骤.最后,将其与传统矩阵迭代法和Levenberg-Marquardt训练算法进行比较.计算机实验结果表明,该算法具有比传统的BP迭代法更快的计算速度,并且能够达到更高的工作精度.     

基于传递函数优化后BP神经网络对泥石流的危险性预测

泥石流危险性预测的可靠性是防治工程建设与减灾救灾相关工作部署的关键,基于Back Propagation神经网络的预测方法,是目前实现危险性等级划分的有效方法之一。利用BP神经网络算法的非线性逼近能力,挑选陇南白龙江小流域26条典型泥石流沟道,结合当地实际情况,选取泥石流危险性的8个主要因素为输入层神经元,以样本数据危险等级为输出神经元,在测试单、双层隐含层网络性能的基础上,提出9种工况组合的传递算法搭配方案,利用L-M算法搜索最优解或者近似最优解,总结传递算法对泥石流预测模型精度的影响及算法的选择顺序。实验结果显示,隐含层采用tansig函数,输出层采用logsig函数,其模型总体误差最小,模型的R训练集、R验证集较大与R测试集分别为0.983 61、0.709 17和0.960 52,准确率达到96.1%。由此可见,选择合适的传递函数可提高网络模型的精准度,能准确划分泥石流风险等级。     

基于BP网络的粉煤灰混凝土钢筋握裹力计算

基于改进的BP算法,建立了2个粉煤灰混凝土钢筋握裹力BP网络计算模型,模型1为2-6-1型,即该模型输入层为2个神经元,隐含层为6个神经元,输出层为1个神经元,模型1的输入为水胶比及粉煤灰掺量,输出为混凝土钢筋握裹力;模型2为2-8-2型,即该模型输入层为2个神经元,隐含层为8个神经元,输出层为2个神经元,模型2的输入为水胶比及粉煤灰掺量,输出为混凝土强度及钢筋握裹力.模型1混凝土钢筋握裹力计算相对误差为0.019 08%~3.128 92%;模型2混凝土强度及钢筋握裹力计算相对误差分别为2.248 55%~6.808 00%和0.112 74%~9.773 29%.计算结果较为理想.     

基于粒子群优化算法的最优极限学习机

针对极限学习机隐含层神经元个数选取的问题,提出以粒子群优化算法搜索最佳隐含层神经元个数,用极限学习机模型的测试准确率作为粒子群优化算法适应值的方法(PSO-ELM)。基于手写数字数据集digits分别对比了随机设置隐含层神经元个数的极限学习机、用粒子群算法优化的极限学习机输入权重和隐层偏置的极限学习机(PSO-ELM)、传统的BP算法以及SVM算法对手写数字的识别率,对比结果表明,粒子群优化算法得到的隐含层神经元个数在极限学习机中拥有较高的准确率。     

基于改进极限学习机的纱线质量预测

由于随机给定输入权值和偏差,极限学习机(extreme learning machine,ELM)通常需要较多隐含层节点才能达到理想精度.结合粒子群算法具有全局搜索能力的优势,提出一种基于改进ELM算法的纱线质量预测模型,采用改进粒子群算法优化ELM算法的输入权值矩阵和隐含层偏差,计算出输出权值矩阵,以减少隐含层节点数.试验结果表明,相比于ELM算法,改进ELM算法能够依靠更少的隐含层节点获得更高精度,相对误差降低2.70%,可为纱线质量预测与控制提供更有效的工具,具有广泛的推广实用性.     

改进的模糊神经网络学习规则研究

在S Stoeva提出的基于相同样本及网络输出的模糊反向传播算法基础上,通过对基于极大-极小模糊算子的模糊神经元模型的研究,对含有一个隐含层的单输出模糊神经网络,提出了依赖于各模糊神经元输出的调整模糊权值的网络学习算法,该算法具有直观和可操作性强的特点.并以汽轮发电机组的状态监测为例进行仿真,仿真结果表明网络学习效果较好.     

一种新的前馈神经网络删剪算法

前馈神经网络中隐层神经元的个数与它的学习和泛化能力密切相关.通过广义逆矩阵算法解决最小二乘问题改进神经网络自构行学习算法,得到一种新的前馈神经网络删剪算法.将新算法用于已经训练好的大型网络,能删剪“冗余”的隐层神经元,得到一个最精简的神经网络.此精简的神经网络不需要重新训练仍能保持原有的性能,并且泛化能力很好.仿真实例说明此算法的有效性和可行性.     

基于Chebyshev神经网络的衍生算法

根据辨识对象,神经网络的输入层和输出层神经元的个数易于确定,而隐层数和隐层神经元个数难以确定.借助于生物的生长发育知识,在正交基函数神经网络的基础上提出衍生算法,该算法的基本思想是先选取较少个数的隐层神经元作为初始发育细胞,训练K次后,如果目标函数J不再变化且大于给定的ε,则网络自动衍生,以上过程反复进行,直至J小于等于ε,则停止衍生和训练.仿真实验表明,该算法在训练过程中改善了收敛速度,并自动调整网络的拓扑结构,解决了隐含神经元个数难以确定的问题且具有优良的逼进任意非线性特性的能力.图2,表2,参7.     

基于反向传播神经网络的入侵检测算法

讨论了多层神经网络算法缺陷,提出了一种基于改进反向传播(Back Propagation,BP)的快速入侵检测算法--IBP算法:在BP算法中的梯度下降算式中,加入一个动量项α[ω(t)-ω(t-1)],改善计算神经元 j到神经元i的级联权值;采用学习速率可变的策略;算法训练网络时采用批处理的样本输入方式.改进后的算法选取较大的学习速率η=0.5和η=0.65,并采用3层神经网络的结构,输入、输出样本是16维和15维,各进行100次独立仿真实验,结果证明可加快算法收敛速度,另外,仿真实验还证明:改进后的算法对初始权值的敏感性、网络所表现出的稳定性等都比传统算法性能优越.     

用于干涉型光纤陀螺温度漂移辨识的RBF神经网络改进算法

针对干涉型光纤陀螺(IFOG)温度漂移的辨识,推导了径向基神经网络(RBFNN)中隐含层神经元、网络的抗噪声性能和拟合精度三者之间的关系,并在此基础上提出了一种新的径向基函数神经网络辨识学习规则.该方法具有很强的抗噪声性能,网络输出不会被陀螺噪声所污染,同时能动态地确定神经元数,辨识精度高,有效地避免了传统RBF网络学习算法中事先固定网络结构可能存在的盲目性.实验结果表明,该方法能够快速、准确地辨识IFOG的温度漂移.     

一种基于综合目标函数的神经网络学习算法

为提高多层前向神经网络的学习速度和算法的稳定性,提出一种基于综合目标函数的改进学习算法.该算法在误差平方和目标函数中引入一个辅助约束项构成综合目标函数,并利用综合目标函数训练网络的输出层权值,采用牛顿法推导出训练输出层权值的递推公式.辅助约束项隐含有对网络输出平滑性的约束,提高了学习算法的稳定性.利用该算法对不同非线性函数生成的样本数据的学习结果表明,新算法的收敛速度、精度均优于Karayiannis等人的二阶学习算法.     

改进的Elman网络在非线性系统辨识中的应用

通过对Elman网络的研究,提出一种新型的基于输入层、隐层、输出层神经元递归的动态递归神经网络,给出Elman网络的标准BP学习算法,针对标准BP算法的收敛速度慢和容易收敛于局部极小点的缺点,利用非线性动量项自适应变步长的BP算法进行改进,从而提高算法的收敛速度,避免陷入局部极小点的问题.通过在系统辨识中的应用,表明该网络收敛速度快,模型精度高,并具有较强的自适应性和鲁棒性,适合于动态系统的实时辨识.     

基于LM-BP神经网络模式的酸性染料分类方法

提出用Levenberg-Marquardt Backpropagation Neural Network(LM-BP)网络对酸性偶氮染料进行分类，网络结构为4-6-5。优化了隐含层神经元数和网络训练次数，表明隐含层神经元数应比输出层神经元数多一个。考察了训练集样本的选择对结果的影响，测试集的样本参数大小要处于训练集样本之间。本网络把其中22种染料作为训练集，把另外18种染料作为测试集，与采用GCEDM逐次分类法比较，测试集识别率为83％。     

基于Laguerre正交基神经网络的动态手势识别

提出一种基于Laguerre正交基前向神经网络的动态手势识别方法.首先根据多项式逼近和矩阵理论,构造了一种以Laguerre正交多项式作为隐含层神经元激励函数的多输入、多输出三层前向神经网络模型,在网络权值迭代计算公式基础上推出一种基于伪逆的直接计算网络权值方法,避免求取权值的反复迭代过程;提出一种快速的基于颜色的指尖...     

基于二次型优化的神经元PID无线拥塞算法研究

神经元PID算法能较好地控制瓶颈节点的队列长度,但当网络环境发生较大变化时,其控制效果往往难以保证.根据Ad Hoc网络环境参量时变的特点,推导了无线TCP/AQM离散模型,在神经元算法的加权系数中引入二次型性能指标,设计了一种基于二次型性能指标的神经元PID的AQM.仿真结果表明:在动态拓扑、突发流及链路容量变化的Ad Hoc网络中,该改进算法优于PI算法.