求解二次规划问题的快速收敛梯度神经网络模型设计及仿真

为了实现对二次规划问题的求解,提出了一个快速收敛的梯度神经网络模型。不同于传统的梯度神经网络设计方法,快速收敛的梯度神经网络模型加入了一个非线性激励函数,从而加快了求解二次规划问题的收敛速度。而且,通过调节设计参数的取值,收敛速度可以得到进一步加快。计算机对比仿真结果验证了快速收敛的梯度神经网络模型的有效性和优越性。     

梯度神经网络在p次方根求解中的应用

设计了一个针对一般问题求解的梯度神经网络模型.为了求解p次方根,定义一个基于平方的标量取值的能量函数,再根据梯度下降法,进一步推导出求解p次方根的梯度神经网络模型.使用Matlab仿真软件进行建模、仿真和验证,计算机仿真结果证实了梯度神经网络实时求解p次方根的有效性.     

二次最小化问题的有限时间递归神经网络求解

利用一类递归神经网络模型来求解二次最小化问题，在该模型的基础上加入双符号幂激励函数，以加快递归神经网络的收敛速度，甚至达到有限时间收敛.通过调节设计参数λ的取值，递归神经网络的收敛性能可进一步提高.利用MATLAB软件对有限递归神经网络模型进行仿真，数值仿真结果验证了模型求解二次最小化问题的有效性和优越性.     

基于LVQ神经网络算法的脱机手写数字识别研究

针对BP神经网络进行脱机手写数字识别所存在的问题,提出用自组织竞争神经网络(LVQ)对脱机手写数字识别的方法.介绍了LVQ神经网络算法,并构建了LVQ神经网络的识别模型,用Matlab软件进行了仿真.将获得的仿真结果数据与BP神经网络的测试结果进行对比分析,发现LVQ神经网络对脱机手写数字的识别率明显高于BP神经网络,且收敛速度更快.该方法在脱机手写数字识别领域具有一定的可行性与指导性.     

基于BP网络的一种改进算法及仿真

针对BP网络存在收敛速度慢及目标函数容易陷入局部极小值的缺点,本文研究分析了BP神经网络模型的缺陷并提出了优化策略.最后提出了一种提高BP网络学习速度的新方法,即自适应调整学习率和下降梯度.仿真结果表明,该方法大大地提高了收敛速度,而且算法简单、易行.     

基于多重网格法的相位解缠算法

指出了最小二乘相位解缠算法是求解二维相位解缠问题最稳健的方法之一,并可等效为求解一大型的稀疏线性方程系统.求解大型线性方程组通常采用迭代法,然而其收敛速度非常慢.为了改善收敛特性,提出了一种新的相位解缠算法——多重网格法,该方法通过在疏密不同的网格层上进行迭代,以平滑不同频率的误差分量,从而加快系统的收敛速度.仿真实验表明:该方法能够很好地恢复真实相位,具有解缠精度高,收敛速度快等优点.     

改进型 BP 神经网络自适应均衡器设计

针对传统的基于 BP 神经网络的自适应均衡器存在的缺陷,提出了一种改进的 BP 神经网络自适应均衡器的 FPGA 设计方法.从互连结构、训练法则及收敛算法等几个方面对 BP 网络进行改进,通过加入协调器提高 BP 网络收敛速度和容错性能,并根据 BP 网络的并行性能得到分块结构模型,同时采用流水线技术使计算速度明显提高.通过软件仿真,验证了这种结构简单、收敛速度较快的 BP 网络的有效性和可行性,并在ModelSim 工具上完成了自适应均衡器的仿真验证     

应用递归人工神经网络预测电力短期负荷

介绍了神经网络的基本原理,使用递归人工神经网络模型对电力短期负荷进行预测,采用了梯度下降法,来提高训练的收敛速度,预测仿真结果表明,使用递归神经网络预测比传统的预测方法更准确.     

自归一化卷积神经网络的人脸识别方法

传统的卷积神经网络(CNN)在人脸识别中应用极为广泛,然而依然存在收敛速度慢的问题,需要进行批归一化,防止梯度弥散.而自归一化卷积神经网络比普通卷积神经网络收敛速度更快,且无需进行批归一化.因此,提出采用自归一化卷积神经网络来进行人脸识别.首先算法由2个卷积层,1个池化层,2个全连接层和1个Softmax回归层组成的自归一化卷积神经网络对人脸特征进行提取并分类;然后通过对不同批次大小和不同网络层数的实验对比找出最佳的实验条件;最后与传统CNN算法和其他算法对比.提出的方法在ORL数据库中的实验识别率可达到98.3%.实验结果表明,自归一化卷积神经网络比普通的卷积神经网络在人脸识别中具有更高的识别率、更快的收敛速度.     

基于粒子群优化的高维小波神经网络及其应用

本文提出一种粒子群优化小波神经网络的新方法.先采用基于梯度下降的误差反传算法调整小波神经网络参数,再使用粒子群算法修正,从而建立了粒子群优化的高维小波神经网络,并将该方法用于构建热连轧产品质量模型.仿真结果表明,此模型提高了预测精度和收敛速度.     

神经网络在二次规划问题中的应用

利用对偶神经网络解决了基于线性等式、 不等式和有 界约束的二次规划问题, 表明所研究的对偶神经网络具有整体指数收敛性, 与包含高次非线性条件的神经网络相比, 所提出的网络使用了更少的神经元, 并且网络的体系结构更简单.数值实验结果表明了该方法的有效性.     

线性矩阵方程的梯度法神经网络求解及其仿真验证

 介绍一种基于梯度法的Hopfield神经网络在线求解线性矩阵方程,并且探讨其MATLAB仿真技术以验证该神经网络在求解线性矩阵方程问题时的准确性和有效性。仿真过程中用以下几种重要技术手段：①Kronecker乘积,用来将描述该神经网络的矩阵微分方程（MDE）转化为向量微分方程(VDE),即标准的给定初始值常微分方程（ODE）;②MATLAB指令“ode45”,用来仿真上述转化后的给定初始值常微分方程;③各种激励函数的编码实现,用以检验该神经网络系统的收敛性和存在实现误差时的鲁棒性。仿真结果同理论分析的对应与一致,进一步证实基于梯度法的Hopfield神经网络在求解固定系数线性矩阵方程中具有很好的效验。     

一类求解退化凸二次规划的投影神经网络

借助变分不等式和Kuhn—Tucker条件,构造了一类投影神经网络求解线性约束的退化凸二次规划问题．与已有的求解退化凸规划问题的神经网络系统相比,系统的适用范围更广;在理论方面,系统是全局收敛的;数值实例显示了所得结论的有效性和正确性．     

基于神经网络的病态线性方程组求解

提出了一种基于神经网络的病态线性方程组求解方法。将病态线性方程组的一般系数矩阵转化为对称正定矩阵,然后将此方程组的求解转化为一个无约束优化问题。以此优化问题的目标函数作为神经网络的能量函数,利用最速下降原理构造神经网络的动力学方程,并证明该神经网络系统的稳定性。从而把原病态线性方程组的求解问题转化为一个等价的神经网络优化问题。最后通过两个算例的数值仿真求解以及与其他求解方法的比较,验证了该方法的可行性与有效性。     

二维灰色神经网络批处理梯度算法的收敛性

灰色神经网络GNNM(2,1)是灰色系统与BP神经网络相糅合的二维神经网络,给出了灰色神经网络GNNM(2,1)的网络结构和批处理梯度算法,研究了灰色神经网络GNNM(2,1)的收敛性问题,并证明了误差函数的单调性、弱收敛性和强收敛性.     

一种新的快速收敛的反向传播算法

提出了一种新的快速的误差反向传播算法 .这种方法从神经网络的权值调节公式入手 ,通过避免过早饱和、加大权值调节的幅度等手段来加快收敛 .并通过对两个奇偶问题、一个函数逼近问题的仿真 ,验证了所提出的算法的有效性 .结果表明 ,所提出的算法在收敛速度等方面大大优于通常的BP(反向传播 )算法、带动量项的BP算法以及其他的一些改进的算法 .     

解线性变分不等式问题的神经网络方法

研究了一类线性变分不等式问题，将线性变分不等式问题的解转化为一个神经网络的平衡点，利用分析技巧，给出了所提出的神经网络的所有解全局指数收敛到变分不等式的解的一些充分条件，同时得到指数收敛率的估计，从而得到求线性变分不等式问题的解的神经网络方法，便于实际应用。     

解水平线性互补问题的神经网络

考虑了单调的水平线性互补问题 .基于其结构特点 ,通过引入新向量 ,提出了求解它的两个简单的神经网络模型 .严格证明了所提出的模型均是 Lyapunov稳定的 ,并且大范围渐近收敛于原问题的一个精确解 .新模型的规模均与原问题相同 ,并且不含任何参数 .数值试验表明新模型不仅可行 ,而且有效