共轭梯度法和最速下降法的混合算法

将共轭梯度法与最速下降法有机地结合起来,构造了一种共轭梯度法和最速下降法的混合算法,并证明了该算法的全局收敛．混合算法既提高了共轭梯度算法的收敛速度,又解决了目标函数“性态不优”时,最速下降法难以求解的问题．同时也可以看到共轭梯度法与最速下降法仅仅是混合算法的特例．     

在Wolfe步长搜索下的一类新的共轭梯度算法

研究利用共轭梯度法求解无约束最优化问题.为了保证共轭梯度方向是目标函数的充分下降方向,对共轭梯度算法中的共轭梯度方向参数确定了一个取值范围并与Wolfe步长搜索相结合,提出了新的共轭梯度算法,使算法具有更好的收敛速度,特别是在求解大规模无约束最优化问题时,此算法只需要较小的存储.     

求解凸集约束优化问题的共轭梯度的GLP投影算法

利用GLP投影技术 ,对凸约束的非线性规划问题构造了一个共轭梯度的GLP投影算法 ,在一维精确步长搜索下 ,给出了算法较强的全局收敛性结果 ,由于算法需要较小的存储量 ,特别适合于计算大规模的约束优化问题。该算法提高了梯度投影法的收敛速度。     

基于共轭梯度法和最速下降法的非线性测量数据处理

将共轭梯度法与最速下降法有机结合起来，构造出一种解决非线性测量数据处理问题的新方法——混合算法。这种方法充分利用了共轭梯度法和最速下降法良好的收敛优点，既提高了共轭梯度算法的收敛速度，又解决了目标函数“性态不优”时，最速下降法难以解决的问题。文中的算例结果表明，混合算法与单纯的共轭梯度法或最速下降法相比，具有收敛速度快、收敛范围大、适应面宽等特点。     

求解凸集约束优化问题的共轭梯度的GLP投影算法

利用GLP投影技术，对凸约束的非线性规划问题构造了一个共轭梯度的GLP投影算法，在一维精确步长搜索下，给出了算法较强的全局收敛性结果，由于算法需要较小的存储量，特别适合于计算大规模的约束优化问题。该算法提高了梯度投影法的收敛速度。     

最速下降和共轭梯度混合算法在波束形成中的应用

介绍了一种最速下降法和共轭梯度法的混合算法,并将这种混合算法应用到自适应波束形成中。该方法根据最小均方（LMS）准则推导出代价函数,结合共轭梯度法和最速下降法产生搜索方向,既提高了共轭梯度算法的收敛速度,又解决了最速下降法下降缓慢的问题。计算机仿真表明,混合算法所需迭代次数少于最速下降法,且显著减少计算量,缩短运行时间。     

一种非线性扩展混合共轭梯度算法的全局收敛性

描述了非线性FR共轭梯度法、非线性PRP共轭梯度法、非线性DY共轭梯度法等求解大规模无约束优化问题的有效算法.研究了计算更为有效的适合求解无约束优化问题的一种非线性扩展混合共轭梯度算法;给出了在Wolfe型线搜索下的非线性扩展混合共轭梯度法,算法产生的方向为下降方向.在一般的条件下,给出了算法的全局收敛结果,且数值实验表明算法十分有效.     

距离观测方程非线性平差的正则化共轭梯度法

基于稳定泛函约束思想,推导了距离观测方程非线性平差的正则化共轭梯度法.该算法将稳定泛函约束作用于共轭梯度法,解决了共轭梯度法求解病态测距定位方程的不稳定甚至不收敛的问题,提高了正则化数值算法的收敛效率,最后采用模拟数据和水下定位实测数据进行了验证.实验结果表明,该算法具有较好的收敛稳定性,收敛效率优于迭代正则化算法.     

基于神经网络控制的共轭梯度法

共轭梯度法中搜索步长是通过某种搜索策略得到,许多情况下的收敛速度较慢.为了加快其收敛速度,提出了通过引入具有“先验知识“的神经网络对共轭梯度算法中的搜索步长进行控制.实验结果表明,该模型实现的共轭梯度法对于加快收敛速度有效.     

一种新的基于梯度动力学的协同神经网络学习算法

在研究协同神经网络梯度动力学过程的基础上，针对学习过程收敛速度缓慢的缺点，介绍了一种改进的基于梯度动力学的协同神经网络学习算法。该算法分析了非平衡注意参数对学习过程的影响，简化了初始伴随向量的选取；并引入最优化理论，将该问题归结为求解非线性最优化问题，提出了适时地用共轭梯度法代替梯度下降法的算法，加快了学习过程的收敛。通过对标准人脸图像库的图像识别实验表明该算法较之其他学习算法有较高的识别率，并能较快地收敛到极小值。