一类改进的拟牛顿算法

在利用拟牛顿算法求解非线性无约束优化问题中,本文在文献[8]提出的拟牛顿方程基础上,通过加权形式构造一类改进拟牛顿方程,产生了修正的BFGS校正公式,进而提出改进的拟牛顿算法,在一定条件下证明新算法的全局收敛性。数值实验结果表明,与文献[12]中的拟牛顿算法对比,新算法在迭代次数上更有优势。     

基于信赖域技术和修正拟牛顿方程的非单调超记忆梯度算法

基于信赖域技术和修正拟牛顿方程,结合Neng-Zhu Gu非单调策略,设计新的求解无约束最优化问题的非单调超记忆梯度算法,分析算法的收敛性和收敛速度。新算法每次迭代节约了矩阵的存储量和计算量,算法稳定,适于求解大规模问题。数值试验结果表明新算法是有效的。     

基于三阶拟牛顿方程的对角三阶拟牛顿法

基于三阶拟牛顿方程,结合Zhang H.C.提出的非单调线搜索规则设计了求解大规模无约束优化问题的对角三阶拟牛顿算法。该算法在每次迭代中利用对角矩阵逼近Hessen矩阵的逆,使存储量和计算量明显减少,并且证明了算法的全局收敛性和超线性收敛性。数值试验表明该算法是有效的。     

广义拟牛顿算法对一般目标函数的收敛性

对于无约束最优化问题minf(x),x∈Rn,提出了一种广义拟牛顿算法,并且讨论了广义拟牛顿算法对一般目标函数的全局收敛性,以及当f(x)满足Lipschitz连续的条件下,证明了相应的超线性收敛定理。     

Perry-Shanno无记忆拟牛顿方法在非单调搜索下的收敛性

将Perry-Shanno无记忆拟牛顿方法与一类非单调搜索相结合,给出了一类求解无约束最优化问题的新算法.在目标函数为凸的条件下,证明了该算法的全局收敛性.     

求解非线性互补问题的雅可比光滑牛顿法

针对非线性互补问题,提出了基于其等价半光滑方程的雅可比光滑牛顿算法,并在适当条件下获得了全局收敛性结果.数值实验表明,该算法是有效的.     

拟牛顿算法的收敛特性及算法的拓广

介绍了拟牛顿算法的收敛特性，即算法采用精确线性搜索与非精确线性搜索时具有的全局收敛性与超线性收敛性。这些优良性质使拟牛顿算法类在优化算法中占有极为重要的地位。相关的研究成果十分丰富，这里作一简要介绍及若干算法拓广。     

保守修正BFGS算法及全局收敛性

基于新拟牛顿方程,提出一类保守修正BFGS算法.该算法的特点是:即使当目标函数是非凸函数时,该算法仍然是全局收敛的.在适当的条件下,该算法具有局部超线性收敛性.初步的数值实验表明,该算法是有效的.     

一种基于弱拟牛顿方程的单调梯度法的收敛性

基于弱拟牛顿方程,Leong W J等人提出了一种单调梯度法,该算法在每次迭代时利用对角矩阵逼近Hessian矩阵,使计算量和存储量明显减少,并且此算法对凸函数具有收敛性。在此算法的基础上,进一步研究了算法对于一般函数的收敛性,并证明了在一定的假设条件下算法仍具有全局收敛性、R-线性收敛性和超线性收敛性。     

一种改进的BFGS算法及其全局收敛性分析

针对无约束最优化问题，提出了一个基于新拟牛顿方程Bk＋1Sk=yk^＊的新改进BFGS算法，并在目标函数一致凸的假设条件下证明了该算法的全局收敛性。     

极小化一元凸函数的一个数值方法

本文给出了一个极小化一元非光滑凸函数的可执行的数值方法，此算法的要点是仅用在已有的五个点上的函数值去确定两个更好的接近最优解的点．我们证明了这个算法是全局收敛的和ｒ－超线性收敛的，数值结果也表明此算法有好的收敛性．     

一类记忆梯度法的收敛性

研究一类新的记忆梯度法,算法利用当前点的负梯度和前一点的搜索方向的线性组合为搜索方向,以强wolfe线搜索确定步长,并证明了算法具有全局收敛性,当目标函数一致凸时讨论了收敛速度．     

新拟牛顿方程下一类改进BFGS算法的全局收敛性

文献[1]曾在已建立的一类新拟牛顿方程Bk 1sk=yk-=yk kγskTsksk的基础上,证明了满足新拟牛顿方程的一类改进BFGS算法在目标函数为一致凸的条件下,具有全局收敛性。此文针对该算法,给出了全局收敛性的另一种证明方法。     

无约束最优化计算方法中的Newton法与BFGS法的组合方法

本文提出了适合于求解目标函数的Hesse矩阵不正定或病态等实际问题的Newton法与BFGS法的组合方法，并证明了该方法具有二次收敛性和全局收敛性。     

非精确线性搜索下的共轭梯度法

在wolfe步长搜索下,对解无约束最优化问题的共轭梯度法的迭代参数做出改进,扩大了它的选取范围,并在目标函数可微的条件下,证明了算法的全局收敛性.     

约束优化问题的序列近似方法收敛性

对抽象约束优化问题的序列近似方法的收敛性进行讨论,证明了在目标函数序列连续收敛和约束集合序列收敛的条件下,序列近似问题的全局最优值收敛到原问题的最优值.进一步,证明了在序列近似问题目标函数和约束集合具有某些单调性质的前提下,把目标函数序列连续收敛减弱到上图收敛,该结论仍然成立.最后,将这一结果用于分析互补约束优化问题的光滑化方法的收敛性中.     

互补问题的一个新的光滑乘子价值函数

研究互补问题的新解法,给出了互补问题的一个新的光滑乘子价值函数,分析了乘子价值函数的性质,并构造了相应的算法.选取了新的下降方向和乘子修正方法,使价值函数获得两次下降,从而加快了下降速度.研究结果表明:在函数为一致P的条件下,算法具有全局收敛性、局部超线性收敛性和二次收敛性;对线性互补问题有限步收敛.     

Wolfe线搜索下一种修正的HS共轭梯度法及其全局收敛性

提出一种修正的HS共轭梯度法.该算法产生的搜索方向为充分下降方向,且这一性质与所采用的线搜索方法无关.并在Wolfe线搜索的条件下证明了该算法全局收敛性.数值实验结果表明算法是有效的.     

解非线性不等式组的L-M方法

文章研究了非线性不等式组的求解问题, 利用等价转化把非线性不等式组转化为非线性方程组来加以求解, 通过引进光滑参数构造了一个新的光滑函数来逼近方程组问题中的目标函数, 利用构造的光滑函数给出了相应的求解非线性方程组的Levenberg-Marquardt算法, 并在一定的条件下证明了该算法的整体收敛性.     

一个既约差商算法及其整体收敛性

利用差商代替难以计算的精确导数，结合既约梯度法的思想建立新的算法；在目标函数一致凸的条件下证明了既约差商法的整体收敛性．