一类改进的拟牛顿算法

在利用拟牛顿算法求解非线性无约束优化问题中,本文在文献[8]提出的拟牛顿方程基础上,通过加权形式构造一类改进拟牛顿方程,产生了修正的BFGS校正公式,进而提出改进的拟牛顿算法,在一定条件下证明新算法的全局收敛性。数值实验结果表明,与文献[12]中的拟牛顿算法对比,新算法在迭代次数上更有优势。     

一类拟牛顿算法的收敛性

根据一类基于新拟牛顿方程Bk 1sk=yk*的修改BFGS类算法,采用广义W olfe线搜索模型(GW搜索模型):f(xk 1)≤f(xk) δkαgTkdk和g(xk 1)Tdk≥m ax{,σ1-(kα‖dk‖)p}gTkdk,其中0<δ≤σ<1,p∈(-∞,1),得到一类修正的BFGS算法(M BFGS),证明了M BFGS算法的全局收敛性和超线性收敛性.数值试验结果表明M BFGS算法是有效的.     

广义拟牛顿算法对一般目标函数的收敛性

对于无约束最优化问题minf(x),x∈Rn,提出了一种广义拟牛顿算法,并且讨论了广义拟牛顿算法对一般目标函数的全局收敛性,以及当f(x)满足Lipschitz连续的条件下,证明了相应的超线性收敛定理。     

曲线搜索下新的记忆拟牛顿算法

利用新的曲线搜索方法,提出一种解决无约束优化问题的记忆拟牛顿算法,给出该算法全局收敛的条件并进行数值实验.新算法由曲线搜索确定迭代步长,搜索方向用到当前迭代点信息的同时还用到上一次迭代点的信息,而且搜索方向与迭代步长同时确定,是一种有效的算法.     

求解非凸函数优化问题的修正广义拟牛顿算法

对无约束最优化问题,提出了一种修正的广义拟牛顿算法,证明了该算法对非凸函数在Goldstein非精确线搜索下具有全局收敛性．     

非线性规划问题的异步并行的拟牛顿算法

提出了一种求解非线性规划问题的异步并行拟牛顿算法，若假设目标函数是凸的，线性搜索采用Wolfe原则，讨论了所设计的并行算法的全局收敛性。     

一类超线性收敛的投影非拟牛顿算法

本文将梯度投影与非拟牛顿法相结合，给出了一类求解线性约束非线性规划问题的新算法。在一定的条件下，证明了该算法的全局收敛性和超线性收敛性。     

一类超线性收敛的广义投影非拟牛顿算法

结合广义投影算法与非拟牛顿法，给出了求解线性约束非线性规划问题的一类带有非精确线搜索的新算法。在一定的条件下，我们证明了该算法的全局收敛性和超线性收敛性。     

基于三阶拟牛顿方程的对角三阶拟牛顿法

基于三阶拟牛顿方程,结合Zhang H.C.提出的非单调线搜索规则设计了求解大规模无约束优化问题的对角三阶拟牛顿算法。该算法在每次迭代中利用对角矩阵逼近Hessen矩阵的逆,使存储量和计算量明显减少,并且证明了算法的全局收敛性和超线性收敛性。数值试验表明该算法是有效的。     

无约束优化DFP算法的全局收敛性

讨论了无约束优化问题的ＤＦＰ算法的全局收敛性。在适当的条件下，证明了对一致凸目标函数，在非精确线搜索下ＤＦＰ算法具有全局收敛性。     

非拟Newton族的导出及其收敛性

对无约束最优化问题提出了一类非拟Ｎｅｗｔｏｎ族算法,它不再是Ｈｕａｎｇ族中的成员．与拟Ｎｅｗｔｏｎ法相比,新给出的校正公式,在不增加计算量的前提下,能吸纳更多的信息,且仍保持正定对称传递性．对一致凸的目标函数,证明了算法的整体收敛性．且结论对众多类型的精确与非精确线搜索均能成立,而这些线搜索在最优化算法中是比较有效且常用的．     

伪牛顿信赖域算法及其收敛性

本文提出了一类新的求解无约束最优化问题的信赖域算法.新算法将Goldstein线搜索技术与信赖域方法相结合,并通过伪Newdon-δ族校正公式计算信赖域子问题中的Bk,使算法不仅不需重解子问题,而且每步迭代都满足弱拟牛顿方程,保证了目标函数的近似Hesse阵Bk的正定性.在适当的条件下,证明了此算法的全局收敛性和Q-二...     

修正的强Wolfe-Powell线搜索下的PRP方法的全局收敛性

众所周知,原始的PRP方法是不全局收敛的.本文提出一个修正的强Wolfe-Powell线搜索.在这个新的线搜索下,如果每个搜索方向都是下降的,那么可以得到PRP方法的全局收敛性.而且,我们的初始数值结果表明这个新的PRP方法与原始的PRP方法相当,甚至比它稍好一些.     

无约束优化的一类新的非单调信赖域算法

当选取的初始搜索点处于峡谷附近时,利用现有的信赖域算法将搜索到的最优解可能是局部最优解。针对此问题提出了无约束优化的一类新的非单调信赖域算法。该算法是在现有的非单调信赖域算法的基础上通过放宽信赖域半径的校正条件,从而放大信赖域半径,即而可能跳出峡谷。使搜索到最优解可能是全局最优解。在一定的条件下,证明了此算法的全局收敛性,并通过数值实验验证了算法的有效性。     

一些修正的线搜索及其收敛性

文献中,韦(Wei Z.)用k次迭代的矩阵函数f (x-xk)TAk(x-xk)来代替简单函数f(f是给定问题的目标函数),Ak为给定的对称正定矩阵,并给出了一些新的线性搜索.该文在详细叙述新准则的基础上进一步讨论了给定算法在这些线搜索下的下降性质及收敛性.并且证明了当Ak满足文中所给条件时算法具有超线性收敛速度.     

一个求解无约束优化问题的HS修正方法

给出了一个求解非线性无约束优化问题的新的共轭梯度类型公式,并证明了相应的方法在Powell再开始准则下具有充分下降性．文章最后给出了该方法的数值结果．     

一个新的共轭梯度类型方法

提出一种求解无约束问题的新的共轭梯度类型公式，与此相应的方法在强Wolfe线搜索和Powell再开始条件下满足下降条件，并且在适当的情况下具有全局收敛性质。     

一种修正的HS共轭梯度法及其全局收敛性

对经典的HS共轭梯度法进行了修正,保证了搜索方向的充分下降性,这一性质在非精确线搜索和非凸函数情形下也是成立的.在适当的假设下证明了强Wolfe线搜索下算法的全局收敛性,数值实验表明算法数值效果良好.     

一类共轭梯度算法的收敛性

对无约束最优化问题minfx∈R^n（x）,提出了一类与βk^HS相关的共轭梯度算法,采用强Wolfe搜索,在较弱的条件下,证明了其充分下降性和全局收敛性．     

一类基于Grippo线搜索的共轭梯度法

本文考虑求解无约束最优化问题的共轭梯度法，基于传统的FR和PRP算法，综合考虑二者的优势，提出了一类新型共轭梯度算法，在Grippo线搜索下证明了其全局收敛性．依照本算法，我们取得了比较理想的数值结果．