基于修正拟牛顿方程解非线性方程组问题的非单调自适应信赖域算法

基于修正拟牛顿方程,结合一种新的非单调策略,设计了一种新的解非线性方程组问题的非单调自适应信赖域算法,分析了算法的全局收敛性.进一步的数值实验表明算法是有效的,并且适于求解大规模问题.     

非单调QP-free非可行域方法

提出了带有Fischer-Burmeister非线性互补(NCP)数的非单调QP-free非可行域算法.根据优化问题的一阶KKT条件,利用乘子和NCP函数,得到非光滑方程,给出解这个非光滑方程的迭代算法.该算法包含原始-对偶变量,在局部意义下,可看成关于一阶KKT最优条件的扰动牛顿-拟牛顿迭代算法.在线性搜索时,此算法采用非单调方法.给出的算法是可实现的并具有全局收敛性,且在适当假设下具有超线性收敛性.     

基于信赖域技术和修正拟牛顿方程的非单调超记忆梯度算法

基于信赖域技术和修正拟牛顿方程,结合Neng-Zhu Gu非单调策略,设计新的求解无约束最优化问题的非单调超记忆梯度算法,分析算法的收敛性和收敛速度。新算法每次迭代节约了矩阵的存储量和计算量,算法稳定,适于求解大规模问题。数值试验结果表明新算法是有效的。     

基于三阶拟牛顿方程的对角三阶拟牛顿法

基于三阶拟牛顿方程,结合Zhang H.C.提出的非单调线搜索规则设计了求解大规模无约束优化问题的对角三阶拟牛顿算法。该算法在每次迭代中利用对角矩阵逼近Hessen矩阵的逆,使存储量和计算量明显减少,并且证明了算法的全局收敛性和超线性收敛性。数值试验表明该算法是有效的。     

基于新拟牛顿方程的拟牛顿法对一般目标函数的全局收敛性

文章通过四阶泰勒展开提出了一种新拟牛顿方程,且给出了新的拟牛顿算法,并结合Wolfe非精确线性搜索证明了此新拟牛顿算法对一般非凸无约束优化问题的全局收敛性.     

一类新拟牛顿方程的非单调信赖域算法

利用新拟牛顿方程及其修改BFGS校正公式,将非单调Wolfe线搜索技术与信赖域相结合,提出了一类拟牛顿非单调信赖域算法。在较弱的条件下,证明了此算法的全局收敛性。数值结果表明该算法是有效的。     

带线搜索的修正拟牛顿非单调信赖域算法

提出了一类新的求解无约束最优化问题的非单调信赖域算法.不同于传统的非单调信赖域算法,此算法在每步都采用非单调W olfe线搜索得到下一个迭代点.这样得到的新算法不仅不需重解子问题,而且在每步迭代满足新拟牛顿方程同时保证目标函数的近似Hessen阵Bk的正定性.在较弱的条件下,证明了此算法的全局收敛性.数值结果表明该算法的有效性.     

Perry-Shanno无记忆拟牛顿方法在非单调搜索下的收敛性

将Perry-Shanno无记忆拟牛顿方法与一类非单调搜索相结合,给出了一类求解无约束最优化问题的新算法.在目标函数为凸的条件下,证明了该算法的全局收敛性.     

一种基于锥模型的非单调拟牛顿信赖域方法

将非单调技术与锥模型拟牛顿信赖域方法相结合,提出了一种基于锥模型的非单调拟牛顿信赖域方法。讨论了锥模型信赖域子问题中参数γk在不同情况下的选取,证明了利用所构造的参数γk,在一定条件下,尤其是当目标函数值非单调时,校正公式中Bk+1仍保持正定性。数值实验表明算法是有效的。     

绝对值方程的非单调光滑算法

给出了一个新的非单调线性搜索技术,其包含传统的单调线性搜索和一些非单调线性搜索.基于新的非单调技术,给出了一个求解绝对值方程的光滑算法,证明了算法具有全局和局部二次收敛性质.数值试验表明算法是有效的.     

优化问题的拟牛顿算法

拟牛顿算法是无约束优化问题的有效而名的算法,是牛顿法的近似,牛顿算法要求目标函数二次连续可微,Hesse阵非奇异且正定,计算量较大,拟牛顿算法只要求目标函数一次连续可微,以拟牛顿方程为基础来构造算法,易于实现,计算量较小,并形成了完整的算法体系,在理论与应用上都有重要意义,     

基于新拟牛顿方程的一类超线性收敛的改进BFGS算法

针对无约束最优化问题,在已建立的一类新拟牛顿方程的基础上,把满足于传统拟牛顿方程的一类改进BFGS算法推广到新拟牛顿方程,从而得到一类基于新拟牛顿方程的改进BFGS算法.证明该算法在目标函数为一致凸时具有局部超线性收敛性.     

一类改进的拟牛顿算法

在利用拟牛顿算法求解非线性无约束优化问题中,本文在文献[8]提出的拟牛顿方程基础上,通过加权形式构造一类改进拟牛顿方程,产生了修正的BFGS校正公式,进而提出改进的拟牛顿算法,在一定条件下证明新算法的全局收敛性。数值实验结果表明,与文献[12]中的拟牛顿算法对比,新算法在迭代次数上更有优势。     

一种新的修正有限内存拟牛顿法

依据修正拟牛顿方程,提出一种新的双循环有限内存拟牛顿法.与经典的有限内存BFGS方法相比,新算法同时利用函数值和梯度信息构造拟牛顿校正矩阵,且不会增加计算量,理论分析和数值检验说明了新算法的有效性。     

无约束优化的修正谱梯度法

在Barzilai-Borwein(BB)谱梯度法的基础上,利用相关文献中的修正拟牛顿条件,给出一个采用杂交谱梯度步及新型非单调Armijo线搜索的修正谱梯度法,在较弱的条件下证明了算法具有全局收敛性,并对相应算法进行数值实验,结果表明该方法比原BB方法更有效,给出的步长公式为谱梯度法提供了新的步长选择.     

无罚函数无滤子的非单调无二次规划方法

提出了求解光滑不等式约束最优化问题的非单调无罚函数无滤子的无二次规划非可行域方法.通过乘子和非线性互补函数,构造一个等价于原约束问题1阶最优条件的非光滑方程组.在此基础上,通过牛顿-拟牛顿迭代得到满足1阶最优条件的解,在迭代中采用了无罚函数无滤子的非单调线搜索方法以避免罚函数的选取和滤子的存储,使得目标函数或者约束违反度函数具有充分的非单调下降,试探步更易于接受.算法不要求迭代点和初始点严格可行.该算法是可实现的,具有全局收敛性.另外,在较弱条件下可以证明该方法具有超线性收敛性.     

利用函数值信息的修正多步拟牛顿法

拟牛顿方法在无约束优化中起着核心的作用.一般的拟牛顿方法是在每一步的迭代中,利用上一步产生的梯度信息,建立一个拟牛顿方程,进而求得目标函数Hessian阵的近似.多步拟牛顿法则是利用前m(m≥0)步的梯度信息,通过插值多项式建立一个扩展的拟牛顿方程.这两种方法的共同缺点是没有利用已知的函数值信息.本文在标准多步拟牛顿法基础上,充分利用函数值信息,构造出一个修正的带有向量参数的多步拟牛顿方程,该修正方程的多步拟牛顿法保持了较好的正定性和局部收敛性,且效率较高.数值实验也表明这个修正的算法在解决中,高维问题中比标准的多步拟牛顿方法有着更好的数值效果.     

一类非凸变分不等式组的新迭代算法(英文)

本文研究了一类非凸变分不等式组,利用投影技术,建立了一些求解这类非凸变分不等式组的新的迭代算法,并在仅要求算子的Lipschitz连续性,而不要求拟单调、单调、强制性的情况下证明了这些新的迭代算法的收敛性,证明方法也比相关文献简单.     

方程求根的一个四阶迭代算法

在微分中值定理的渐近性的结论的基础上,对非线性方程和超越方程f(x)=0的牛顿迭代法作了重要修改,构造了新的"牛顿类"迭代方法,给出的这个新的迭代算法,它具有四阶的收敛速度,数值试验表明,该算法与牛顿迭代法相比,具有更快的收敛速度,是非常有效的.     

一种基于四阶Taylor展开的多目标改进的拟牛顿算法研究

借助于目标函数的四阶Taylor展开导出新的拟牛顿方程,并将其应用到多目标优化问题中,给出了一种多目标优化改进的拟牛顿算法(称为M-TBFGS算法),同时在一定的假设条件下,结合Wolfe搜索准则,证明了本文算法的收敛性,并进行了数值试验,结果表明,本文的M-TBFGS算法是正确和有效的。