复合非光滑优化的一种非单调线搜索方法

给出了一个处理复合非光滑极小化问题minh(f(x))的非单调线搜索算法．目标函数中，f：R^n→R^n是局部Lipschitz函数，h：R^n→R是连续可微的凸函数．推广了Pang在文献[5]中的算法，并证明了所给算法的全局收敛性．     

一类无约束优化问题的非单调共轭梯度法

主要研究了一类在推广的线搜索条件下的非单调共轭梯度法，并在较弱的假设条件下证明了其全局收敛性。     

一种非单调带线搜索的L-M方法

基于累次的函数平均值下降,采用非单调搜索技术,提出求解无约束优化问题的一个新的非单调线搜索的L-M方法,而传统的非单调线搜索方法取当前迭代点及前m(k)个点中函数值最大的作为参考函数值.在适当条件下,证明该算法的收敛性和k次线性收敛.     

非单调线搜索下的记忆梯度法及其全局收敛性

提出一种新的非单调线搜索准则,结合文献中给出的dk,研究一类新的记忆梯度法,在较弱条件下证明了其全局收敛性.算法采用新的非单调线搜索准则,使目标函数值在每一次迭代时充分下降,有效降低了算法的计算量,同时还减弱了文献中算法的使用条件,从而扩大了算法求解问题的范围.     

一类新的非单调线性搜索BFGS算法

研究了一类非单调线搜索在解无约束优化问题BFGS算法中的应用.该类非单调线搜索属于Armijo型线搜索,并且在每次迭代计算步长时,初始测试步长可根据目标函数的特征进行调整.证明了本算法全局收敛性,通过对公共优化测试函数的实验,表明了算法的稳健性和有效性.     

基于非单调线搜索的无记忆拟牛顿法的全局收敛性

文章就Perry_Shanno无记忆拟牛顿法在无约束最优化问题上,对采用非单调线搜索的情况下是否具有全局收敛性进行了研究.在目标函数为凸的条件下,证明了该算法的全局收敛性.     

非单调共轭梯度法的全局收敛结果

共轭梯度法主要依靠d1=-g1,dk+1=-gk+1+βkdk,k 1,其中g为目标函数f(x)的梯度,进行迭代,不同的βk会产生不同的算法.本文主要是在非单调线搜索的条件下,当βk满足σ|βk/βFRk| σ(0<σ<1,0< σ<12)时证明了其全局收敛性.     

大规模无约束优化的非单调有限内存BFGS算法

结合有限内存及非单调搜索技术提出了求解大规模无约束优化的非单调有限内存BFGS(NLBFGS)算法,在一定的条件下给出了算法收敛性结论.从标准试验函数库CUTE中选择标准函数,与线搜索满足强Wolfe条件的L-BFGS算法相对比进行了数值试验,结果表明算法是较为满意的.     

解无约束优化问题的一个新的非单调信赖域算法

在传统信赖域方法的基础上,提出了求解无约束最优化问题的一个新的带非单调线搜索的信赖域算法.该算法采用非单调Wolfe线搜索技术获得迭代步长,新算法在每一迭代步只需求解一次信赖域子问题,克服了每次迭代求解信赖域子问题时计算量较大的缺点.在一定条件下,证明了算法的全局收敛性.数值实验结果表明该算法是有效的.     

非光滑单值优化的信赖域算法

提供了求解非光滑单值优化问题的信赖域算法．基于线性规划的对偶理论,将目标函数的方向导数转化成线性规划,从而使信赖域子问题容易数值求解． 在合理的条件下,证明了算法的整体收敛性和局部超线性收敛速率．     

一类无约束优化问题的非单调谱共轭梯度方法

结合文献[5]给出的求解非线性无约束优化问题的新公式βkWYL=[gTk(gk-‖gk‖/‖gk-1‖gk-1)]/gk-1Tgk-1提出了一种新的非单调谱共轭梯度法,证明算法具有全局收敛性,并进行数值试验.数值试验结果表明,该方法具有良好的计算效能,特别适合于求解大规模无约束优化问题.     

非单调QP-free非可行域方法

提出了带有Fischer-Burmeister非线性互补(NCP)数的非单调QP-free非可行域算法.根据优化问题的一阶KKT条件,利用乘子和NCP函数,得到非光滑方程,给出解这个非光滑方程的迭代算法.该算法包含原始-对偶变量,在局部意义下,可看成关于一阶KKT最优条件的扰动牛顿-拟牛顿迭代算法.在线性搜索时,此算法采用非单调方法.给出的算法是可实现的并具有全局收敛性,且在适当假设下具有超线性收敛性.     

无约束优化问题线搜索方法的收敛性

在较弱条件下给出了5种线搜索准则下的线搜索方法的收敛结论,这些结论对于构造快速有效的收敛算法是十分有用的。表明了搜索方向在这些方法中起主要作用,同时步长在一定条件下保证了算法的全局收敛性。说明了算法可用于求解更广泛的无约束优化问题。     

简单界约束非线性方程组的不精确线搜索法

提出一种用非单调线搜索方法求解简单界约束非线性方程组,算法采用满足Armijo条件的不精确线搜索技巧,并使用非单调结构,将当前函数最大值的下降改进为函数平均值的下降,推广了算法的适用范围.最后进行了数值试验,结果表明,算法十分有效.     

使用非单调技术的Gauss—Newton算法

提供了一种求解非光谱方程组的非单调技术结合Gauss-Newton算法,在合理的条件下,证明了算法不仅具有整体收敛性,而且获得局部超线性收敛速度。     

一类带线搜索的非单调信赖域算法

给出无约束最优化的一类带线搜索的非单调信赖域算法.在一定条件下证明了算法的全局收敛性和Q-二阶收敛速度.这类算法与通常的非单调信赖域算法不同.当试探步不成功时,采用线搜索技术得到下一个迭代点.这样不仅减少了计算量,而且避免了下参考函数值远大于实际函数值的问题.