无约束优化的非单调三次正则BB算法

先利用BB(Barzilai Borwein)类型参数构造目标函数Hessian矩阵的近似矩阵, 通过极小化当前迭代点处的三次正则化近似梯度模型求解试探步, 再结合非单调线搜索策略提出一个非单调三次正则BB算法, 最后给出算法的收敛性证明. 数值实验结果表明, 该算法数值性能良好.     

大规模无约束优化的非单调有限内存BFGS算法

结合有限内存及非单调搜索技术提出了求解大规模无约束优化的非单调有限内存BFGS(NLBFGS)算法,在一定的条件下给出了算法收敛性结论.从标准试验函数库CUTE中选择标准函数,与线搜索满足强Wolfe条件的L-BFGS算法相对比进行了数值试验,结果表明算法是较为满意的.     

一类无约束优化问题的非单调共轭梯度法

主要研究了一类在推广的线搜索条件下的非单调共轭梯度法，并在较弱的假设条件下证明了其全局收敛性。     

无约束优化中带线搜索的非单调信赖域算法

将信赖域与线搜索方法相结合,采用非单调技术,提出一种求解无约束优问题的非单调信赖域算法,并在适当的条件下,证明算法有全局收敛性和Q-二次收敛性.算法在试探步不被接受时,采用非单调线搜索寻找下一迭代点.算法克服了传统非单调算法中用于产生非单调性的参考函数值远大于实际函数值的问题.初步的数值试验证实算法是有效的.     

解无约束优化问题的一个新的非单调信赖域算法

在传统信赖域方法的基础上,提出了求解无约束最优化问题的一个新的带非单调线搜索的信赖域算法.该算法采用非单调Wolfe线搜索技术获得迭代步长,新算法在每一迭代步只需求解一次信赖域子问题,克服了每次迭代求解信赖域子问题时计算量较大的缺点.在一定条件下,证明了算法的全局收敛性.数值实验结果表明该算法是有效的.     

无约束优化的一类新的非单调信赖域算法

当选取的初始搜索点处于峡谷附近时,利用现有的信赖域算法将搜索到的最优解可能是局部最优解。针对此问题提出了无约束优化的一类新的非单调信赖域算法。该算法是在现有的非单调信赖域算法的基础上通过放宽信赖域半径的校正条件,从而放大信赖域半径,即而可能跳出峡谷。使搜索到最优解可能是全局最优解。在一定的条件下,证明了此算法的全局收敛性,并通过数值实验验证了算法的有效性。     

解无约束优化问题的非单调修改的BFGS算法

考虑求解一般的无约束优化问题,从有效节省计算量和提高解的精度的角度考虑,将传统的BFGS算法加以改进,并与当前流行的非单调技术相结合,给出了求解无约束问题的带线搜索的非单调BFGS算法,文中给出了新算法的全局收敛性的证明,并进行了数值实验,数值实验结果表明新算法是有效的。     

无约束最优化的共轭梯度路非单调信赖域算法

提供了无约束最优化问题的共轭梯度路径非单调信赖域算法。进而获得了共轭梯度路的一些重要性质。基于这些性质和一些合理的假设，证明了算法具有整体收敛性和保持局部超线性收敛速率。     

非光滑单值优化的非单调线搜索方法

提供了非光滑单值优化的非单调线搜索方法,基于线性规划的对偶定理,目标函数的方向导数可以表示成线性规划问题,这在实际计算非单调线搜索子问题时是非常重要的,在合理的条件下,证明了 法的整体收敛性和局部超线性收敛速率。     

一类无约束优化的非单调共轭梯度法

针对无约束优化问题,提出一类新的非单调共轭梯度法,在新的非单调Wolfe条件下保证了算法的全局收敛性,并在每次迭代过程中,均可得到初始的自适应步长和充分下降方向.数值结果表明算法是可行和有效的.     

无约束非单调自适应三次超估方法(英文)

为了求解无约束优化问题,给出了一种非单调三次超估方法,并证明了在适当条件下的全局收敛性和超线性收敛性.     

无约束优化DFP算法的全局收敛性

讨论了无约束优化问题的ＤＦＰ算法的全局收敛性。在适当的条件下，证明了对一致凸目标函数，在非精确线搜索下ＤＦＰ算法具有全局收敛性。     

全局优化的非单调谱共轭梯度算法

在非单调条件下给出一系列的谱共轭梯度算法, 并根据不同的表达形式, 给出了收敛性分析. 结果表明, 该算法在迭代次数上明显优于其他算法.     

一类无约束优化问题的非单调谱共轭梯度方法

结合文献[5]给出的求解非线性无约束优化问题的新公式βkWYL=[gTk(gk-‖gk‖/‖gk-1‖gk-1)]/gk-1Tgk-1提出了一种新的非单调谱共轭梯度法,证明算法具有全局收敛性,并进行数值试验.数值试验结果表明,该方法具有良好的计算效能,特别适合于求解大规模无约束优化问题.     

非单调共轭梯度法的全局收敛结果

共轭梯度法主要依靠d1=-g1,dk+1=-gk+1+βkdk,k 1,其中g为目标函数f(x)的梯度,进行迭代,不同的βk会产生不同的算法.本文主要是在非单调线搜索的条件下,当βk满足σ|βk/βFRk| σ(0<σ<1,0< σ<12)时证明了其全局收敛性.     

无约束优化的修正谱梯度法

在Barzilai-Borwein(BB)谱梯度法的基础上,利用相关文献中的修正拟牛顿条件,给出一个采用杂交谱梯度步及新型非单调Armijo线搜索的修正谱梯度法,在较弱的条件下证明了算法具有全局收敛性,并对相应算法进行数值实验,结果表明该方法比原BB方法更有效,给出的步长公式为谱梯度法提供了新的步长选择.     

一类非单调三参数共轭梯度算法研究

虽然求解无约束优化问题共轭梯度方法的算法程序便于计算机上实现,但难于建立算法的全局收敛性理论.为弥补其不足,研究了一类新的共轭梯度算法.该算法搜索方向的构造中引入了3个参数,且通过合适地选取这些参数保证了所得搜索方向不依赖于线搜索技术,是目标函数的恒充分下降方向.以此为基础,提出了一种求解无约束优化问题的非单调三参数共...     

一类新的非单调线性搜索BFGS算法

研究了一类非单调线搜索在解无约束优化问题BFGS算法中的应用.该类非单调线搜索属于Armijo型线搜索,并且在每次迭代计算步长时,初始测试步长可根据目标函数的特征进行调整.证明了本算法全局收敛性,通过对公共优化测试函数的实验,表明了算法的稳健性和有效性.     

一种无约束优化的非单调拟牛顿信赖域算法

提出一种新的信赖域算法, 使子问题产生的试探步 d^k始终保持在信赖域中, 在每次迭代过程中, 试探步d^k均能得到校正, 当试探步不被接受时, 采用非单调线搜索技术, 无需重解子问题. 在适当的条件下, 证明了算法的全局收敛性.     

基于自适应Barzilai-Borwein步长的直接搜索共轭梯度法

利用最新迭代点附近的函数值信息,估计该点的单纯形梯度,并计算当前点的Barzilai-Borwein(BB)步长,提出一种基于自适应BB步长的网格步长更新策略,有效解决了网格步长下降过快的问题,同时结合新的正基更新策略提出一种新的直接搜索算法.数值结果表明,该算法在稳定性和效率上有较大改进.