无约束优化中带线搜索的非单调信赖域算法

将信赖域与线搜索方法相结合,采用非单调技术,提出一种求解无约束优问题的非单调信赖域算法,并在适当的条件下,证明算法有全局收敛性和Q-二次收敛性.算法在试探步不被接受时,采用非单调线搜索寻找下一迭代点.算法克服了传统非单调算法中用于产生非单调性的参考函数值远大于实际函数值的问题.初步的数值试验证实算法是有效的.     

一类新的非单调线性搜索BFGS算法

研究了一类非单调线搜索在解无约束优化问题BFGS算法中的应用.该类非单调线搜索属于Armijo型线搜索,并且在每次迭代计算步长时,初始测试步长可根据目标函数的特征进行调整.证明了本算法全局收敛性,通过对公共优化测试函数的实验,表明了算法的稳健性和有效性.     

简单界约束非线性方程组的不精确线搜索法

提出一种用非单调线搜索方法求解简单界约束非线性方程组,算法采用满足Armijo条件的不精确线搜索技巧,并使用非单调结构,将当前函数最大值的下降改进为函数平均值的下降,推广了算法的适用范围.最后进行了数值试验,结果表明,算法十分有效.     

充分下降的共轭梯度法簇及其全局收敛性

在双参数共轭梯度法的基础上,给出一类具有充分下降性的共轭梯度法簇,证明了相应的方法在非单调线搜索及弱Wolfe线搜索下对非凸目标函数全局收敛,并用数值实验表明该方法具有良好的数值结果.     

非光滑单值优化的非单调线搜索方法

提供了非光滑单值优化的非单调线搜索方法,基于线性规划的对偶定理,目标函数的方向导数可以表示成线性规划问题,这在实际计算非单调线搜索子问题时是非常重要的,在合理的条件下,证明了 法的整体收敛性和局部超线性收敛速率。     

线性二阶锥权互补问题的非单调无导数下降算法

提出非单调无导数下降算法,用于求解线性二阶锥权互补问题.构造一个效益函数,分析其水平集有界性.提出的算法在计算步长时进行非单调线搜索,搜索方向在一定假设下满足下降条件.理论证明算法全局收敛,数值结果验证算法有效.     

在非单调线搜索下的CD共轭梯度法的收敛性

对CD共轭梯度法给出一种新的非单调线搜索方法,并证明了在这种非单调线搜索方法下能保证原CD共轭梯度法的全局收敛性.     

非单调共轭梯度法的全局收敛结果

共轭梯度法主要依靠d1=-g1,dk+1=-gk+1+βkdk,k 1,其中g为目标函数f(x)的梯度,进行迭代,不同的βk会产生不同的算法.本文主要是在非单调线搜索的条件下,当βk满足σ|βk/βFRk| σ(0<σ<1,0< σ<12)时证明了其全局收敛性.     

一类带线搜索的非单调信赖域算法

给出无约束最优化的一类带线搜索的非单调信赖域算法.在一定条件下证明了算法的全局收敛性和Q-二阶收敛速度.这类算法与通常的非单调信赖域算法不同.当试探步不成功时,采用线搜索技术得到下一个迭代点.这样不仅减少了计算量,而且避免了下参考函数值远大于实际函数值的问题.     

一个修改的HS共轭梯度算法及其收敛性

给出一个修改的HS共轭梯度方法,该方法能保证参数βk非负且搜索方向在不需要任何线搜索下具有充分下降性.在适当条件下证明此方法对一般目标函数具有全局收敛性,同时给出数值检验结果.     

基于锥模型的非单调自适应信赖域算法

基于锥模型,结合提出的新的自适应技术,建立了一个求解无约束最优化问题的非单调自适应信赖域算法.当试探步不被接受时,采用非单调线搜索,减少了计算量.充分利用包含当前迭代点信息的新的自适应策略调节信赖域半径.在适当的条件下,证明了算法的全局收敛性和Q-二阶收敛性.数值试验表明该算法是有效的.     

基于简单二次函数模型的滤子非单调信赖域算法

对无约束最优化问题提出了一个基于简单二次函数模型的非单调滤子信赖域算法。算法在信赖域试探步不被接受时,采用滤子技术,增大试探步被接受的可能性;如果此试探步也不能被滤子集接受,则用固定的公式取搜索方向,并沿此搜索方向进行非单调Wolfe线搜索得到步长,从而产生新的迭代点。该算法不需要重解子问题,减少了计算量。在较少的条件下,证明了算法的全局收敛性。初步的数值试验表明了算法的有效性。     

扰动谱尺度BFGS算法及收敛性分析

在前人提出的扰动BFGS算法的基础上,结合谱尺度算法的思想,提出一种扰动谱尺度BFGS算法,建立算法的全局收敛性定理,本研究证明该扰动谱尺度BFGS算法在一定条件下采用单调Wolfe-Powell型线性搜索和非单调Wolfe-Powell型线性搜索均具有全局收敛性,同时还证明采用单调Wolfe-Powell型线性搜索具有2-线性收敛性.     

带有固定步长的非单调信赖域方法

该文提出一种新的非单调信赖域方法．当试探步不能被接受时，算法沿着试探步的方向求得下一个迭代点，其中步长利用固定公式计算．这种方法既避免了重复求解信赖域子问题，又减少了线搜索方法计算函数值的次数．该文采用的非单调策略是基于张洪超和Hanger（2004）出的非单调线搜索技术．在适当的条件下，证明了算法的全局收敛性及超线性收敛性．最后给出了初步的数值实验结果．     

带回溯线搜索的新锥模型信赖域算法

结合线搜索方法计算量小的优点和信赖域算法很好的收敛性,将回溯线搜索应用到新锥模型自适应信赖域方法上构造了一类新的算法,并证明了该算法具有全局收敛性。初步的数值实验表明该算法是可行的。     

关于追踪线搜索下DFP算法的全局收敛性

对一致凸二次函数最小值问题，证明了追踪 线搜索下ＤＦＰ算法具有全局收敛性，并且收敛速度为超线性。     

一类记忆梯度法的收敛性

研究一类新的记忆梯度法,算法利用当前点的负梯度和前一点的搜索方向的线性组合为搜索方向,以强wolfe线搜索确定步长,并证明了算法具有全局收敛性,当目标函数一致凸时讨论了收敛速度．