Armijo搜索下改进的LS共轭梯度法

共轭梯度法是求解无约束优化问题的一类重要方法。通过调整搜索方向,提出了一类改进的LS共轭梯度法,该方法在每步迭代中都能不依赖于任何搜索而自行产生充分下降方向。在精确搜索下,该算法将还原为原LS方法。在适当的条件下,获证了该法在Armijo搜索下,即使求解非凸函数极小化的问题,算法也全局收敛。同时,数值实验表明该算法可以有效求解优化问题。     

一种求解大规模非光滑优化问题的共轭梯度法

针对大规模非光滑优化问题,利用Moreau-Yosida正则化技术和Armijo-type线搜索技术,设计了一种修正LS共轭梯度算法.算法的搜索方向不仅满足充分下降条件,而且具有信赖域性质.可以证明新算法在适当条件下全局收敛.初步的数值实验表明,新算法在求解大规模非光滑无约束凸优化问题方面比LMBM方法和MPRP方法更有效.     

一类Armijo搜索下新的共轭梯度法及其全局收敛性

为有效求解大规模无约束优化问题,提出了一类新的混合共轭梯度法.该方法在每步迭代中都不依赖于函数的凸性和搜索条件而自行产生充分下降方向.在适当的条件下,获证了在Armijo搜索下,即使求解非凸函数极小化的问题,算法也具有全局收敛性.同时,数值实验表明所提算法可以有效求解优化测试问题.     

一类新的修正Fletcher-Reeves算法

研究了一类非单调线性搜索技术在无约束化问题共轭梯度算法中的应用,该类非单调线性搜索是属于Armijo型的线性搜索.在适当的条件下,对一般非凸函数,证明了新给出的的非单调线性搜索下,修正Fletcher-Reeves共轭梯度算法的全局收敛性,数值结果表明了该算法的有效性.     

极大极小问题的光滑化信赖域共轭梯度法

目的求解无约束有限极大极小问题。方法利用光滑函数将极大极小问题转化为可微的无约束优化问题。结果给出了信赖域牛顿共轭梯度法解该优化问题的算法。结论该算法是可行的、有效的,尤其是对于大规模问题,该算法与其他方法相比具有明显的优势。     

求解非光滑问题的修正HS共轭梯度法

结合Moreau-Yosida正则化和非单调线搜索技术,提出一种求解非光滑问题的修正HS共轭梯度算法.推导出搜索方向自动满足充分下降条件,证明该算法在适当条件下具有全局收敛性.数值算例验证了该算法能够高效地处理非光滑极小化问题.     

求解大型线性规划的无约束化方法

在本文中,基于对偶理论,把线性规划变成了求解一个凸函数的无约束极小化问题。然后利用共轭梯度法求解该问题,在这个共轭梯度法中,采用了一个非常有效的一维搜索技术。理论分析和数值实验表明在一般条件下,该方法仅需要O(n)次迭代。这里n是变量个数。     

求解非光滑优化问题的修正HS三项共轭梯度法

为了提高大规模非光滑优化问题的求解效率,克服其他方法存储需求大、算法复杂等缺点,提出求解非光滑优化问题的一种修正HS共轭梯度算法。在经典HS三项共轭梯度法的基础上提出一种新的搜索方向,并利用Moreau-Yosida正则化技术和Armijo-type线搜索技术进行设计。新算法满足充分下降条件,搜索方向属于信赖域,在适当条件下证明了新算法全局收敛。初步的数值实验表明新算法在求解非光滑无约束优化问题方面比LMBM方法更有效。新算法不仅具有较好的收敛性质,而且数值表现良好,为更加高效地求解非光滑优化问题提供了新的方法。     

修正LS谱共轭梯度法及其收敛性

提出一个无约束优化问题的修正LS谱共轭梯度法,在Wolfe线搜索下算法具有下降性和全局收敛性,初步的数值实验结果表明该方法是有效的,适合于求解非线性无约束优化问题．     

非光滑逐点最大凸函数的束方法

研究了用束方法求解非光滑逐点最大凸函数的极小化问题，文中给出了最优性条件，次梯度集合的构造方法及算法的迭代程序，提出了新的删除定理，可以减少迭代过程所储存的次梯度的信息量，同时证明了全局收敛定理，极小极大问题，非光滑凸函数。     

求解大规模无约束优化问题的一种新的PRP三项共轭梯度法

提出了一种修正Polak—Ribiere—Polyak(PRP)三项共轭梯度算法,在Yuan-Wei-Lu不精确线搜索下,求解大规模无约束优化问题.在适当的条件下,新算法具有充分下降性和信赖域特征,对于非凸函数具有全局收敛性.初步的数值实验表明,新算法比相似算法更有效.     

L1极小化问题的一种Gauss-Seidal算法

采用罚函数法与Gauss-Seidal算法相结合的思想研究求解L1极小化问题的数值算法:把L1正则化问题视为对L1极小化问题的一种罚函数,由于该函数是非光滑函数,采用光滑化函数对其进行光滑逼近;在此基础上,对此无约束光滑极小化问题采用Gauss-Seidal迭代法求其某种形式的非精确解;再通过合理调整罚参数和光滑化参数, 使得算法产生点列收敛于L1极小化问题的解;最后,通过数值试验测试文中算法的效果, 并从数值计算角度与已有算法进行比较, 结果表明,文中算法具有很好的数值效果.     

无约束非线性优化问题的混合LS-CD谱共轭梯度法

为寻求收敛性质和数值表现具佳的无约束优化算法,利用共轭梯度法和含有两个方向调控参数的谱共轭梯度法,结合LS方法与CD方法给出混合的共轭参数和相应的谱参数,建立采用标准Wolfe线搜索的谱共轭梯度算法,证明了算法满足下降性和全局收敛性,数值试验显示算法是有效的,适合于求解大型无约束非线性优化问题.研究结果表明:谱共轭梯度法两个参数的适当构造有利于降低算法的收敛条件,增强算法的适用性.     

一种改进的非线性共轭梯度法

共轭梯度法是求解大规模无约束优化问题的一种有效方法,对DY共轭梯度法的搜索条件进行了改进,并证明在新的Wolfe搜索条件下DY共轭梯度法具有全局收敛性,此方法的改进,为求解大规模无约束优化问题以及各种算法在今后的研究提供了参考。     

一种改进的非线性共轭梯度法

共轭梯度法是求解大规模无约束优化问题的一种有效方法,对DY共轭梯度法的搜索条件进行了改进,并证明在新的Wolfe搜索条件下DY共轭梯度法具有全局收敛性,此方法的改进,为求解大规模无约束优化问题以及各种算法在今后的研究提供了参考。     

求解大规模非光滑问题的一种修正DY共轭梯度算法

设计了一种针对大规模非光滑优化问题的修正DY共轭梯度算法.新算法的搜索方向不仅自动满足充分下降条件,而且属于信赖域.新算法在适当条件下全局收敛.初步的数值实验显示,新算法能够求解高达50 000维的非光滑凸和非凸优化问题,表明其在求解大规模非光滑无约束凸优化问题方面是有效的.     

一类混合CD-LS共轭梯度法的全局收敛性

为了寻找同时具有良好的收敛性和数值表现的共轭梯度法.将CD方法和LS方法结合,选用推广的Wolfe线搜索,构造出一类新的混合共轭梯度法.新的混合共轭梯度法不需要限制推广的Wolfe线搜索条件中的参数,但得到的下降性与CD法一致,具有比CD方法更好的收敛性,并具有全局收敛性.对新算法进行数值试验,通过与CD法和LS法的数值结果进行比较,表明新算法是可行的,尤其对大规模无约束优化问题.     

一个共轭梯度算法与随机两人零和博弈分析

为研究一种新的关于求解无约束优化问题的三项共轭梯度算法,通过构造新的β_k和应用修正线搜索技术的方法,证明了算法的性质满足充分下降性;具有信赖域特征;对于非凸函数满足全局收敛性,图像处理实验表明新算法比经典PRP算法更具竞争力;通过对随机两人零和博弈模型的求解,验证了算法对实际问题的有效性。     

一个在Armijio线搜索下全局收敛的改进共轭梯度法

非线性共轭梯度方法是解大规模无约束问题最有效的方法之一,改进了Liu等人提出的共轭梯度算法得到MD方法,MD方法不依赖任何线搜索具有充分下降性.在Armijio型非精确线搜索下,证明了新方法的全局收敛性.     

求解无约束极大极小问题的光滑化不精确牛顿算法

提出了求解无约束极大极小问题的光滑化不精确牛顿算法.该算法利用光滑凝聚函数近似不可微的极大值函数,从而得到目标函数的光滑近似,进而再利用不精确牛顿法求解光滑化后的可微的无约束优化问题.在一定的假设条件下,算法具有全局收敛性,初步的数值实验表明,算法是有效的.