线性二阶锥权互补问题的非单调无导数下降算法

提出非单调无导数下降算法,用于求解线性二阶锥权互补问题.构造一个效益函数,分析其水平集有界性.提出的算法在计算步长时进行非单调线搜索,搜索方向在一定假设下满足下降条件.理论证明算法全局收敛,数值结果验证算法有效.     

一种非单调带线搜索的L-M方法

基于累次的函数平均值下降,采用非单调搜索技术,提出求解无约束优化问题的一个新的非单调线搜索的L-M方法,而传统的非单调线搜索方法取当前迭代点及前m(k)个点中函数值最大的作为参考函数值.在适当条件下,证明该算法的收敛性和k次线性收敛.     

解非线性半定规划的一种回溯线搜索型算法

为避免罚函数和滤子的缺点,提高带有等式约束和半负定矩阵约束的非线性半定规划求解效率,本文通过二次半定子问题构建搜索方向,结合回溯线搜索技术和非单调充分下降性条件,提出了一种新的无罚函数无滤子的线搜索型序列半定规划算法.在合理的假设条件下,证明了新算法的适定性以及全局收敛性,最后通过初步的数值试验验证了新算法的有效性.     

基于非线性共轭梯度的同时扰动随机逼近方法

为了消除黑塞矩阵和步长因子的影响,利用非线性共轭梯度算法计算搜索方向,在混合非线性共轭梯度算法的作用下保证了每次搜索均为下降方向;利用非精确线搜索方法改进SPSA步长计算方法,通过与下降的搜索方向结合,保证了每次迭代时目标函数值的减小,加快了收敛速度.将改进的SPSA算法用于异步电机再励学习系统中,仿真结果证明了其可行性和优越性.     

一类新的非单调线性搜索BFGS算法

研究了一类非单调线搜索在解无约束优化问题BFGS算法中的应用.该类非单调线搜索属于Armijo型线搜索,并且在每次迭代计算步长时,初始测试步长可根据目标函数的特征进行调整.证明了本算法全局收敛性,通过对公共优化测试函数的实验,表明了算法的稳健性和有效性.     

无约束优化中带线搜索的非单调信赖域算法

将信赖域与线搜索方法相结合,采用非单调技术,提出一种求解无约束优问题的非单调信赖域算法,并在适当的条件下,证明算法有全局收敛性和Q-二次收敛性.算法在试探步不被接受时,采用非单调线搜索寻找下一迭代点.算法克服了传统非单调算法中用于产生非单调性的参考函数值远大于实际函数值的问题.初步的数值试验证实算法是有效的.     

一类非单调三参数共轭梯度算法研究

虽然求解无约束优化问题共轭梯度方法的算法程序便于计算机上实现,但难于建立算法的全局收敛性理论.为弥补其不足,研究了一类新的共轭梯度算法.该算法搜索方向的构造中引入了3个参数,且通过合适地选取这些参数保证了所得搜索方向不依赖于线搜索技术,是目标函数的恒充分下降方向.以此为基础,提出了一种求解无约束优化问题的非单调三参数共...     

一种新的非精确线搜索策略及其收敛性质

对无约束优化问题,给出一种新的非精确线搜索策略.该线搜索准则可以在每一步迭代中获得更多的下降量,特别地,它可看作是一般非精确线搜索的推广.在适当的条件下,证明了利用此类线搜索与下降方向相结合所得算法是全局收敛的.     

一种修正的HS共轭梯度法及其全局收敛性

对经典的HS共轭梯度法进行了修正,保证了搜索方向的充分下降性,这一性质在非精确线搜索和非凸函数情形下也是成立的.在适当的假设下证明了强Wolfe线搜索下算法的全局收敛性,数值实验表明算法数值效果良好.     

一类带线搜索的非单调信赖域算法

给出无约束最优化的一类带线搜索的非单调信赖域算法.在一定条件下证明了算法的全局收敛性和Q-二阶收敛速度.这类算法与通常的非单调信赖域算法不同.当试探步不成功时,采用线搜索技术得到下一个迭代点.这样不仅减少了计算量,而且避免了下参考函数值远大于实际函数值的问题.     

一类记忆梯度法的收敛性

研究一类新的记忆梯度法,算法利用当前点的负梯度和前一点的搜索方向的线性组合为搜索方向,以强wolfe线搜索确定步长,并证明了算法具有全局收敛性,当目标函数一致凸时讨论了收敛速度．     

一个三项LS共轭梯度方法

给出一个三项LS共轭梯度方法,并在适当条件下获得此方法对一般函数的全局收敛性.该方法能保证搜索方向在不需要任何线搜索下具有充分下降性,而且比通常的LS方法更具竞争性.     

带有固定步长的非单调信赖域方法

该文提出一种新的非单调信赖域方法．当试探步不能被接受时，算法沿着试探步的方向求得下一个迭代点，其中步长利用固定公式计算．这种方法既避免了重复求解信赖域子问题，又减少了线搜索方法计算函数值的次数．该文采用的非单调策略是基于张洪超和Hanger（2004）出的非单调线搜索技术．在适当的条件下，证明了算法的全局收敛性及超线性收敛性．最后给出了初步的数值实验结果．     

一种求解带不等式约束优化问题的新滤子SQP算法

介绍了一种线搜索滤子SQP算法,在适当的条件下证明了它的全局收敛性。该算法无需使用罚函数作为价值函数,也不需要可行性恢复阶段,对滤子接受条件有所改进,使其更容易接受好的迭代步,数值结果表明它是非常的。     

非单调线搜索下的记忆梯度法及其全局收敛性

提出一种新的非单调线搜索准则,结合文献中给出的dk,研究一类新的记忆梯度法,在较弱条件下证明了其全局收敛性.算法采用新的非单调线搜索准则,使目标函数值在每一次迭代时充分下降,有效降低了算法的计算量,同时还减弱了文献中算法的使用条件,从而扩大了算法求解问题的范围.     

非单调QP-free非可行域方法

提出了带有Fischer-Burmeister非线性互补(NCP)数的非单调QP-free非可行域算法.根据优化问题的一阶KKT条件,利用乘子和NCP函数,得到非光滑方程,给出解这个非光滑方程的迭代算法.该算法包含原始-对偶变量,在局部意义下,可看成关于一阶KKT最优条件的扰动牛顿-拟牛顿迭代算法.在线性搜索时,此算法采用非单调方法.给出的算法是可实现的并具有全局收敛性,且在适当假设下具有超线性收敛性.     

一类Armijo搜索下新的共轭梯度法及其全局收敛性

为有效求解大规模无约束优化问题,提出了一类新的混合共轭梯度法.该方法在每步迭代中都不依赖于函数的凸性和搜索条件而自行产生充分下降方向.在适当的条件下,获证了在Armijo搜索下,即使求解非凸函数极小化的问题,算法也具有全局收敛性.同时,数值实验表明所提算法可以有效求解优化测试问题.     

一种非线性扩展混合共轭梯度算法的全局收敛性

描述了非线性FR共轭梯度法、非线性PRP共轭梯度法、非线性DY共轭梯度法等求解大规模无约束优化问题的有效算法.研究了计算更为有效的适合求解无约束优化问题的一种非线性扩展混合共轭梯度算法;给出了在Wolfe型线搜索下的非线性扩展混合共轭梯度法,算法产生的方向为下降方向.在一般的条件下,给出了算法的全局收敛结果,且数值实验表明算法十分有效.     

非线性方程组拟牛顿法中线性搜索的一种改进

改进了Ｇｒｉｅｗａｎｋ（１９８６）提出了关于求解非线性方程组的一种线性搜索方式。在理论上保证了线性搜索的实现,使得算法是适定的,而且,在改进的线性搜索条件下,Ｂｒｏｙｄｅｎ算法仍具有全局收敛性和局部超线性收敛性。