修正的HS共轭梯度算法的全局收敛性

对求解无约束优化问题的共轭梯度法中的方向参数给定新的区间取法,将HS共轭梯度参数限制在此区间上,保证搜索方向是目标函数的充分下降方向,在此基础上提出了修正HS共轭梯度算法(MHS),并在较弱的条件下讨论了新算法在广义Armijo步长搜索下的全局收敛性.数值试验结果表明,新算法比广义Armijo步长搜索下的FR、PR、HS共轭梯度算法有效.     

修正的HS共轭梯度算法的全局收敛性

对求解无约束优化问题的共轭梯度法中的方向参数给定新的区间取法，将HS共轭梯度参数限制在此区间上，保证搜索方向是目标函数的充分下降方向，在此基础上提出了修正HS共轭梯度算法（MHS），并在较弱的条件下讨论了新算法在广义Armijo步长搜索下的全局收敛性。数值试验结果表明，新算法比广义Armijo步长搜索下的FR、PR、HS共轭梯度算法有效。     

结合广义Armijo步长搜索的一类记忆梯度算法

给定记忆梯度算法搜索方向中的参数一个假设条件,从而确定它的一个取值范围,使其在此范围内取值均能得到目标函数的充分下降方向,由此提出一类新的记忆梯度算法.在去掉迭代点列有界和广义Arm ijo步长搜索下,讨论了算法的全局收敛性,且给出了结合形如共轭梯度法FR,PR,HS的记忆梯度法的修正形式.数值实验表明,新算法比Arm ijo线搜索下的共轭梯度法FR、PR、HS和记忆梯度法更稳定、更有效.     

结合Armijo步长搜索的一类新记忆梯度算法及其收敛特征

对于求解无约束规划的共轭梯度算法中的共轭梯度方向参数 ,给定一个假设条件 ,确定它的一个取值范围 ,以保证搜索方向是目标函数的充分下降方向 ,由此提出了一类新的记忆梯度算法。在去掉迭代点列有界和Armijo步长搜索下 ,讨论了算法的全局收敛性 ,同时给出了结合FR、PR、HS共轭梯度算法的修正形式。数值实验表明 ,新算法比Armijo步长搜索下的FR、PR、HS共轭梯度法更稳定、更有效。     

基于非线性共轭梯度的同时扰动随机逼近方法

为了消除黑塞矩阵和步长因子的影响,利用非线性共轭梯度算法计算搜索方向,在混合非线性共轭梯度算法的作用下保证了每次搜索均为下降方向;利用非精确线搜索方法改进SPSA步长计算方法,通过与下降的搜索方向结合,保证了每次迭代时目标函数值的减小,加快了收敛速度.将改进的SPSA算法用于异步电机再励学习系统中,仿真结果证明了其可行性和优越性.     

Armijo型线搜索下的谱CD共轭梯度法

提出了一种新的非线性修正的谱CD共轭梯度算法。该算法得到的搜索方向为下降方向,它既不受线搜索规则的影响,也不受目标函数的凸性影响。同时算法在精确线搜索条件下能够诱导出标准的CD共轭梯度方法。给出的新方法在两种不同Armijo型线搜索规则下具有全局收敛性,数值实验结果显示了新算法的可行性。     

一个新的修正HS共轭梯度法及全局收敛性

提出了一个新的修正HS共轭梯度算法解决无约束优化问题,该算法的特点是,搜索方向总是目标函数的下降方向,且不依赖于使用何种线搜索;特别是,若使用精确线搜索,该算法退化成标准的HS共轭梯度法.且在适当的假设条件下,证明了文章提出的算法具有全局收敛性,最后数值实验表明,文章提出的算法是可行的.     

一种线搜索下DY共轭梯度法的全局收敛性

利用王长钰等人提出的一种新型线搜索条件对Dai-Yuan非线性共轭梯度法进行了研究。根据这一新型的线搜索条件,结合DY共轭梯度法的方向计算公式,我们在文中提出了一个求解非线性无约束优化问题的算法。当搜索方向为下降方向时,给出了算法的全局收敛性结果及证明过程。     

结合Armijo步长搜索的一类新记忆梯度算法及其收敛特征

对于求解无约束规划的共轭梯度算法中的共轭梯度方向参数，给定一个假设条件，确定它的一个取值范围，以保证搜索方向是目标函数的充分下降方向，由此提出了一类新的记忆梯度算法。在去掉迭代点列有界和Armijo步长搜索下，讨论了算法的全局收敛性，同时给出了结合FR、PR、HS共轭梯度算法的修正形式。数值实验表明，新算法比Armijo步长搜索下的FR、PR、HS共轭梯度法更稳定、更有效。     

一个新的无约束优化下降算法

提出了一种新的无约束优化下降算法，在每步迭代中算法以当前点负梯度和前一点负梯度的线性组合为搜索方向，用Armijo搜索定义步长，在适当条件下证明了算法的全局收敛性。     

一类新的记忆梯度法及其收敛性

提出一类新的求解无约束优化问题的记忆梯度法。算法在每步迭代中利用当前和前面迭代点的信息产生下降方向,采用精确线性搜索或Wolfe非精确线性搜索产生步长,在较弱条件下证明了算法具有全局收敛性和线性收敛速率。数值试验表明算法是有效的。     

一类新的Wolfe线性搜索下的记忆梯度法

提出一类新的求解无约束优化问题的记忆梯度法,在较弱条件下证明了算法具有全局收敛性和线性收敛速率。算法在每步迭代中利用当前和前面迭代点的信息产生下降方向,不需计算和存储矩阵,适于求解大规模优化问题。初步的数值试验表明算法比Wolfe搜索下的FR,PRP和HS共轭梯度法及最速下降法有效。     

非线性约束规划快速收敛的共轭投影变尺度法

本文讨论非线性等式约束规划问题，给出了问题的一种共轭投影变尺度算法．方法利用变尺度法，梯度投影法及共轭方向法相结合的思想直接给出主搜索方向和辅助方向显式表达式，以罚函数为效益函数，不需解任何二次子规划．在较温和的假设下，算法具有全局收敛性和超线性收敛性．     

一个修改的三项共轭梯度算法

给出一个修改的三项共轭梯度算法,证明其具有充分下降性和全局收敛性,其搜索方向拥有梯度值信息和函数值信息,并用数值算例检验算法是可行的.     

无约束优化问题的稀疏拟牛顿法

对无约束优化问题提出了一种稀疏拟牛顿法,算法在每次迭代中运用拟牛顿方法的思想确定其搜索方向,采用非精确线性搜索确定步长,在通常的假设条件下,证明了算法的全局收敛性和线性收敛速度.     

一类求解无约束问题的混合参数共轭梯度法及全局收敛性

提出一类混合参数共轭梯度法,在步长满足Wolfe线搜索的条件下,算法产生的搜索方向是下降方向.在适当的条件下,算法是全局收敛的.     

一种非线性扩展混合共轭梯度算法的全局收敛性

描述了非线性FR共轭梯度法、非线性PRP共轭梯度法、非线性DY共轭梯度法等求解大规模无约束优化问题的有效算法.研究了计算更为有效的适合求解无约束优化问题的一种非线性扩展混合共轭梯度算法;给出了在Wolfe型线搜索下的非线性扩展混合共轭梯度法,算法产生的方向为下降方向.在一般的条件下,给出了算法的全局收敛结果,且数值实验表明算法十分有效.     

一类具有充分下降性的DL共轭梯度法

针对无约束优化问题,利用两项共轭梯度法(DL方法)去逼近改进的HS三项共轭梯度法,提出了改进的DL共轭梯度法即MDL共轭梯度法.该方法相对于DL方法具有一个更好的性质,即该共轭梯度法的搜索方向不依赖任何线搜索就可满足充分下降条件,理论上证明了该方法在Wolfe线搜索条件下对一般函数具有全局收敛性.