一种求解单调非线性方程组的凸组合算法

将求解单调非线性方程组的CGD算法和MPRP算法的下降方向进行凸组合,构造出新的下降方向,从而提出新的算法,并给出新算法的全局收敛性定理.通过数值实验比较新算法与CGD算法和MPRP算法的结果,可知新算法优于原算法.     

一种求解单调变分不等式的下降型邻近点交替方向乘子法

针对具有可分结构的单调变分不等式问题,基于邻近点算法和文献[12]提出的下降型算法构造了一个新的下降方向,并利用下降量的下界来选择最优步长,提出一种下降型邻近点交替方向乘子法;证明了算法的收敛性;并将该方法与文献[11]中算法的下降量下界进行比较,从理论上说明了算法的优越性。     

一种新的求解单调变分不等式的部分并行分裂算法

为了求解一类带有三个可分离算子的单调变分不等式,作者得到了一种新的部分并行分裂算法,给出了新算法的一个下降方向和沿着这个下降方向的最优步长,并在合理的假设下证明了算法的收敛性.数值试验表明该算法是有效的.     

引入二阶导数的梯度法

对最优化方法中的梯度算法进行了改进．当2f/x2=≠0时，将二阶导数与梯度方向相结合，构造出一种新的下降方向d=[1＋δ／（2f／x2）]（f／x），其中δ=1或-1．用新的下降方向设计了一种算法，使梯度法得到改进．新的算法比梯度法的收敛速度快，而且比牛顿法计算量小．     

两类无约束优化的充分下降共轭梯度法

对无约束优化问题提出两类新的充分下降共轭梯度法. 在每次迭代过程中, 算法均可得到充分下降方向. 在适当条件下, 证明了算法的全局收敛性. 数值结果表明算法可行、 有效.     

一类无约束优化的修正共轭梯度法

针对无约束优化问题, 提出一种新的充分下降共轭梯度法. 该算法在每次迭代过程中, 产生的搜索方向均为充分下降方向. 在适当条件下, 证明了算法的全局收敛性. 数值结果表明算法是可行和有效的.     

框式凸二次规划宽邻域原始-对偶势下降内点算法

基于线性规划原始-对偶势下降内点算法的思想,对框式凸二次规划提出一种新的内点算法宽邻域原始-对偶势下降内点算法.算法选取牛顿方向作为迭代方向,利用势函数选择迭代步长,分析算法的多项式迭代复杂性,并证明新算法具有较好的迭代复杂性O(nL).     

二类无约束优化的混合DY-CD共轭梯度法

针对无约束优化问题,提出二类新的混合DY-CD的下降共轭梯度法.每次迭代过程中,算法产生的搜索方向均为充分下降方向.在水平集有界条件下,证明了算法的全局收敛性.数值结果表明算法是可行、有效的.     

一种改进的多记忆BP神经网络算法

本文针对目前标准BP神经网络的缺点,提出基于高阶导数的多记忆BP算法,将能量函数的n阶导数与最速下降方向相结合,构造出一个新的最速下降方向,从而提高了神经网络的学习速度。首先证明了该算法相对于传统梯度算法的快速性,然后给出了该算法的实现方法,并进行了算例仿真。结果证明,该算法便捷、实用、有效。     

一类非精确线性搜索下共轭梯度法的收敛性分析

给出了一类新的非精确线性搜索,说明了在新的线性搜索下每次迭代产生下降方向．证明了此类共轭梯度算法具有全局收敛性．     

一类新的下降算法及其全局收敛性

研究给出了一类新的求解无约束优化问题的下降算法.在无任何线搜索下,证明了新算法能够保证充分下降性,并且在采用Wolfe线搜索时,证明了新算法具有全局收敛性.大量的数值试验表明该算法是非常有效的,能够用于广泛的科学计算.     

互补问题的一个新的光滑乘子价值函数

研究互补问题的新解法,给出了互补问题的一个新的光滑乘子价值函数,分析了乘子价值函数的性质,并构造了相应的算法.选取了新的下降方向和乘子修正方法,使价值函数获得两次下降,从而加快了下降速度.研究结果表明:在函数为一致P的条件下,算法具有全局收敛性、局部超线性收敛性和二次收敛性;对线性互补问题有限步收敛.     

下降对称的Polak-Ribiere-Polyak共轭梯度法

应用Powell对称化技术于Polak-Ribiere-Polyak共轭梯度法,提出了一种下降对称的Polak-Ribiere-Polyak共轭梯度法.对任意线性搜索,它都满足下降性质.在强Wolfe线搜索的条件下,利用矩阵的谱分析和Zoutendijk条件,证明了此算法的全局收敛性.最后,通过数值实验并且与Polak-Ribiere+(PR+)算法作比较,验证了该算法的性能和有效性与实用性.     

一个用于前向网络权值学习的改进型遗传算法

在遗传算法（GA）的基础上引入了梯度算法，用它在内层无互联的前向神经网络中代替传统算法来学习和优化仅值，并对算法的向个主要模块进行了描述，利用GA的突变性和全局最优化搜索可能的极值，用自适应代沟替代策略更好地进行优胜劣汰，利用梯度下降算法在较优极值点附近快速收敛，实验表明，这种算法的收敛速度比基本遗传算法要快得多，学习质量也比神经网络传统的算法有显著的提高。     

一种线搜索下DY共轭梯度法的全局收敛性

利用王长钰等人提出的一种新型线搜索条件对Dai-Yuan非线性共轭梯度法进行了研究。根据这一新型的线搜索条件,结合DY共轭梯度法的方向计算公式,我们在文中提出了一个求解非线性无约束优化问题的算法。当搜索方向为下降方向时,给出了算法的全局收敛性结果及证明过程。     

一种新线性搜索下的共轭梯度法

文章给出了一种新的非精确线性搜索下的共轭梯度法,说明了在新线性搜索下每次迭代能够产生下降方向.证明了新线搜索下FR共轭梯度算法的全局收敛性.     

无约束多目标优化的一种新的下降算法

基于无约束多目标的最速下降法,提出了无约束多目标优化问题的一种新的下降算法,并证明了该算法在Armijo线性搜索下的收敛性.数据试验结果验证了该算法的有效性.     

强Wolfe-Powell线搜索下共轭梯度法的全局收敛性

给出一类求解非线性无约束优化问题的共轭梯度新算法。 在强Wolfe-Powell线搜索下所给公式具有充分下降性, 所给该新算法具有全局收敛性。