共轭梯度法和最速下降法的混合算法

将共轭梯度法与最速下降法有机地结合起来,构造了一种共轭梯度法和最速下降法的混合算法,并证明了该算法的全局收敛．混合算法既提高了共轭梯度算法的收敛速度,又解决了目标函数“性态不优”时,最速下降法难以求解的问题．同时也可以看到共轭梯度法与最速下降法仅仅是混合算法的特例．     

无约束优化的一个组合算法

将最速下降法与Newton法有机地结合起来,构造了无约束优化问题的一种组合迭代算法,并证明了算法的全局收敛性.该组合算法既继承了Newton法在极小点附近的快速收敛性,又解决了最速下降法难以求解的问题.     

带限信号重构问题的迭代正则化方法

针对带限信号重构问题的迭代正则化方法,提出用Landweber迭代法和最速下降法求解低频带限信号重构问题,导出正则化问题的预条件梯度迭代格式,并对三种方法进行比较,进行数值模拟的结果表明:最速下降法与Landweber迭代法具有非常相似的迭代公式,最速下降法既是正则化方法,又可以最优选取迭代步长,比Landweber迭...     

求解无约束最优化问题的最速下降法的修正

提出了求解无约束最优化问题的最速下降法的一种修正算法，并给出了算法的收敛性证明。     

最速下降法的若干重要改进

为了研究结构工程分析中线性方程组解法,基于变分迭代法的思路和简化拉氏乘子的识别,构造了线性方程组求解的一种迭代格式——改进型最速下降法。为了提高改进型最速下降法的计算效率,引入松弛因子和预处理技术两种手段,同时把松弛因子引入原来的最速下降法中,使传统的最速下降法也具有了实用性和较好的收敛速度。设计两个算例分别验证了改进型最速下降法引入松弛因子和预处理两种手段以及对最速下降法引入松弛因子这三种算法的效率和稳定性,对于算例1,三种方法与传统高斯-赛德尔方法相比计算效率分别提高了444倍、533倍和444倍,与传统超松弛迭代法相比分别提高了28.3倍、34.2倍和28.3倍;算例2是个病态矩阵,传统的高斯-赛德尔方法和超松弛迭代法均计算不出结果。三种方法与最速下降法相比计算效率分别提高了29.6倍、38.2倍和20.8倍。算例数值结果表明,改进型最速下降法极大地提高了方程组的求解效率和稳定性,值得推广。     

多峰函数优化的混合遗传算法

研究了2种基于最速下降法和遗传算法的求解多峰函数优化问题的混合遗传算法,以Schaffer函数的全局优化问题和收敛概率、平均收敛时间和平均收敛值等评价指标检验了混合算法的性能.结果表明混合算法的性能优于单独的遗传算法或最速下降法,采用随机方式选择局部优化个体的混合遗传算法性能在总体上优于从每代群体中选择适应度高的个体进行局部优化的混合遗传算法.     

一类非线性规划的对偶算法

求解非线性规划问题的常用方法有最速下降法、罚函数方法等等 ,文中主要考虑了应用对偶算法来讨论一类非线性规划 (正项非线性规划 )的最优解 .     

一类新的Wolfe线性搜索下的记忆梯度法

提出一类新的求解无约束优化问题的记忆梯度法,在较弱条件下证明了算法具有全局收敛性和线性收敛速率。算法在每步迭代中利用当前和前面迭代点的信息产生下降方向,不需计算和存储矩阵,适于求解大规模优化问题。初步的数值试验表明算法比Wolfe搜索下的FR,PRP和HS共轭梯度法及最速下降法有效。     

最速下降法在半盲信道估计中的应用

 信道估计是无线通信中的基本问题.介绍了一种适用于静态多径信道的参数建模的半盲信道估计方法.该方法根据SRM准则推导出代价函数,而后又分两步求解:首先通过线性搜索定位粗略的估计值,再用最速下降法改善估计精度.计算机仿真表明,建议的最速下降法所需迭代次数少于高斯牛顿法,且显著减少计算量,缩短运行时间.     

最速下降和共轭梯度混合算法在波束形成中的应用

介绍了一种最速下降法和共轭梯度法的混合算法,并将这种混合算法应用到自适应波束形成中。该方法根据最小均方（LMS）准则推导出代价函数,结合共轭梯度法和最速下降法产生搜索方向,既提高了共轭梯度算法的收敛速度,又解决了最速下降法下降缓慢的问题。计算机仿真表明,混合算法所需迭代次数少于最速下降法,且显著减少计算量,缩短运行时间。     

一类非线性规划的对偶算法

求解非线性规划问题的常用方法有最速下降法、罚函数方法等等，文中主要考虑了应用对偶算法来讨论一类非线性规划（正项非线性规划）的最优解。     

基于共轭梯度法和最速下降法的非线性测量数据处理

将共轭梯度法与最速下降法有机结合起来，构造出一种解决非线性测量数据处理问题的新方法——混合算法。这种方法充分利用了共轭梯度法和最速下降法良好的收敛优点，既提高了共轭梯度算法的收敛速度，又解决了目标函数“性态不优”时，最速下降法难以解决的问题。文中的算例结果表明，混合算法与单纯的共轭梯度法或最速下降法相比，具有收敛速度快、收敛范围大、适应面宽等特点。     

求解对称矩阵最大特征值的Barzilai-Borwein法

高维对称矩阵最大特征问题的求解是数学界中比较关注的问题之一。文章采用无约束优化方法进行求解,设计了非单调搜索的Barzilai-Borwein（BB）算法,数值算例显示该算法比单调线搜索最速下降法迭代次数更少,收敛速度快且相对误差小的良好计算性能。     

应用斯涅尔公式求解最速下降曲线问题研究

本文首先从最速下降曲线的物理模型入手,应用变分理论推导得出最速下降曲线和斯涅尔公式之间的关系,提出一种基于斯涅尔公式求解最速下降曲线的数值算法,并讨论分析计算结果,最后给出算法的详细实现。     

优化模型的变换求解及其反演

人们介进行工代优化时,注意到了两个环节:首先建立优化的数学模型,接着选择适当的数学规划方法求解。然而二者之间还有一个环节往往被忽视了,这就是将数学模型进行变换处理然后求解。例如下面一个简单的问题: 如果采用最速下降法求解,不难推得其中 当初始点不在x1轴亦不在x2轴上时,搜索路径为一锯齿形,从理论上讲,由初始点走到最优点x*=[00]T,需要走无穷步。Newton-Raphson算法则只走一步。限制合一阶算法范围内,能否一次走到最优点呢?乍看起来似乎不可能。其实只要引进变换。z1=x1,,问题则化为. 用最速下降法,不管初始点取什么值,一步便…     

最速下降法和共轭梯度的混合算法及全局收敛

将最速下降法与共轭梯度法有机结合起来,构造出一种混合优化算法,并证明其全局收敛性.这种混合优化算法结合了共轭梯度法和最速下降法产生搜索方向,既提高了共轭梯度算法的收敛速度,又解决了目标函数的等值线是扁长椭球时,最速下降法下降缓慢的问题,具有收敛速度快、收敛范围大、适应面广等特点.文中的算法实例表明,混合算法与单纯的共轭梯度法相比,效果更优.     

内腔自适应光学系统最速下降算法

提出基于微机电系统微变形镜(MEMS-DMs)的动态补偿激光二极管泵浦固体激光器(DPL)热透镜效应,能够使其在获得较小体积和功耗、具备灵活性的同时,提高输出功率.通过分析MEMS-DMs的控制理论和实际器件的性质,说明最小二乘控制算法在DPL自适应补偿中不适用的原因,指出最速下降法更适合于DPL自适应补偿,并给出该非线性规划问题的数学模型和数值求解方法.实验结果表明最速下降法相比最小二乘法而言,迭代过程更稳定,DPL输出功率更高.     

地震参数识别问题的最速下降法

本文讨论了地震勘探中的地震参数识别问题,并将它归结为一个非线性泛函的极小问题,提出了求解该问题的最速下降方法,同时还证明了该方法的收敛性。     

带约束方程的一种新最速势缩减算法

利用势缩减牛顿算法与最速下降算法,我们建立了求解约束方程的一种新的最速势缩算法,不仅提高了迭代速度、减少计算量,重要的是保证了算法的收敛性结果．     

基于混合优化的平滑l0压缩感知重构算法

研究压缩感知的重构算法,分析了平滑l0（smoothed l0,SL0）的理论基础．SLO算法通过利用平滑的高斯函数去逼近l0范数,将重构中的l0范数最小化问题转化为求解光滑函数最小值的最优化问题．针对算法中最速下降法存在“锯齿现象”和收敛速度慢等缺点,引入数值最优化理论中的混合优化算法,提出了一种基于混合优化的SL0重构算法（HOSL0）．该算法结合了最速下降法和修正牛顿法的优点,提高了算法的重构精度和速度．仿真实验表明,HOSL0算法与同类算法相比性能有明显提高,同时在重构速度上比BP算法快了2个数量级．