解大稀疏最优化的Lanczos方法

解大稀疏最优化问题是最优化领域的一个重要课题。本文提出了解这类问题的一个Lanczos方法。这个方法从广义逆角度推导稀疏拟牛顿校正,并利用广义逆技术详细探讨了应用Lanczos方法解由稀疏拟牛顿法产生的线性系统的理由,从而得到了一种截断拟牛顿法。作者通过对Lanczos方法的分析,指出它实质上是某种经典Gram-Schmidt直交化方法,存在着严重的数值不稳定性,从而给出有别于选择直交化的简单再直交化。文章还给出了Lanczos方法和Moore-Penrose广义逆之间的关系。为了保证截断拟牛顿法的寻查方向是一个下降方向,作者对由Lanczos方法产生的三对角矩阵应用Bunch-Parlett分解,从而得到通常的拟牛顿方向,或者正曲率子空间下降方向,或者负曲率下降方向。最后,我们给出利用该方法得到的数值结果。     

关于Broyden族算法收敛性的几种解析

研究无约束最优化问题,理论分析和大量数值实验表明,拟牛顿法是效果最好的一类方法,它利用目标函数值和一阶导数的信息,构造出目标函数的曲率近似,使方法具有类似牛顿法的收敛速度快的优点。Broyden族算法正是目前较流行的一类拟牛顿算法。它可以在精确线搜索和非精确线搜索两种条件下考虑。在这篇文章中,首先研究了采用Broyden族算法(∈[0,1))的整体收敛性和一类非精确搜索的Broyden(∈[0,1))的整体收敛性。最后研究了Broyden族算法的超线性收敛性。     

引入二阶导数的梯度法

对最优化方法中的梯度算法进行了改进．当2f/x2=≠0时，将二阶导数与梯度方向相结合，构造出一种新的下降方向d=[1＋δ／（2f／x2）]（f／x），其中δ=1或-1．用新的下降方向设计了一种算法，使梯度法得到改进．新的算法比梯度法的收敛速度快，而且比牛顿法计算量小．     

拟牛顿法求解堆石坝结构非线性方程

探讨了求解堆石坝结构非线性方程的拟牛顿法，详细阐明了拟牛顿法在堆石坝结构分析中的实施过程，并编制了相应的三维非线性有限元分析程序，将拟牛顿法在中点增量法同时用于实例计算，表明拟牛顿法收敛速度较快且数值稳定性好，优越于中点增量法。     

拟可微方程组牛顿法的二次收敛性

利用拟微分讨论了拟可微方程组的牛顿法和不精确牛顿法.引入了拟可微函数的拟强半光滑性.在拟强半光滑的前提下,证明了牛顿法和不精确牛顿法的二次收敛性.     

引入二阶导数的梯度法

对最优化方法中的梯度算法进行了改进，当ｅ＾２ｆ／ｅｘ＾２≠０时，将二阶导数与梯度方向相结合，构造出一种新的下降方向ｄ＝「１＋δ／（ｅ＾２ｆ／ｅｘ＾２）」（ｅｆ／ｅｘ），其中δ＝１或－１，用新的下降方向设计了一种算法，使梯度法得到改进，新的算法比梯度法的收敛速度快，而且比牛顿法计算量小。     

一种基于二阶导数的BP算法

根据神经网络模型的结构特点，将能量函数的二阶导数与最速下降方向相结合，构造出一种新型的ＢＰ算法，该算法比梯度法收敛快，较牛顿法计算量小，它适合于计算结构复杂的ＢＰ神经网络模型，理论分析表明该算法行之有效，计算机仿真达到了理想的效果。     

一种基于二阶导数的 BP 算法

根据神经网络模型的结构特点,将能量函数的二阶导数与最速下降方向相结合,构造出一种新型的ＢＰ算法,该算法比梯度法收敛快,较牛顿法计算量小．它适合于计算结构复杂的ＢＰ神经网络模型,理论分析表明该算法行之有效,计算机仿真达到了理想的效果．     

一种特殊的下降算法——分裂梯度法

求解无约束优化问题,常用的方法有下降算法,牛顿法,共轭梯度法等。当目标函数为几个光滑函数的和时,一些学者提出并研究了增量梯度算法。其基本思想是循环选取单个函数的负梯度作为迭代方向。增量梯度算法的迭代方向不一定是下降方向,所以不能用下降算法的一维搜索确定步长,因为受限于步长的选择,收敛效率不高。本文结合了下降算法和增量梯度算法的思想,提出了分裂梯度法。简单的说,分裂梯度法循环考虑单个函数的负梯度方向,如果这一方向是下降方向,则选择这一方向为迭代方向;否则选取函数的负梯度方向为迭代方向。最后通过数值实验与最速下降算法、随机下降算法以及增量梯度算法进行对比,结果表明对于某些优化问题,采用分裂梯度法更有效。     

多元K—拟全纯函数及其正规定则

研究函数族的正规性是复变函数论中的一个重要且有意义的工作，引进多元Ｋ－拟全纯函数的定义，并给出了多元Ｋ－拟全纯函数族的一个正规定则。     

改进的SR1拟牛顿法的2n步q二次收敛性

为了从理论上证明基于新拟牛顿方程的改进拟牛顿方法比传统的拟牛顿方法有更好的收敛效果，对改进的ＳＲ１拟牛顿方法进行了深入的研究，在变尺度矩阵序列正定有界的条件下，证明了算法在每ｎ＋ｐ（ｐ≥１）步迭代中至少有ｐ步是好的（ｑ超线性步），进而证明了算法的２ｎ步ｑ二次收敛性。     

求实对称张量Z-特征值的牛顿法

文章提出一个求解实对称张量Z-特征值及特征向量的牛顿法.该方法将张量Z-特征值问题转化为等价的非线性方程组,并用牛顿法求解.经过改进的方向具有下降性,从而保证算法的全局及二阶收敛性.数值实验结果表明,算法有效.     

基于修正的拟牛顿法的基追踪去噪研究

为提高一维信号去除噪声的稀疏分解基追踪算法的效率,提出了采用修正的拟牛顿法来解决基追踪去噪过程中的无约束优化问题。该算法在传统拟牛顿法的基础上,对BFGS(Broyden-Fletcher-Goldfarb-Shanno)公式进行修正,有效地减少了最优化过程中所需的迭代次数。实验结果表明,修正的拟牛顿法与传统算法相比,能够明显提高目标函数的收敛速率。     

广义牛顿程序

本文提出了一种广义牛顿迭代程序,作为特例,它包含了通常的车贝谢夫程序、切双曲线程序和最速下降程序。     

带参数扰动的原始对偶内点算法

出一种通过新的原始对偶内点法求解一类非线性规划问题的算法及带参数扰动的原始对偶内点法的收敛性, 并通过数值实例说明了该算法的有效性.  该算法改进了原始对偶内点法, 可由参数控制可行域的形状, 扩大了初始点的选择范围, 并通过修正牛顿法找到值函数的下降方向.     

改进遗传算法在6-RSS并联机器人机构设计中的应用

以6-RSS并联机器人Jacobian矩阵的条件参数为优化设计目标函数,提出了改进的遗传智能优化设计方法.采用实值编码,对6-RSS平台进行了优化设计,得到了最优运动学的6-RSS平台结构参数,通过与拟牛顿法得出的结果比较,证实了改进遗传算法在并联机器人结构优化设计中的有效性和优越性.     

无约束优化问题新的谱共轭梯度法(英文)

通过结合牛顿法与PRP谱共轭梯度法提出一新的谱共轭梯度法.该方法为下降方法且为Birgin谱共轭梯度法与PRP共轭梯度法的线性组合.在适当的假设下算法全局收敛.     

含弱互补函数的可行的无子规划算法

用弱互补函数来代替F-B互补函数，由此而构建出四个光滑的线性方程．还修改了第二个线性方程，从而保证了迭代点的可行性和目标函数的下降性．采用修改的拟牛顿算法修正，在没有要求子矩阵H^k是一致正定的条件下，证明该算法具有全局收敛性和局部超线性收敛性．算例表明，该算法具有很好的应用前景．     

电磁暂态计算中MOA的线性和非线性混合模型

提出了一种线性和多指数非线性的ＭＯＡ模型，使ＭＯＡ的特曲线和多指数模型相比更为平滑，更加符合实际的性性曲线。     

一种新的保护牛顿法

本文提出了解无约束非线性规划问题的一种新的保护牛顿法。该法的实质是寻优过程中在牛顿迭代法产生的每一序列点，把ＢＦＧＳ或ＤＦＰ法尺度矩阵的逆和一适当的标量相乘，然后加到在该点求得的原问题的Ｈｅｓｓｅ矩阵上，从而保证合成矩阵的正定性。再采用Ｃｈｏｌｅｓｋｙ分解得到下次迭代的搜索方向。按本途径所得的算法是一系列简单的算术运算。用此法求解八个标准非线性检验问题所得结果是令人满意的。本文示出了这些结果并与各种下降法进行了初步比较。