一种既约逐步二次规划算法的全局收敛性

提出一种求解非线性等式约束问题的既约逐步二次规划(RSQP)算法.为避免Maratos效应,我们采用Flether的光滑精确罚函数的逼近形式作为价值函数,并且分别对Lagarange函数的单边既约Hessian的近似阵和双边既约Hessian的近似阵进行校正.在一般的条件下,证明了算法的全局收敛性并作了一定量的数值试验.     

约束优化的两块校正非单调回代法

提出一种二块校正既约Hessian方法的非单调信赖域回代算法来解决约束优化问题。一般采用二块校正的双边既约Hesse阵方法代替完全Hesse阵方法处理大规模问题。为了获得算法的整体收敛性，引入非光滑的l1罚函数作为势函数。在每次回代中不必使罚函数都单调递减，以使能克服高度非线性情况下的峡谷状态，同时采用二阶校正步计算能避免Maratos效应。只要每一步迭代至少运用两种校正规则之一，算法就能保持一步局部Q－超线性收敛速率。     

求解非线性方程组的信赖域方法

用信赖域方法求解非线性方程组问题,计算中仅使用目标函数及其一阶导数信息,通过BFGS校正方法构造Hessian阵的近似,最后给出了相应的数值结果。     

一种改进的三维子空间极小化共轭梯度法

利用满足修正割线方程的Hessian矩阵近似二次模型中的Hessian阵, 通过在三维子空间中极小化此二次模型导出搜索方向, 并结合非单调线搜索策略和重启技术, 提出一种改进的三维子空间极小化共轭梯度算法, 并在一些合理假设下, 证明了算法的全局收敛性. 针对Andrei测试函数集, 数值实验验证了新算法的有效性.     

求解广义动态非线性测量数据处理的信赖域法

针对误差方程中同时包含非随机参数和随机参数的情况，提出了一种广义非线性动态最小二乘测量数据处理的新方法，即信赖域方法，并建立了相应的解算模型。计算中仅使用目标函数及其一阶导数信息，通过BFGS校正方法构造Hessian阵的近似，该算法不仅当迭代初值要求不严格时，仍保证收敛，而且在较强条件下具有二阶收敛结果。     

一类非凸-强凹极小极大问题的零阶优化算法

极小极大问题是博弈论和机器学习中的一类重要问题。目前已有大量基于目标函数的梯度和Hessian阵信息的优化算法来求解这类问题。但在有些应用中,目标函数的梯度或Hessian阵信息往往是计算昂贵或难以获取的。为此,针对一类非凸-强凹极小极大问题,在极小极大三次正则化牛顿算法的框架下,通过基于Stein恒等式的高斯平滑化方法来近似梯度与Hessian阵信息,进而提出一类零阶极小极大三次正则化牛顿算法。分析算法的收敛性,并得到算法达到一个二阶平稳点时的迭代复杂度为O（ε-3/2）,其中ε是算法终止所达到的精度。数值仿真实验结果表明：在相同的精度下,所提出的算法在CPU运行时间上优于极小极大三次正则化牛顿算法。     

基于负曲率方向的复数域共轭梯度法

共轭梯度法是优化大规模目标函数的一种经典方法.根据复梯度、复Hessian阵与实梯度、实Hessian阵之间的关系,将共轭梯度法推广到复数域,用于解决复数域的优化问题.针对共轭法的一些缺点,如每步迭代利用线性搜索来确定优化的步长及可能寻找到的极值点不一定为极小值等缺点,提出在Hessian阵不正定时利用负曲率方向作为搜索方向,利用实数域二阶导数简化思想,使寻找下降负曲率方向简单化,同时根据目标函数信息调节搜索步长,保持函数值单调下降.对该算法进行复数域优化数值仿真,结果表明:该算法与复数域的SCG算法及Quasi-Newton算法相比,计算较为简单且优化效果更优.     

用于弹道目标跟踪的有限差分扩展卡尔曼滤波算法

针对目前常用的滤波算法不能同时做到精确和高效跟踪目标的缺点,提出一种有限差分扩展卡尔曼滤波(FDEKF)算法用于再入阶段的弹道目标跟踪.该算法应用有限差分运算得到滤波的验前、验后误差协方差矩阵,避免了非线性函数求导运算,以及Jacobian阵和Hessian阵的计算,降低了计算难度,扩大了应用范围,增强了滤波过程的收敛性.Mome Carlo 数值仿真表明,FDEKF算法与扩展卡尔曼滤波(EKF)算法和无味卡尔曼滤波(UKF)算法相比较,在跟踪精度上比EKF算法提高了约20%,与UKF算法相当,在计算复杂度上比EKF算法稍有增加,但比UKF算法低约39%.这说明FDEKF算法在计算量增加不多的情况下,滤波精度有显著提高.     

修正的迭代近似梯度投影算法在压缩感知中的应用

通过设计一种新的Hessian矩阵的近似,得到函数在当前迭代点的二次近似模型,并利用该模型与延迟策略得出一种新步长.结合新步长,提出一种求解压缩感知中稀疏信号重构问题的修正迭代近似梯度投影算法,并给出收敛性证明.实验结果表明,该算法不仅能较好地恢复原始信号中的非零元素,有效地重构信号,而且与经典算法相比,重构效率较高.     

无约束最优化问题的一族秩1算法及其性质

本文所讨论的无约束最优化问题是minf(x)。如果目标函数f(x)有一阶偏导数, x∈R~n那么记f(x)在点x处的梯度为g(x)。如果已得到序列{x_k},那么用g_k表示g(x_k)。设H_k为Hessian阵G(x)的第k次近似。本文所给出的秩1校正公式为: