非光滑凸最优化的一类全局收敛算法

本文利用非光滑凸分析基本理论,对无约束非光滑凸最优化问题(I)min f(x),x∈R~n,提出了一类信赖域算法,在一定条件下证明了算法的全局收敛性,并指出了利用次梯度聚集方法实现算法的途径。     

一类新的光滑函数及求解非线性互补问题的光滑牛顿算法

本文构造了非线性互补问题的一类新的光滑函数,利用新的光滑函数将非线性互补问题转化为非线性方程组。然后提出了求解一般非线性互补问题的光滑化牛顿算法,并且证明了算法的全局和局部收敛性。     

一类非Lipschitz约束优化的最优性条件

本文研究一类具有箱约束的非凸非光滑非Lipschitz最小化模型,它是一类典型的稀疏优化问题,在图像重建、信号处理、变量选择等领域有广泛的应用。该模型的目标函数包含一个非凸、非光滑、非Lipschitz的正则项,约束区域是一个闭凸集。本文给出该模型的一阶和二阶最优性条件,为进一步算法设计和分析提供前提和基础。     

求解一类无限维非光滑算子方程的光滑化牛顿法

研究一类无限维非光滑算子方程的光滑化牛顿法,构造光滑函数逼近非光滑算子.在半光滑假设条件下,证明了光滑化牛顿法具有全局超线性收敛性.研究表明,此算法可用来求解一类特殊的来源于无限维非线性互补问题的非光滑算子方程.     

一类非光滑整体优化的区间算法

本文在区间分析基础上,通过定义一个特殊导数给出一类求解非光滑整体优化的区间算法．理论分析和数值例子均表明本文算法具有快速、安全等特点．     

非线性互补问题的一类光滑逼近函数

通过NCP-函数,非线性互补问题可以转化为求解一个非光滑方程组,利用光滑逼近函数可以用一个光滑方程组逼近该非光滑方程组.本文提出了一类新的光滑逼近函数,它是Chen和Harker提出的变尺度内点光滑函数的推广,并证明了该类光滑函数和变尺度内点光滑函数具有相同的重要性质的.因此,该类光滑函数适用于线性互补问题的非内点路径跟踪算法.     

加权最小包容球问题的对偶光滑逼近算法

【目的】研究加权最小包容球问题,并给出一类求解该问题的算法。【方法】加权最小包容球问题是一个极大极小化的非光滑问题。首先利用对偶方法将该问题转化为极小化非光滑问题,然后利用光滑逼近思想,将该问题转化为极小化的光滑问题进行求解。【结果】根据数据实例表明该算法有效。【结论】得到求解加权最小包容球问题的一类对偶光滑逼近算法。     

广义非线性互补问题的非光滑牛顿算法

研究了一类在多项式锥上的广义非线性互补问题。借助罚FB互补函数建立了该类问题的非光滑方程,提出了求解该方程的非光滑牛顿算法,证明了与互补函数有关的稳定点即为广义非线性互补问题的解。在较弱的条件下给出了牛顿算法的全局和超线性收敛性。     

一类线性约束下非光滑非线性规划问题的优化研究

提出了一类线性约束下非光滑的非线性规划问题,运用线性拟合凹函数分段法和不等式组旋转算法进行求解,并证明了该算法的收敛性.     

极大值函数Clarke广义Jacobi计算的新算法

基于计算Clarke广义Jacobi在非光滑优化数值方法中的必要性,针对一类非光滑函数——极大值函数进行研究,通过对一不等式系统具备特定形式解所需条件的考虑,给出了计算此类函数Clarke广义Jacobi中一个元素的新方法.数值试验表明,与以往算法相比,该算法减小了计算量、简单易行、容易实现.     

复合非光滑优化问题的一类算法

提出复合非光滑优化问题的一类算法，并证明这种算法保持全局收敛性且敛速度达到超线性。     

求解互补问题的Newton-Krylov-Schwarz算法

提出一类并行的半光滑Newton-Krylov-Schwarz算法来解决互补问题.利用半光滑函数,通过解大规模稀疏非线性代数方程组,得到此类优化问题的数值解.计算结果表明此算法的可行性.     

非光滑无约束优化次梯度法

次梯度法是求解非光滑优化问题的一类经典算法,也是解决大规模问题的有效方法.它在经济学、力学、工程和最优控制等许多实际问题中有着广泛应用.本文概述了经典次梯度法的来源、算法基本框架及进一步的改进方法,为次梯度方法的进一步研究提供参考.     

一类非凸非光滑优化问题的近似uv-分解方法

uv-分解理论是侧重于非光滑函数的光滑信息来研究凸函数的二阶近似,从而得到凸优化问题有效算法的一种新方法.应用uv-分解理论研究一类非光滑优化问题,此问题作为许多随机优化问题的子问题,它的求解方法对处理随机优化问题有重要作用.将所研究的问题适当地转化为一类由两个非光滑函数的和的无约束优化问题,由于无法直接利用uv-分解理论,所以借助其中一个函数的光滑凸近似,得到了目标函数的近似函数.应用uv-分解理论给出该函数的U-lagrangian函数及其基本性质,目标函数的二阶近似,进而给出了求解原问题的近似uv-分解算法以及算法的收敛性证明.     

一类光滑罚算法的全局收敛性

对约束优化问题给出了一类光滑罚函数,它是根据一类光滑逼近精确罚函数的光滑函数而提出来的,并基于这类罚函数给出了罚算法.在很弱的条件下,建立了光滑罚算法的一个摄动定理,由此定理得到该罚算法的全局收敛性.     

一种求解结构组合优化问题的BB型算法

提出了一种求解一类非光滑复合凸优化问题的BB型算法,结合非单调线搜索技术和合适的BB步长,在适当的条件下,证明了所提出算法的收敛性。通过数值实验与现有的算法进行比较,证明了所提出的算法相比已有的算法,运行的CPU时间更短、迭代次数更少、数值性能上更优。     

非线性互补问题的非精确预估-校正光滑算法

提出了一类新的光滑函数,分析其相关性质.针对大规模非线性互补问题,结合预估-校正技术,提出一种新的非精确预估-校正光滑算法,证明该算法从任意点出发能得到其全局收敛和局部二次收敛速率,且算法简单有效.     

极大值函数的二阶方向导数

对有限个光滑函数的极大值函数引入了一有效指标集,利用线性不等式组的相容性给出了一这一有效指标集的生成算法,从而得到这一类非光滑函数Ｃｈａｎｅｙ二阶广义方向导数的精确计算方法。     

一类非光滑优化问题的邻近交替方向法

非光滑优化问题在现实生活中有着广泛应用.针对一类带有结构特征为两个连续凸函数与具有Lipschitz梯度的二次可微函数的和的无约束非光滑非凸优化问题,给出了一种邻近交替方向法,称之为二次上界逼近算法.该算法结合交替方向法与邻近点算法的思想,将上述优化问题转化为平行的子问题.在求解子问题的过程中,对目标函数中的光滑部分线性化,此时子问题被转化为凸优化问题.然后分别对两个凸优化子问题交替利用邻近点算法求解.基于以上思想,首先我们给出算法的伪代码,然后建立了算法收敛性的充分条件,最后证明在该条件下,算法产生迭代序列的每个极限点是原问题的临界点.     

一种大规模优化问题的邻近随机L-BFGS方法

本文针对一类机器学习中的大规模优化问题,在凸非光滑的假设条件下,提出了一种新的邻近随机L-BFGS方法,它具有很好的扩展性和鲁棒性。文中分析了该数值方法的线性收敛性,并给出了数值算例,数值算例检验了算法的有效性和收敛性。