一类非光滑优化问题的邻近交替方向法

非光滑优化问题在现实生活中有着广泛应用.针对一类带有结构特征为两个连续凸函数与具有Lipschitz梯度的二次可微函数的和的无约束非光滑非凸优化问题,给出了一种邻近交替方向法,称之为二次上界逼近算法.该算法结合交替方向法与邻近点算法的思想,将上述优化问题转化为平行的子问题.在求解子问题的过程中,对目标函数中的光滑部分线性化,此时子问题被转化为凸优化问题.然后分别对两个凸优化子问题交替利用邻近点算法求解.基于以上思想,首先我们给出算法的伪代码,然后建立了算法收敛性的充分条件,最后证明在该条件下,算法产生迭代序列的每个极限点是原问题的临界点.     

基于非凸上界的ranking模型构造算法

现有的ranking算法均通过最小化原目标函数的凸上界构造ranking模型,得到的模型不够精确.为此,文中提出一种基于非凸上界的ranking算法.该算法首先给出一个基于多类支持向量机(SVM)的框架,然后定义面向NDCG的目标函数,在此基础上设计一个比现有的凸上界更为紧凑的非凸上界逼近原目标函数;针对上界函数的非凸非光滑,提出使用凹-凸过程进行凸逼近,并采用割平面算法进行求解;最后,通过在基准数据集上的实验对该算法进行验证,并与现有算法进行对比.结果表明,相比现有的基于凸上界的ranking算法,文中算法得到的模型不但更为精确,而且更加稳定.     

非凸不可分离问题的广义交替方向乘子法的收敛性

交替方向乘子法（ADMM）是求解大规模优化问题和非凸非光滑问题的一种有效的方法,但当目标函数为非凸非光滑的情况时,原始ADMM算法的收敛性无法保证,且若目标函数中存在耦合函数,则算法的收敛性证明将更为复杂。在现实生活中存在的很多问题,其本质都是非凸的。因此,本文提出了一种改进的ADMM算法。与原始ADMM算法相比,该算法引入了一个松弛因子$\alpha $,构造了一种广义交替方向乘子法（GADMM）来求解具有线性约束的非凸不可分离优化问题。在一定的假设条件下,通过假设增广拉格朗日函数满足K-L不等式,证明了当惩罚参数足够大时,算法生成的序列收敛到增广拉格朗日函数的稳定点。     

非凸两分块问题乘子交替方向法的收敛性分析

乘子交替方向法(ADMM)求解大规模问题十分有效.ADMM在凸情形下的收敛性已被清晰认识,但非凸问题ADMM的收敛性结果还很少.本文针对非凸两分块优化问题,在增广拉格朗日函数满足Kurdyka-Lojasiewicz不等式性质且罚参数大于某个常数的条件下,证明了ADMM的收敛性.     

低秩半定最小二乘问题

讨论低秩半定最小二乘问题(lrSDLS)的启发式方法,并利用l0范数的光滑近似函数将(lrSDLS)中的非光滑非凸秩函数进行光滑化处理,并对其线性化,进而转化为光滑凸优化问题,为使用光滑优化方法近似求解(lrSDLS)提供了一个新的途径.     

基于非凸范数的低维图像去噪问题研究

基于传统低秩去噪模型,利用非凸函数对模型中的秩函数进行替换,取得了对秩函数更好近似的效果.对于非凸问题的求解,利用凹函数超梯度定义,对原始问题进行松弛,得到松弛问题的显式解.实验表明,提出的非凸去噪方法相比传统方法具有更好的去噪效果.     

求解凸优化问题的改进对称交替方向乘子法

对称交替方向乘子法(简称S-ADMM算法)是求解可分离凸优化问题的一种有效方法。该算法利用目标函数的可分离性,将原问题分解成多个极小化子问题,然后交替求解。能否有效地求解子问题对算法的有效性有重要影响。在很多实际应用中,不能精确地求解子问题,或者精确求解子问题花费代价较大。为解决这一问题,提出了一种改进的对称交替方向乘子法(简称MSADMM算法)。与一般的S-ADMM算法相比,该算法在x子问题中引入一个半近邻项,近似地求解x子问题,克服了之前算法的不足。在适当的假设下,证明了其收敛性。最后,通过数值计算说明了该算法的有效性。     

一种部分非精确求解可分离凸优化问题的渐近点算法

本文研究了一类具有可分离结构的凸优化问题,在经典的交替方向法的基础上得到了一种部分非精确的渐近点算法.该方法分别求解凸优化问题的两个子问题,其中一个直接求解,另一个通过引入非精确项降低了求解的难度.在合理的假设下,新算法的收敛性得到了证明.数值实验表明新算法是有效的.     

一种部分非精确求解可分离凸优化问题的渐近点算法（英文）

本文研究了一类具有可分离结构的凸优化问题,在经典的交替方向法的基础上得到了一种部分非精确的渐近点算法.该方法分别求解凸优化问题的两个子问题,其中一个直接求解,另一个通过引入非精确项降低了求解的难度.在合理的假设下,新算法的收敛性得到了证明.数值实验表明新算法是有效的.     

求解可分离凸优化问题的非精确混合分裂算法

针对一类有四个块变量的可分离凸优化问题,提出一种非精确混合分裂算法.在每一轮迭代中,该算法需要求解四个子问题,根据子问题计算工作量的大小,将四个子问题分为两组,每组包含工作量相当的两个子问题.算法在组内执行平行分裂方法,两组间执行交替方向方法,并允许迭代子问题的非精确求解.在适当的条件下,证明了所提出的混合分裂算法具有全局收敛性.