求解非凸两分块优化问题的Majorized Bregman交替方向乘子法

针对一类两分块非凸优化问题，提出Majorized 带Bregman距离的交替方向乘子法。为了使问题的子问题更易求解，对目标函数中的光滑项进行极大化线性处理，并对x子问题和y子问题同时添加一个Bregman距离。在适当的假设条件下，建立了算法的全局收敛性。同时，在效益函数满足KL性质时，建立了算法的强收敛性。数值实验结果验证该算法的有效性。     

非凸两分块问题乘子交替方向法的收敛性分析

乘子交替方向法(ADMM)求解大规模问题十分有效.ADMM在凸情形下的收敛性已被清晰认识,但非凸问题ADMM的收敛性结果还很少.本文针对非凸两分块优化问题,在增广拉格朗日函数满足Kurdyka-Lojasiewicz不等式性质且罚参数大于某个常数的条件下,证明了ADMM的收敛性.     

求解可分离凸优化问题的惯性近似松弛交替方向乘子法

基于交替方向乘子法(ADMM)提出了一种求解可分离凸优化可行问题的惯性近似松弛交替方向乘子法(IPR-ADMM).新构造的算法不仅具有提高算法收敛性的优势的惯性外推项,而且引入随机变量以随机加速新步长,从而提高算法的灵活性.并在适当的假设下,证明了算法的全局迭代收敛性.数值实验结果表明,数据维数取值越大,算法收敛越快,...     

非凸不可分离问题的广义交替方向乘子法的收敛性

交替方向乘子法（ADMM）是求解大规模优化问题和非凸非光滑问题的一种有效的方法,但当目标函数为非凸非光滑的情况时,原始ADMM算法的收敛性无法保证,且若目标函数中存在耦合函数,则算法的收敛性证明将更为复杂。在现实生活中存在的很多问题,其本质都是非凸的。因此,本文提出了一种改进的ADMM算法。与原始ADMM算法相比,该算法引入了一个松弛因子$\alpha $,构造了一种广义交替方向乘子法（GADMM）来求解具有线性约束的非凸不可分离优化问题。在一定的假设条件下,通过假设增广拉格朗日函数满足K-L不等式,证明了当惩罚参数足够大时,算法生成的序列收敛到增广拉格朗日函数的稳定点。     

求解Poisson问题的区域分解和交替方向乘子法

【目的】有效求解有界闭区域的Poisson问题,得到解决这类问题的区域分解法和交替方向乘子法。【方法】用区域分解法将问题转化为用两个子区域和增广拉格朗日函数表示的极小值问题,再采用交替方向乘子法求解该问题。【结果】对算法进行了收敛性分析,并给出了此类问题的具体应用。【结论】数值结果验证了该方法求解Poisson问题的可行性。     

稳健PCA的快速交替方向乘子法研究

稳健PCA是从稀疏粗差的测量矩阵中恢复低秩矩阵,在计算机视觉中有许多应用.文中提出一种稳健PCA求解的快速交替方向乘子法,即利用平滑技术对目标函数中非平滑项进行光滑处理,采用快速操作算子改善算法收敛速率.数据仿真和视频背景建模实验表明,文中算法在精度和效率上优于其它算法,适用于大规模问题的有效求解.     

一种改进的乘子交替方向法在l1-正则化分裂可行问题中的应用

提出了一种改进的乘子交替方向法（ADMM）算法,基于松弛技术和预测-校正框架,将松弛算子引入子问题x和对偶变量λ,使得每次迭代的步长大于1,从而提高了算法的收敛性,并在变分不等式的框架下证明了该算法的收敛性。此外,数值实验中通过图像去模糊问题验证了算法的有效性,并基于多组对照实验,综合考虑收敛效率和图像质量,选取适当的收敛准则。     

解凸二次半定规划的交替方向法

给出求解凸二次半定规划的交替方向法,并对这个算法的全局收敛性进行分析.     

解一类凸优化问题的部分非精确交替方向法

针对一类具有三个可分离算子的凸型优化问题,提出一种部分非精确的交替方向算法,得到了算法的一个下降方向和沿着这个下降方向的最合适的步长,在合理的假设下,算法的收敛性得到了证明,数值试验表明这种方法具有较好的效果.     

求解凸极小化问题的一种部分并行的可分方法

针对具有可分结构的凸极小化问题,提出了一种部分并行的可分方法.该方法是在预校正近似乘子法的基础之上,在极小化时采取了不同的格式,去掉了二次邻近项而直接用的增广项;在算法的迭代部分,预校正近似乘子法先计算x~(k+1),再计算z~(k+1),在部分并行的可分方法中,x~(k+1),z~(k+1)是并行计算的;通过数值算例得到的结果显示,该方法具有可行性.     

求解结构型单调变分不等式的投影类交替方向法

基于Han D提出的交替方向法,通过一系列的改进,对Ye C提出的结构型单调变分不等式问题给出了一种新的投影类交替方向法.新方法具有如下特点:每次迭代只需计算一次正交投影和几个函数值,这比Ye C的方法简单;方法产生的迭代点列关于问题的解集具有非扩张性;方法产生的步长一致有正下界.在解集非空和函数单调的条件下,方法具有全局收敛性.最后给出了初步的数值试验.     

通过随机排序的交替方向乘子法的矩阵恢复

为了解决交替方向乘子法（ADMM）在求解广义的鲁棒主成分分析（G-RPCA）模型时结果不收敛的问题,提出用随机排序的交替方向乘子法（RP-ADMM）来求解这一模型,并且通过数值模拟和实例验证证明了该算法的有效性。结果表明,该算法求解G-RPCA模型较目前已有的算法速度更快、鲁棒性更高;在处理同时被稀疏大噪声和稠密小噪声污染的图片时,能较理想地分离出图像的低秩部分、大噪声部分和小噪声部分。     

求解可分离凸优化问题的非精确混合分裂算法

针对一类有四个块变量的可分离凸优化问题,提出一种非精确混合分裂算法.在每一轮迭代中,该算法需要求解四个子问题,根据子问题计算工作量的大小,将四个子问题分为两组,每组包含工作量相当的两个子问题.算法在组内执行平行分裂方法,两组间执行交替方向方法,并允许迭代子问题的非精确求解.在适当的条件下,证明了所提出的混合分裂算法具有全局收敛性.     

非精确求解凸规划的部分交替方向算法

为了求解一类带有三个可分离算子的凸规划问题, 本文得到一种非精确的部分交替方向算法, 给出了新算法的一个下降方向和沿着这个下降方向的最优步长, 并在合理的假设下证明了该算法的全局收敛性. 数值试验表明该算法有效且易于执行.     

基于乘数交替方向法的系统图像退化恢复方法

针对一般正则化方法不能有效解决非线性成像和高动态成像的系统退化恢复问题,提出一种非线性图像恢复方法,该方法利用乘数交替方向法解决双边全变差(bilateral total variation,BTV)模型的正则化项不平滑问题.建立包含复原图像的非线性最小二乘数据拟合项和BTV正则化项的目标函数;对目标函数进行优化;构建一套有效的乘数交替方向法(multiplier alternating direction method,MADM)求解提出的模型.利用峰值信噪比(peak signalto noise ratio,PSNR)和结构相似性度量(structural similarity index measurement,SSIM)评估图像恢复结果.对于非线性成像系统退化,提出的方法在PSNR和SSIM方面比基于TV(total variation)模型的方法分别提高4.5％和4.1％.对于高动态的成像退化问题,提出的方法获得的恢复图像PSNR值可达61.89 dB,相比其他方法,至少提高了2.9％.此外,该方法的运行时间也至少节省了26％,具有较高的计算效率.     

一个解可分凸优化问题的部分预校正分裂法

考虑线性约束的可分离凸优化问题,其目标函数可分为没有耦合变量的3个独立的凸函数.基于扩展的轮换方向乘子法,提出了一个新的解可分离凸优化问题的部分预校正分裂法,此算法在校正步中考虑对第1个变量不进行校正,对第2个和第3个变量进行校正;并且在较弱的条件下,证明了此算法的收敛性.     

高维热传导方程的高精度交替方向隐式方法

提出了数值求解二维和三维热传导方程的高精度交替方向隐式（ADI）方法,其空间为四阶精度、时间为二阶精度,并通过Neumann方法证明是无条件稳定的．该方法沿每个空间方向只涉及3个网格基架点,因此可以重复采用TDMA算法,大大节省了计算时间．数值实验验证了该方法的高阶精度,并与二阶的Peaceman—Rachford格式、Douglas格式及Crank—Nicolson格式进行了比较．