求解凸优化问题的改进对称交替方向乘子法

对称交替方向乘子法(简称S-ADMM算法)是求解可分离凸优化问题的一种有效方法。该算法利用目标函数的可分离性,将原问题分解成多个极小化子问题,然后交替求解。能否有效地求解子问题对算法的有效性有重要影响。在很多实际应用中,不能精确地求解子问题,或者精确求解子问题花费代价较大。为解决这一问题,提出了一种改进的对称交替方向乘子法(简称MSADMM算法)。与一般的S-ADMM算法相比,该算法在x子问题中引入一个半近邻项,近似地求解x子问题,克服了之前算法的不足。在适当的假设下,证明了其收敛性。最后,通过数值计算说明了该算法的有效性。     

基于双核范数鲁棒矩阵分解的遮挡图像恢复

低秩矩阵分解是计算机视觉、机器学习和数据挖掘中普遍使用的数据分析工具.矩阵分解方法可用于连续遮挡的图像数据的恢复,而低秩矩阵分解可转化为核范数优化模型.为了增强矩阵分解模型的鲁棒性,提出基于双核范数的鲁棒矩阵分解方法,该方法将每个数据矩阵分解为低秩干净数据、低秩噪声数据和稀疏噪声数据之和.建立最小化矩阵双核范数与L1范...     

部分并行磁共振成像的交替方向乘子法研究

交替方向乘子法是求解基于全变分模型的部分并行磁共振成像(partially parallel imaging,PPI)的有效方法,但研究表明其测量矩阵的求解繁琐且复杂。文中针对交替方向乘子法采用固定步长求解速度慢的缺点,提出了一种自适应交替方向乘子法,将传统的交替方向乘子法和BarzilaiBorwein方法相结合,有效处理了全变分正则项的非凸难以求解的问题。实验结果表明,该改进算法不仅能得到较好的图像恢复效果,而且具有良好的收敛性和稳定性。     

非凸不可分离问题的广义交替方向乘子法的收敛性

交替方向乘子法（ADMM）是求解大规模优化问题和非凸非光滑问题的一种有效的方法,但当目标函数为非凸非光滑的情况时,原始ADMM算法的收敛性无法保证,且若目标函数中存在耦合函数,则算法的收敛性证明将更为复杂。在现实生活中存在的很多问题,其本质都是非凸的。因此,本文提出了一种改进的ADMM算法。与原始ADMM算法相比,该算法引入了一个松弛因子$\alpha $,构造了一种广义交替方向乘子法（GADMM）来求解具有线性约束的非凸不可分离优化问题。在一定的假设条件下,通过假设增广拉格朗日函数满足K-L不等式,证明了当惩罚参数足够大时,算法生成的序列收敛到增广拉格朗日函数的稳定点。     

求解Poisson问题的区域分解和交替方向乘子法

【目的】有效求解有界闭区域的Poisson问题,得到解决这类问题的区域分解法和交替方向乘子法。【方法】用区域分解法将问题转化为用两个子区域和增广拉格朗日函数表示的极小值问题,再采用交替方向乘子法求解该问题。【结果】对算法进行了收敛性分析,并给出了此类问题的具体应用。【结论】数值结果验证了该方法求解Poisson问题的可行性。     

非凸两分块问题乘子交替方向法的收敛性分析

乘子交替方向法(ADMM)求解大规模问题十分有效.ADMM在凸情形下的收敛性已被清晰认识,但非凸问题ADMM的收敛性结果还很少.本文针对非凸两分块优化问题,在增广拉格朗日函数满足Kurdyka-Lojasiewicz不等式性质且罚参数大于某个常数的条件下,证明了ADMM的收敛性.     

稳健PCA的快速交替方向乘子法研究

稳健PCA是从稀疏粗差的测量矩阵中恢复低秩矩阵,在计算机视觉中有许多应用.文中提出一种稳健PCA求解的快速交替方向乘子法,即利用平滑技术对目标函数中非平滑项进行光滑处理,采用快速操作算子改善算法收敛速率.数据仿真和视频背景建模实验表明,文中算法在精度和效率上优于其它算法,适用于大规模问题的有效求解.     

求解可分离凸优化问题的惯性近似松弛交替方向乘子法

基于交替方向乘子法(ADMM)提出了一种求解可分离凸优化可行问题的惯性近似松弛交替方向乘子法(IPR-ADMM).新构造的算法不仅具有提高算法收敛性的优势的惯性外推项,而且引入随机变量以随机加速新步长,从而提高算法的灵活性.并在适当的假设下,证明了算法的全局迭代收敛性.数值实验结果表明,数据维数取值越大,算法收敛越快,...     

利用交替方向法求解H权重最近相关系数矩阵问题

由于计算H权重的半正定矩阵锥投影比较困难,目前求解带有H权重的最近相关系数矩阵问题的方法很少且比较复杂.考虑用交替方向法求解该问题,每次迭代只需求解一个有显式解的二次规划问题和一个不带权重的半正定矩阵锥投影,计算简单,易于实现.为提高计算速度,还考虑了改进的交替方向法.此外,通过数值实验对交替方向法与现有方法进行了比较,说明了交替方向法对解决带有H权重的最近相关系数矩阵问题的有效性.     

一种改进的乘子交替方向法在l1-正则化分裂可行问题中的应用

提出了一种改进的乘子交替方向法（ADMM）算法,基于松弛技术和预测-校正框架,将松弛算子引入子问题x和对偶变量λ,使得每次迭代的步长大于1,从而提高了算法的收敛性,并在变分不等式的框架下证明了该算法的收敛性。此外,数值实验中通过图像去模糊问题验证了算法的有效性,并基于多组对照实验,综合考虑收敛效率和图像质量,选取适当的收敛准则。     

基于主成分分析的交叉环境DEA模型的应用

定义一般环境交叉互评指数,并针对现有交叉数据包络分析（DEA）模型计算指数时未能体现整体数据信息的缺点,结合主成分分析（principal component analysis,PCA）提出一种改进型交叉互评指数方法,使得每一个决策单元的评价向量依据其对评价矩阵中变异量的贡献度而赋予不同的权重;并筛除一些影响较小的信息,从而达到降维的目的,改善了交叉环境模型的评估效率。最后基于真实的能源投入与产出数据,对比传统交叉评价方法及改进型方法在计算能源效率结果上的异同。     

保持纹理细节的自适应非局部均值图像降噪

主邻域字典(principal neighborhood dictionaries, PND)非局部均值(nonlocal means, NLM)是一种基于主成分分析(principal component analysis , PCA)的有效图像降噪方法, 但因其未能充分利用图像的内容结构信息, 对纹理细节较多区域的降噪效果较差. 改进PND 方法, 实现基于PCA 的自适应非局部均值降噪. 根据图像局部内容调整滤波参数h, 得到动态变化的像素间相似权值. 实验结果表明, 该方法能更好地保留图像纹理和边缘信息, 降噪效果优于非自适应的PND 方法.     

主成份分析和交叉相关的红移测量

提出了一种新的红移测量方法.首先进行谱线提取,并利用谱线信息确定红移候选;然后,根据红移候选对目标光谱和模板光谱进行交叉相关计算,最大相关值对应的红移候选为目标光谱的红移.采用的静止模板是利用主成份分析构造的.与已有的基于交叉相关的方法相比,本文方法可测量的红移范围大,受谱线提取效果的影响较小.实验结果表明:该方法优于基于谱线匹配的方法,正确率达到95%以上.     

一种面向物联网的轻量级入侵检测方法

为了适应实时性强、资源有限类物联网应用的需求,提出一种相对于传统入侵检测方法能明显减少计算量的轻量级入侵检测方法.在训练过程中先对样本进行K-means聚类,使类内数据之间的距离最小、相似度最大;然后逐个对聚类结果进行主成分分析(principal component analysis,PCA),去除无关并保留相关性大的特征,构成该类的特征集;在检测过程中比较测试数据与训练过程中各聚美中心的欧式距离,选取最小距离对应的聚类中心,并将测试数据划归到该中心对应的聚类中;利用该类的特征集与测试数据中对应维度的数据对比来进行入侵检测,若比较结果超过阈值则报警,否则予以通过.仿真实验结果表明,该方法在明显缩短检测时间的同时,检测率可达96.8％.     

小样本下基于特征子空间估计的故障诊断算法

为解决PCA(Principal Component Analysis)因样本数目少而无法得到稳健协方差矩阵问题,根据主元分析的几何意义,引入CS分解贝叶斯空间估计的思想,将协方差矩阵问题转化成特征子空间估计问题.首先根据大量历史数据运用PCA离线建立SPE(Squard Prediction Error)统计量阈值和故障模式特征子空间矩阵库,当在线检测到系统存在异常情况时,由于受一定的环境影响只能得到小样本故障数据,利用本文方法可估计出小样本数据的特征子空间矩阵;然后通过对比特征子空间与故障模式特征子空间的相似性,完成故障诊断.最后通过仿真验证了此方法的可行性和有效性.     

一种新的广义鲁棒主成分分析(GRPCA)算法研究及应用

为恢复被混合噪声污染的低秩矩阵,提出了一种新的广义鲁棒主成分分析（GRPCA）算法。它通过最小化核范数、1范数和2,1范数的组合问题,从观测矩阵中分离出低秩部分和混合噪声部分,并用随机排序的交替方向乘子法求解。利用本文方法进行垃圾邮件分类的实验结果表明,与经典的主成分分析（PCA）和鲁棒主成分分析（RPCA）算法相比,本文方法可以有效提高垃圾邮件分类的精确度和稳定性。