一种求解大规模非光滑优化问题的共轭梯度法

针对大规模非光滑优化问题,利用Moreau-Yosida正则化技术和Armijo-type线搜索技术,设计了一种修正LS共轭梯度算法.算法的搜索方向不仅满足充分下降条件,而且具有信赖域性质.可以证明新算法在适当条件下全局收敛.初步的数值实验表明,新算法在求解大规模非光滑无约束凸优化问题方面比LMBM方法和MPRP方法更有效.     

求解非光滑优化问题的修正HS三项共轭梯度法

为了提高大规模非光滑优化问题的求解效率,克服其他方法存储需求大、算法复杂等缺点,提出求解非光滑优化问题的一种修正HS共轭梯度算法。在经典HS三项共轭梯度法的基础上提出一种新的搜索方向,并利用Moreau-Yosida正则化技术和Armijo-type线搜索技术进行设计。新算法满足充分下降条件,搜索方向属于信赖域,在适当条件下证明了新算法全局收敛。初步的数值实验表明新算法在求解非光滑无约束优化问题方面比LMBM方法更有效。新算法不仅具有较好的收敛性质,而且数值表现良好,为更加高效地求解非光滑优化问题提供了新的方法。     

一类非光滑优化问题的邻近交替方向法

非光滑优化问题在现实生活中有着广泛应用.针对一类带有结构特征为两个连续凸函数与具有Lipschitz梯度的二次可微函数的和的无约束非光滑非凸优化问题,给出了一种邻近交替方向法,称之为二次上界逼近算法.该算法结合交替方向法与邻近点算法的思想,将上述优化问题转化为平行的子问题.在求解子问题的过程中,对目标函数中的光滑部分线性化,此时子问题被转化为凸优化问题.然后分别对两个凸优化子问题交替利用邻近点算法求解.基于以上思想,首先我们给出算法的伪代码,然后建立了算法收敛性的充分条件,最后证明在该条件下,算法产生迭代序列的每个极限点是原问题的临界点.     

非凸不可分离问题的广义交替方向乘子法的收敛性

交替方向乘子法（ADMM）是求解大规模优化问题和非凸非光滑问题的一种有效的方法,但当目标函数为非凸非光滑的情况时,原始ADMM算法的收敛性无法保证,且若目标函数中存在耦合函数,则算法的收敛性证明将更为复杂。在现实生活中存在的很多问题,其本质都是非凸的。因此,本文提出了一种改进的ADMM算法。与原始ADMM算法相比,该算法引入了一个松弛因子$\alpha $,构造了一种广义交替方向乘子法（GADMM）来求解具有线性约束的非凸不可分离优化问题。在一定的假设条件下,通过假设增广拉格朗日函数满足K-L不等式,证明了当惩罚参数足够大时,算法生成的序列收敛到增广拉格朗日函数的稳定点。     

一类非光滑约束优化问题的凝聚同伦内点方法

利用凝聚技术和组合同伦内点方法研究可行域满足伪锥条件下非凸域上的非光滑优化问题,构造性地证明了该类非光滑优化问题的广义K-K-T方程解的存在性,得到了求解K-K-T点的凝聚同伦内点方法,并证明了该算法具有全局收敛性.     

一类联合最大特征值函数优化问题

非光滑凸优化问题是运筹学的一类重要问题.束方法作为解决非光滑凸优化问题最有效的方法之一,已经被广泛地应用于各个领域.运用束方法对最大特征值函数与一般非光滑凸函数之和的优化问题进行研究.首先,对目标函数进行近似;其次,给出求解此类优化问题的带有罚项的束方法算法;最后,通过收敛性分析证明了算法产生的序列会收敛到原问题的最优解.     

一类Armijo搜索下新的共轭梯度法及其全局收敛性

为有效求解大规模无约束优化问题,提出了一类新的混合共轭梯度法.该方法在每步迭代中都不依赖于函数的凸性和搜索条件而自行产生充分下降方向.在适当的条件下,获证了在Armijo搜索下,即使求解非凸函数极小化的问题,算法也具有全局收敛性.同时,数值实验表明所提算法可以有效求解优化测试问题.     

一类非凸非光滑优化问题的近似uv-分解方法

uv-分解理论是侧重于非光滑函数的光滑信息来研究凸函数的二阶近似,从而得到凸优化问题有效算法的一种新方法.应用uv-分解理论研究一类非光滑优化问题,此问题作为许多随机优化问题的子问题,它的求解方法对处理随机优化问题有重要作用.将所研究的问题适当地转化为一类由两个非光滑函数的和的无约束优化问题,由于无法直接利用uv-分解理论,所以借助其中一个函数的光滑凸近似,得到了目标函数的近似函数.应用uv-分解理论给出该函数的U-lagrangian函数及其基本性质,目标函数的二阶近似,进而给出了求解原问题的近似uv-分解算法以及算法的收敛性证明.     

一个求解广义圆锥互补问题的光滑非精确牛顿法

研究一个求解广义圆锥互补问题的光滑非精确牛顿法.该算法基于一个新的光滑函数，将广义圆锥互补问题等价转化成一个光滑的非线性方程组，然后利用非精确牛顿法求解此方程组.算法在每次迭代时只需求解牛顿方程的一个近似解，因此适于求解大规模广义圆锥互补问题.在适当条件下，证明算法具有全局和局部二次收敛性质.数值实验结果表明算法是非常有效的.     

基于凸优化模型的Sudoku求解方法及其GUI实现

针对经典的Sudoku问题,提出一种基于凸优化模型求解方法.采用凸优化约束条件描述Sudoku规则,将原始Sudoku问题建模为凸优化问题求解.在满足约束等距性条件时,新算法可以快速准确获得Sudoku结果.利用MATLAB软件设计出求解Sudoku问题的图形用户界面,并通过实例验证了新算法的有效性.     

一种部分非精确求解可分离凸优化问题的渐近点算法

本文研究了一类具有可分离结构的凸优化问题,在经典的交替方向法的基础上得到了一种部分非精确的渐近点算法.该方法分别求解凸优化问题的两个子问题,其中一个直接求解,另一个通过引入非精确项降低了求解的难度.在合理的假设下,新算法的收敛性得到了证明.数值实验表明新算法是有效的.     

一种部分非精确求解可分离凸优化问题的渐近点算法（英文）

本文研究了一类具有可分离结构的凸优化问题,在经典的交替方向法的基础上得到了一种部分非精确的渐近点算法.该方法分别求解凸优化问题的两个子问题,其中一个直接求解,另一个通过引入非精确项降低了求解的难度.在合理的假设下,新算法的收敛性得到了证明.数值实验表明新算法是有效的.     

基于一个新NCP函数的P_0-NCP的光滑非精确牛顿算法

给出了一个新NCP函数.在此函数的基础上,提出了一个求解P0-NCP的光滑非精确牛顿算法.并在适当的条件下,证明了该算法具有全局收敛性.数值试验表明算法对中大规模问题具有好的效果.     

一类非Lipschitz约束优化的光滑化投影梯度算法

本文研究一类具有箱约束的非凸非光滑非Lipschitz最小化模型,它是一类典型的稀疏优化问题,在图像重建、信号处理、变量选择等领域有广泛的应用。本文在最优性条件的基础上,提出了光滑化投影梯度算法对其进行求解,分析了算法的收敛性,通过数值试验验证了算法的有效性。     

概率约束优化问题的一个光滑D.C.近似

概率约束优化问题通常是非凸且非光滑的,因而在数值计算上存在困难.基于Pinar-Zenios光滑和函数,建立了概率约束优化问题的一个光滑D.C.近似问题,提出了求解光滑D.C.近似问题的序列凸近似(SCA)算法,分析了初始解的选取方法,并讨论了算法的收敛性,收敛定理表明可以由SCA算法可以得到光滑D.C.近似问题的KKT点,并且在迭代过程中,确保了由SCA算法生成的解序列的极限点是近似问题的KKT点.     

求解加权最小包容球问题的两种算法

研究在高维空间中的加权最小包容球问题,该问题是非光滑的凸优化问题.提出光滑逼近和非精确牛顿共轭梯度算法求解该问题,并证明其收敛性.此外,给出数值实验,比较这2种算法和经典牛顿共轭梯度算法的计算效率,其中非精确牛顿共轭梯度算法的计算效率更高.     

求解一类非凸非光滑约束优化问题的邻近滤子束算法

针对一类特殊的非凸非光滑约束优化问题提出了邻近滤子束算法.该问题的目标函数为lower-c2而约束函数为凸的.具体地,首先对目标函数采用凸化技术得到修正的问题,接着利用改进函数将修正后的约束问题转变为无约束问题,设计邻近束算法来求解这个无约束问题并在邻近束算法中引入滤子策略来确定下降步.数值结果表明了该算法的有效性和可靠性.     

求解SEB问题的有限记忆BFGS方法

目的求解n维空间中m个球的最小闭包问题。方法利用光滑函数将该问题转化为无约束非光滑凸优化问题。结果给出了解该优化问题的有限记忆BFGS算法。结论数值结果表明该算法求解高维空间中球的最小闭包问题的可行性及有效性。     

求解非凸截断L_1-SVM的多阶段非精确线搜割平面方法

截断Hinge损失能够获得更为稀疏的支持向量,因此在鲁棒性上有显著的优点,但却由此导致了难以求解的非凸问题. MM(Majorization-Minimization)是一种求解非凸问题的一般框架,多阶段MM策略已经在稀疏性上取得了很好的效果,但是计算复杂度较高.另一方面,非精确线搜割平面方法可以高效求解线性支持向量机问题.针对截断L_1-SVM(L1Support Vector Machine)这一非凸非光滑问题,提出一种基于非精确线性搜索的多阶段割平面方法,避免每个阶段都进行批处理求解,克服了计算复杂度高的缺点,具有每个阶段求解速度快的优点.该算法适用于大规模问题的求解,也从理论上保证了其收敛性.最后,与其他多阶段算法进行了实验对比,验证了该方法的有效性.     

组合同伦内点算法求解一类非凸无界优化问题

用组合同伦内点算法求解一类非凸无界优化问题, 在适当的条件下得到了同伦路径的存在性. 结果表明, 沿着此同伦路径跟踪, 即可得到非凸优化问题的K-K-T点.