一种极小化两个凸函数之和的混合近似邻近点算法

本文提出一种混合近似邻近点算法以求解极小化两个凸函数之和的无约束优化问题。通过将邻近点算法中的优化问题转化为一系列极小化近似函数的子问题来求解,以得到此优化问题的最优解。在子问题中用线性模型来取代原问题目标函数中非线性程度较低的函数,而在下一个子问题中,用二次模型来取代非线性程度较高的函数,进行交替运算。在临近点算法的框架下,求出原问题的解。最后给出3个算例以说明本文所给出的算法是有效的。
     

解一类复合非光滑极小化问题的拟牛顿型算法

本文讨论极小化由凸泛函和光滑算子复合而成的目标函数的数值方法,给出了旨在求上述问题的一个平稳点的拟牛顿型算法,它将原问题转化为求解一系列约束凸极小化问题的近似解.在适当的条件下算法具有全局收敛性,当目标函数满足增长条件时算法有超线性的敛速.     

基于一种新的γ-扩张凹极小化问题的割平面算法

首先,介绍凹极小化问题的有关内容及割平面算法的思想.然后,给出一种变上限函数积分法,并利用该积分法来求解凹极小化过程中γ-扩张的γ数.新算法在有限步内得到原问题的一个近似最优解,且算法的近似最优解为全局最优解.最后,通过数值试验证明了新算法是可行有效的。     

关于基于近似次梯度的非光滑优化束方法的对偶问题的研究

利用目标函数值和近似次梯度,构建了非光滑无约束优化问题目标函数的一个下近似模型,通过对该近似模型取极小寻找下一个可能使目标函数值下降的试探点.利用Lagrange函数写出了原近似问题的对偶问题,揭示了原近似问题的最优解与对偶问题最优解之间的关系,并进一步分析了相应的近似次梯度的某种凸组合与目标函数在当前迭代点的次微分以及目标函数的近似模型在当前迭代点的近似次微分之间的所属关系.所得结果为原近似问题的求解开辟了新思路,也使整个外层束方法的执行变得简单易行.     

一类非光滑优化问题的邻近交替方向法

非光滑优化问题在现实生活中有着广泛应用.针对一类带有结构特征为两个连续凸函数与具有Lipschitz梯度的二次可微函数的和的无约束非光滑非凸优化问题,给出了一种邻近交替方向法,称之为二次上界逼近算法.该算法结合交替方向法与邻近点算法的思想,将上述优化问题转化为平行的子问题.在求解子问题的过程中,对目标函数中的光滑部分线性化,此时子问题被转化为凸优化问题.然后分别对两个凸优化子问题交替利用邻近点算法求解.基于以上思想,首先我们给出算法的伪代码,然后建立了算法收敛性的充分条件,最后证明在该条件下,算法产生迭代序列的每个极限点是原问题的临界点.     

随机二阶锥互补约束优化模型的一般光滑化SAA方法

讨论一般随机二阶锥互补约束问题的求解算法.为处理模型中的不确定性，算法采用样本平均近似(SAA)抽样技术.不同于之前的工作，设计了一般光滑化SAA算法框架，可以在满足要求的一类光滑化函数中根据需要进行选择，从而构造光滑化SAA算法，并保证收敛性.具体的，若SOCMPCC线性无关约束规范等条件成立，则算法构造子问题的稳定点和最优解分别以概率1收敛到原问题的C稳定点和最优解.最后具体给出两个光滑化函数与其对应光滑化SAA算法的例子，由一般光滑化算法框架可得这两种算法收敛.     

热传导界面问题的一种神经网络算法

本文讨论了一种单隐层神经网络算法在数值求解热传导界面问题中的应用。该算法设定含有神经网络函数的近似解满足初边值条件和Dirichlet 界面条件,通过求解由原方程导出的关于神经网络权重的离散优化问题来训练近似解中的神经网络,以使近似解逼近真解。文中也给出了一种基于随机梯度法思想的类随机梯度法来求解相应的离散优化问题。数值算例验证了算法的有效性。     

随机线性二阶锥互补问题的实值隐拉格朗日法

为探讨随机二阶锥互补问题的求解方法,利用实值隐拉格朗日法求解随机线性二阶锥互补问题。通过借助于对称锥互补问题中实值隐拉格朗日函数和随机问题的期望残差极小化方法,探讨所得问题解的存在性。由于期望残差极小化模型的目标函数中含有数学期望,故利用蒙特卡罗法对该问题进行近似。证得近似问题最优解序列是依概率1地收敛于期望残差极小化问题的最优解,并且近似问题稳定点序列是依概率1地收敛于期望残差极小化问题的稳定点,为随机二阶锥互补问题提供一种新的求解方法。     

大规模过程系统优化的序列界约束方法

基于非线性约束极小化的序列无约束方法,对大规模过程系统稳态优化的序列界约束方法进行了研究.该约束方法的罚函数只包含对等式和/或不等式约束的惩罚项,不包含对界约束的惩罚项,通过迭代求解一系列界约束极小化子问题而非无约束极小化子问题获得原问题的解;算法按2层结构实现,内层结构中主要求解界约束极小化子问题得到下一个迭代点,外层迭代主要修改乘子向量和罚向量以及检查收敛准则是否满足,重构下次迭代的界约束子问题,或在收敛准则满足时终止算法.此外,给出了求解界约束极小化子问题的修改截断Newton法,并用一类规模可变的约束优化问题和一类最优控制问题对所给方法进行了数值试验,试验结果表明,所给序列界约束方法是非常稳定和有效的.     

一般变分不等式的非精确邻近点算法收敛性

针对希尔伯特空间中的一般变分不等式,将其等价转化为变分包含问题.利用非精确邻近点算法将问题进一步转化为求解一系列子问题,给出了一种近似解子问题的新误差准则,结果表明:在该准则下,非精确邻近点算法具有全局收敛性.在算子F是g-单调和算子g是同胚映射的条件下,得到非精确邻近点算法收敛于一般变分不等式的一个解,证明了解是唯一的.     

一类非凸非光滑优化问题的近似uv-分解方法

uv-分解理论是侧重于非光滑函数的光滑信息来研究凸函数的二阶近似,从而得到凸优化问题有效算法的一种新方法.应用uv-分解理论研究一类非光滑优化问题,此问题作为许多随机优化问题的子问题,它的求解方法对处理随机优化问题有重要作用.将所研究的问题适当地转化为一类由两个非光滑函数的和的无约束优化问题,由于无法直接利用uv-分解理论,所以借助其中一个函数的光滑凸近似,得到了目标函数的近似函数.应用uv-分解理论给出该函数的U-lagrangian函数及其基本性质,目标函数的二阶近似,进而给出了求解原问题的近似uv-分解算法以及算法的收敛性证明.     

一般凸规划的近似非精确数据交替线性化方法

用非精确交替线性化方法求解一类一般凸规划问题(OCP).首先通过对应的扰动双函数的定义将约束(OCP)问题转化为形式为2个凸函数和的无约束极小化问题,然后用非精确数据定义线性化模型进而构造出两个强凸子问题,通过交替求解,经过有限多次迭代后所得的解收敛到原目标函数的迫近点.     

非凸优化的近似束方法及对偶问题

束方法目前是解决非光滑优化问题最有前景的方法之一。出于实际计算的需要,使用两个扰动函数共同控制真实目标函数,利用它们的信息构建增广函数,从而把凸优化迫近束方法应用到非凸问题中来。类似地建立目标函数的下近似模型,通过求解二次规划最小值点作为下一个候选点,进一步再筛选出下降点。最后利用Lagrange函数写出了束方法子问题的对偶问题,揭示了扰动后原问题的最优解和对偶问题最优解之间的关系。     

期望残差极小化方法求解一类随机混合均衡问题

【目的】研究有限维空间中的一类随机混合均衡问题。【方法】首先定义了混合均衡问题的正则化间隙函数,并研究了正则化间隙函数的一些可微性质;其次通过随机混合均衡问题的正则化间隙函数,将求解随机混合均衡问题转化为求解期望残差极小化模型。【结果】在一定条件下,通过样本平均近似方法得到了期望残差极小化模型的解。【结论】随机混合均衡问题的期望残差极小化模型的解存在并且唯一。     

核范数最小化问题的非精确Halpern型邻近点算法(英文)

本文针对求解核范数极小矩阵优化问题给出一种新的可执行的非精确Halpern型邻近点算法,并证明该算法生成的迭代点列强收敛于起始点在解集上的投影.     

无约束优化的非单调三次正则BB算法

先利用BB(Barzilai Borwein)类型参数构造目标函数Hessian矩阵的近似矩阵, 通过极小化当前迭代点处的三次正则化近似梯度模型求解试探步, 再结合非单调线搜索策略提出一个非单调三次正则BB算法, 最后给出算法的收敛性证明. 数值实验结果表明, 该算法数值性能良好.     

无约束全局优化问题的两种新的辅助函数法

填充函数法、打洞函数法和平稳点函数法是目前比较常用的求解全局优化问题的辅助函数法。本文提出两种新的辅助函数法,用于求解一般非线性规划问题的全局最优解,它不仅结合了填充函数法和打洞函数法及其平稳点函数法的特点,同时又避免了它们的一些缺点（每次求解填充函数、打洞函数和平稳点函数的局部极小点以后,还需要重新求解原问题的局部极小点）,而新的辅助函数的局部极小点就是原问题的局部极小点,不需要再求原问题的局部极小点。     

无约束优化的非单调三次正则BB算法

先利用BB(Barzilai Borwein)类型参数构造目标函数Hessian矩阵的近似矩阵, 通过极小化当前迭代点处的三次正则化近似梯度模型求解试探步, 再结合非单调线搜索策略提出一个非单调三次正则BB算法, 最后给出算法的收敛性证明. 数值实验结果表明, 该算法数值性能良好.     

用变换函数解带线性约束的全局最优问题

结合变换函数方法和下降算法对目标函数有多个极值点且带有线性约束的非线性规划全局问题提出算法.使用的变换函数兼具填充函数和打洞函数的特点.在理论上证明如果当前局部极小点不是全局最优解,一定存在一个变换函数的极小点使得该点的目标函数值小于当前局部极小点的函数值,且该点位于原问题的可行域内.以此点为初始点求解原问题可得到更好的局部极小点.     

非凸优化的近似束方法及对偶问题

束方法目前是解决非光滑优化问题最有前景的方法之一。出于实际计算的需要,使用两个扰动函数共同控制真实目标函数,利用它们的信息构建增广函数,从而把凸优化迫近束方法应用到非凸问题中来。类似地建立目标函数的下近似模型,通过求解二次规划最小值点作为下一个候选点,进一步再筛选出下降点。最后利用Lagrange函数写出了束方法子问题的对偶问题,揭示了扰动后原问题的最优解和对偶问题最优解之间的关系。