非负线性最小二乘问题与线性互补问题及不动点问题的等价性

通过Taylor公式建立了非负线性最小二乘问题和线性互补问题之间的等价性,然后,利用这种等价性,把求解非负线性最小二乘问题转化为求解不动点问题中的两个不动点方程.     

解线性最小二乘问题的2个混合交替CQ算法

给出2个改进的混合交替CQ算法求解线性最小二乘问题.许多学者研究这个问题并提出了各种各样的算法去解决它.混合交替CQ算法在科学领域有着广泛的应用,它起源于相位恢复、医学图像重建、强度可调放射疗法、信号工程和X光断层摄影技术.给出2个新的算法的弱收敛性证明,作为应用考虑将其求解线性最小二乘问题.     

全约束下高光谱混合像元线性分解

针对使用线性模型对混合像元进行求解,其分解的结果(丰度值)会出现负值或和不为1的情况,提出了加入非负约束与和为1的条件对此线性模型进行最小二乘分解,并给出相应的算法。实验表明全约束下的最小二乘获得了比较好的分解效果。     

线性等式约束非线性最优化问题的一个新算法

有文献给出了一般等式约束非线性最优化问题的一种求解途径。在此基础上将线性等式约束非线性最优化问题转化为非线性最小二乘问题求解，提出了求解最优化问题的一种新思路。然后利用Gauss-Newton法求解非线性最小二乘问题，在求解过程中引入非精确的一维搜索，提高了计算的效率，加快了算法收敛的速度，从而找到了具有线性等式约束非线性最优化问题的一个新算法，算法具有很好的收敛性，收敛速度是二阶的。最后经过数值实验证明新算法与Matlab优化工具箱计算的结果一致，是可行的、有效的。
     

近似求解子问题的乘性Schwarz算法

提出求解线性互补问题的一个乘性Ｓｃｈｗａｒｚ算法，算法中子问题非精确求解，得到了单调收敛性及误差估计式。     

求解非线性最小二乘问题的自适应锥模型信赖域算法

针对非线性最小二乘问题,利用锥模型算法思想,给出了海赛矩阵中二阶信息项的割线近似的不同校正公式,并利用自适应信赖域技术给出了求解非线性最小二乘问题的自适应锥模型信赖域算法.算法中我们允许使用非精确方法近似求解信赖域子问题.文中给出了新算法的全局收敛性和超线性收敛性分析以及数值试验结果.     

统计回归模型及其优化算法综述

在大数据时代,正则化(惩罚)回归模型成为高维数据分析的一种有效分析工具.文中从统计模型理论和优化算法两个角度对正则化回归模型进行简要的概述,主要介绍线性回归模型、广义线性模型和分位数回归模型三种经典且重要的回归模型以及相应的正则项.对于线性回归模型,介绍最小二乘回归和l_1-正则最小二乘回归问题的优化算法;对广义线性模型和分位数回归模型,介绍逻辑回归模型和求解l_1-正则逻辑回归问题的优化算法,并展示分位数回归模型和求解相应的正则化分位数回归模型的优化算法.最后,对正则化回归模型未来的研究方向进行展望.     

新的求解大规模线性最小二乘问题的随机算法

目的针对传统的求解线性最小二乘问题方法的计算、存储复杂度大,不适于大规模问题的缺点,提出新的随机算法近似求解大规模线性最小二乘问题。方法通过随机采样对超大规模线性最小二乘问题的系数矩阵进行约减,利用快速Walsh-Hadamard对问题进行变换来保留原问题的重要信息,再用QR分解算法求解约减问题,得到原问题的近似解。结果该方法有效降低了问题的求解复杂度和存储复杂度。结论数值实验表明新算法和相关算法相比求解精度可接受,但大大减少求解时间且在同等计算平台下可处理更大规模的问题。     

基于组合测量的一种新的最小二乘算法

利用线性互补问题,建立了一种基于组合测量的新的最小二乘算法,并在适当的条件下证明了算法的收敛性和唯一性.最后,计算机仿真验证了算法的有效性.     

线性等式约束非线性最优化问题的一个新算法

有文献给出了一般等式约束非线性最优化问题的一种求解途径。在此基础上将线性等式约束非线性最优化问题转化为非线性最小二乘问题求解,提出了求解最优化问题的一种新思路。然后利用Gauss-Newton法求解非线性最小二乘问题,在求解过程中引入非精确的一维搜索,提高了计算的效率,加快了算法收敛的速度,从而找到了具有线性等式约束非线性最优化问题的一个新算法,算法具有很好的收敛性,收敛速度是二阶的。最后经过数值实验证明新算法与Matlab优化工具箱计算的结果一致,是可行的、有效的。