最小二乘问题迭代法的收敛性

对等价转化后的最小二乘问题，采用不同于自然分块的特殊分块迭代法，给出了其收敛域。此法具有比自然分块更加稀疏的特点。     

最小二乘问题迭代法的收敛性

对等价转化后的最小二乘问题，采用不同于自然分块的特殊分块迭代法，给出了其收敛域。此法具有此自然分块更加稀疏的特点。     

用USSOR迭代法求解最小二乘问题的收敛性

将文「１」中求解最小二乘问题的ＳＯＲ迭代法推广到ＵＳＳＯＲ迭代法,给出了６种分裂形式下,ＵＳＳＯＲ迭代法的收敛域。最后给出算例,比较了参数的选取对收敛速度的影响。     

亏秩线性最小二乘问题的AOR迭代法的半收敛性

本文研究了找不相容线性方程组Ax=b的极小范数最小二乘解x=A^＋b的AOR迭代法．利用广义逆矩阵的知识，我们给出了AOR法的迭代阵Br，ω半收敛的充分必要条件，并且给出了文[8]与[9]中几个主要定理的较简单的证明．     

关于非线性最小二乘问题收敛性的证明

本文主要讨论了无约束最优化中非线性最小二乘问题的收敛性。侧重于收敛的速率和整体、局部分析。改变了Gauss—Newton方法收敛性定理的条件,分二种情况证明了:(1)目标函数的海赛矩阵正定(函数严格凸)时为强整体二阶收敛;(2)目标函数不保证严格凸性,但海赛矩阵的逆存在时为局部收敛,敛速仍为二阶,同时给出了J(X)~(-1)和Q(X)~(-1)之间存在、有界性态的等价条件。     

秩亏最小二乘问题的预条件AOR迭代法

秩亏最小二乘问题来源于统计学问题、最优化问题等科学与工程计算领域。由于实际问题所对应的线性方程组的系数矩阵的阶数比较大,且秩亏,换句话说,矩阵A是不可逆的,使其求解变得更为复杂,因此,研究求解秩亏最小二乘问题的高效方法就变得尤为重要。为了求解秩亏最小二乘问题,在预处理基础上提出了二分块的AOR迭代法;研究了新建立的AOR迭代法的收敛性和最优参数的选取,得到了一些相关的定理。数值例子验证了所给方法的可行性。数值实验和理论都表明:新的AOR方法的计算格式更加简单、收敛速度快、并具有广泛的适用性,同时行满秩矩阵A1的选取要比文献[8]中可逆方阵A11的选取更方便。     

求解大型稀疏最小二乘问题的MSOR方法及其收敛性

文章讨论了求解大型稀疏最小二乘问题的ＭＳＯＲ方法，考虑了２－ＢＭＳＯＲ和３－ＢＭＳＯＲ方法的收敛区域，并且基于‖Ａ２Ａ－１１‖２给出了最佳２－ＢＭＳＯＲ松弛参数和相应的收敛谱半径     

2－块AOR迭代解最小二乘问题的最优收敛性

讨论用２－块ＡＯＲ迭代法解大型稀疏最小二乘问题的收敛性，给出其收敛的充要条件及其收敛域．进而证明；当时，ＡＯＲ迭代矩阵的谱半径，它远比相应的最优２－块ＡＯＲ迭代矩阵的谱半径好得多．     

加权最小二乘支持向量机与最小二乘问题的关系

研究了加权最小二乘支持向量机与最小二乘法的关系．证明了用加权最小二乘支持向量机作函数估计与在特征空间中用最小二乘法得到的解是一致的．加权最小二乘支持向量机选择核相当于最小二乘法选择基函数组．由此提出了采用加权最小二乘支持向量机解决最小二乘法问题的思想,保证解具有良好的推广性、鲁棒性与稀疏性．     

一个约束最小二乘问题

约束最小二乘问题在许多科学工程领域中有重要应用.给出了两类约束最小二乘问题有解的充分条件和必要条件,并且给出了一般解的表达式.     

超平面拟合最小二乘问题

首先导出了超平面拟合最小二乘问题的正规方程组，然后说明了该正规方程组有解，且其解使拟合函数取最小值，最后给出了求正规方程组的解的算法合数值例子。     

超平面拟合最小二乘问题

导出了超平面拟合最小二乘问题的正规方程组,说明该正规方程组有解,且其解使拟合函数取最小值,最后给出了求正规方程组的解的算法合数值例子.     

对最小二乘问题的研究

给出了一种新的求解非线性最小二乘问题的方法，它是通过寻求新的非线性方程组的解法来实现的。他给出了不用计算导数的求解非线性方程组的收敛迭代方法，他是建立在求解动力系统的稳定点的基础上，采用了较稳定的常微分方程初值问题的数值方法进行迭代求解，在离解较近的区域采用Steffensen加速技术以提高收敛速度。     

基于信噪比检验的病态总体最小二乘谱修正迭代法

针对病态总体最小二乘谱修正迭代算法的不足,基于复共线性综合诊断,合理判断参数估计是否受到复共线性危害及危害程度,然后制定精准的正则化策略,提出了基于信噪比检验的病态总体最小二乘谱修正迭代算法,根据信噪比检验结果确定谱修正矩阵,根据改造的L曲线法确定谱修正参数.最后通过模拟算例验证了该算法求解病态总体最小二乘问题的数值稳定性和有效性.     

多变量偏差补偿递推最小二乘法及其收敛性

对于带白色观测噪声的多变量自回归(AR)信号,提出了未知模型参数和噪声方差估计的偏差补偿递推最小二乘算法,用动态误差系统分析方法严格证明了所得到的模型参数和噪声方差估值是强一致的,即它们以概率1收敛于相应真实值。一个仿真例子说明了其有效性。     

解非线性最小二乘问题的Schmidt法的改进形式及收敛性证明

本文对R·Schmidt在其1979年博士论文中所提出的求解非线性参数最优化问题的最小二乘自适应的一种新方法进行了介绍,并对该方法作了几何解释和改进,而且给出了改进型算法的收敛性证明。     

求AX=B的最小二乘解的一种迭代法

提出了梯度矩阵(ΔF(x))的概念,构造了一种迭代法求最小二乘问题‖AX-B‖=min。通过这种方法,给定初始矩阵X1,在没有舍入误差的情况下,经过有限步迭代,找到它的一个解。并且,通过选择一种特殊的初始矩阵,得到它的最小范数解X*。另外,给定矩阵X0,通过求最小二乘问题min‖AX-B‖(其中B=B-AX),得到它的最佳逼近解。     

最小二乘与最小一乘

最小二乘与最小一乘是回归分析中两个重要的估计方法,在这篇文章中,我们将通过线性回归给出它们的定义,并给出它们的优缺点,希望能为使用者提供方便。     

连续时间线性系统递推最小二乘辩识的收敛性分析

本文针对多输入多输出的连续时间动态线性系统，在系统噪声相关的情形下，研究了递推最小二乘辩识，给出了保证最小二乘辩识强一致性的充分条件。