全最小一乘法

先介绍最小二乘法、最小一乘法与全最小一乘法,论述它们的异同;然后举例说明全最小一乘法在经济方面的应用,并将它与最小二乘法及最小一乘法进行比较,同时给出了利用LINGO10软件计算全最小一乘法的程序;最后,简单叙述了全最小一乘法在理论上的进一步发展.     

基于遗传算法的最小一乘回归新算法

最小一乘在稳健性上比最小二乘好,使得最小一乘在工程中得到广泛的应用,但求解最小一乘的算法并不理想;本文根据最小一乘的性质,把最小一乘问题变为组合优化问题.将遗传算法用在最小一乘模型的求解上,在后面的仿真实验中得到了较好的效果.     

正弦余弦算法求解含有异常值的非线性数据拟合

针对非线性数据拟合问题，建立以残差的平方和与绝对值和为目标的最小二乘与最小一乘模型，采用正弦余弦算法计算模型参数.计算结果表明：如果数据的分布是对称且无异常值，则最小二乘得到的结果与最小一乘得到的结果基本一致；如果数据存在异常值，则异常值对最小二乘有着较大的影响，而对最小一乘的影响较小.     

组合预测模型的回归分析方法

给出求解组合预测权系数的回归分析方法，文章首先给出了基于最小二乘和最小一乘准则的线性回归组合预测模型，然后应用最小二乘原理得到权系数最小二乘估计值。由于最小一乘准则下，目标函数不可微，传统的优化规则方法无法求解，故文中提出用基于最小二乘的逐步变权方法进行求解。同时，还给出了百分误差绝对值最小为目标的组合预测模型及权系数求解方法。通过实例分析，表明组合预测模型的预测精度很高，回归效果很显著。     

GM(1,1)模型的改进

由于最小二乘法的稳健性有一定的局限性,使得GM(1,1)模型的拟合精度有时并不理想.为提高预测精度,在分析比较最小一乘法和最小二乘法优缺点的基础上,改变了GM(1,1)模型的参数估计方法,用普通最小一乘法和折扣最小一乘法代替了原来的最小二乘法.最后通过实例验证了该改进方法的有效性.结果表明,改进的GM(1,1)模型准确度有较大提高.     

最小二乘与最小一乘

最小二乘与最小一乘是回归分析中两个重要的估计方法,在这篇文章中,我们将通过线性回归给出它们的定义,并给出它们的优缺点,希望能为使用者提供方便。     

几类最小一乘估计模型的求解

本文探讨了应用最小一乘准则的多种线性和非线性回归模型,推导了各种模型中未知参数的最小一乘估计形式,并给出最小一乘准则求解的基本过程,实现了未知参数最小一乘估计求解的统一.     

半参数线性回归模型的最小一乘核估计

提出半参数线性回归模型的最小一乘核估计,通过模拟计算表明该方法是有效的,在与最小二乘核估计的比较中更突出了该方法的稳健性.     

曲线拟合的最小一乘法

最小一乘法的解,由于存在着绝对值方程而不便于计算,成为困扰数理界200多年悬而未决的难题.基于对最小一乘准则下各种数学模型的大量计算和长期研究后发现,若存在最小一乘最佳参数a=a*∈Rn使绝对偏差值和为极小的最小一乘准则im=∑1 yi-f(xi,a*)=min成立,则拟合函数f(x,a*)的表征为:至少存在n个点x1,x2,…,xn,使yi-f(xi,a*)=0,i=1,2,…,n(n≤m)成立,从而最小一乘解可以实现.     

基于最小一乘准则的非线性回归模型研究

给出基于最小一乘准则的非线性回归模型的参数估计算法。该算法利用泰勒级数和最小一乘准则的性质,得到模型的参数估计值。文中用实例验证了该算法的正确性和有效性,同时也证实了最小一乘的稳健性。     

Algorithmic Study of M-Estimators for Multi-Function Sensor Data Reconstruction

This paper describes a data reconstruction technique for a multi-function sensor based on the M-estimator, which uses least squares and weighted least squares method. The algorithm has better robustness than conventional least squares which can amplify the errors of inaccurate data. The Mestimator places particular emphasis on reducing the effects of large data errors, which are further overcome by an iterative regression process which gives small weights to large off-group data errors and large weights to small data errors. Simulation results are consistent with the hypothesis with 81 groups of regression data having an average accuracy of 3.5%, which demonstrates that the M-estimator provides more accurate and reliable data reconstruction.     

一种精确计算动态系统模型参数的新方法

很多线型或非线型动态系统模型满足如下关系式：ｂ（ｔ＋１）＝Ｈ（ｂ（ｔ），ｃ（ｔ））ｘ＋ｚ（ｔ），其中ｃ（ｔ）为输入数据向量，ｂ（ｔ）为输出数据向量，Ｈ（ｂ（ｔ），ｃ（ｔ））为输入－输出数据矩阵，ｚ（ｔ）为噪音向量，ｘ为待定的参数向量。作者对于秩亏最小二乘和秩亏总体最小二乘问题的研究结果可用于计算参数向量ｘ，其算法简单，精度很高。     

带有双扰动的矩阵方程AX=B的一般解法及其推广

讨论带有双扰动的矩阵方程AX=B,并且应用总体最小二乘法给出其解的表达形式,同时也用另外一种改进的方法即约束总体最小二乘法来讨论该矩阵方程,并且给出方程的隐型解。     

基于最小二乘支持向量机对偶优化问题的核偏最小二乘

提出了一种基于对偶优化的核最小二乘(KPLS)方法,把KPLS用最小二乘支持向量机的形式表示.推导了KPLS对偶优化形式的公式,且使其具有最小二乘支持向量机的风格.在初始空间中构造优化问题,应用核技术在特征空间中解对偶问题,这种解与非线性的KPLS具有相似性.实验验证了这种方法的效果,表明了该方法的有效性和优越性.     

投影方法在线性最小二乘问题中的应用

采用正交投影方法推导了最小二乘问题的法方程。首先求出了到最小二乘问题系统矩阵的列空间的正交投影矩阵,然后根据正交投影的性质求出了最小二乘问题的解。该方法可以迁移到带有权重的最小二乘问题。     

整体最小二乘法直线拟合

针对在直线拟合中,因变量选取不同拟合的结果有差异现象,提出采用整体最小二乘法进行直线拟合。文章在分析直线方程特点的基础上,采用EIV模型描述直线方程,在解算中根据系数矩阵的特点应用QR分解分为将方程两部分,采用了混合最小二乘法求解。理论分析和实际计算结果表明,整体最小二乘法顾及了因变量和自变量的误差。拟合精度高于普通最小二乘法,采用整体最小二乘拟合直线,整体上优于普通最小二乘法。     

基于改进的偏最小二乘回归的酸雨pH值预测

酸雨pH值受到酸性离子[SO4^2-]、[NO3^-]和碱性离子[Ca^2＋]、[NH4^＋]等的影响。这些影响因素之间存在多重相关性。用一般最小二乘回归分析预测pH值，参数估计存在很大的误差且物理意义明显不足。应用偏最小二乘回归技术建立pH值预测模型，克服了自变量之间多重相关性的问题，因而更具有先进性，计算结果更为可靠，而改进的偏最小二乘回归则从预测角度对偏最小二乘回归模型进行了改进。以我国17个城市pH值预测为例，说明了改进的偏最小二乘回归法比普通偏最小二乘回归法效果好。     

基于MATLAB的最小二乘法系统辨识与仿真

将MATLAB应用到系统辨识中,在分析最小二乘法的基本原理和推导过程的基础上给出了系统辩识中算法参数估计的递推公式,并进行了实例仿真.     

无线传感器网络中传感器节点定位的递归加权最小二乘优化方法

采用最小二乘优化算法,研究了基于接收信号强度测量的信号源定位问题.首先,建立了路径损耗的线性化模型;然后,介绍了加权最小二乘法,并提出了无线传感器网络中传感器节点定位的递归加权最小二乘优化方法.最后将本文提出的迭代加权最小二乘法与基于接收信号强度（RSS）的2种算法进行比较,仿真结果表明提出的算法在定位精度方面有更好的表现.      

非线性LTS稳健估计方法

为使原始LTS(least trimm ed squares)方法能够处理非线性问题,研究非线性LTS稳健估计方法。说明该方法的解一定是部分观测值的非线性最小二乘估计。该方法可通过求解非线性最小二乘问题得到确切解。基于MM EA(m in im um m ax im um exchange a lgorithm)算法和非线性最小二乘技术,构建求解非线性LTS估计近似解的算法。仿真结果表明非线性LTS估计方法能够同时抵抗来自X方向和Y方向的多个异常,与传统方法相比具有更好的稳健性。