最小二乘与最小一乘

最小二乘与最小一乘是回归分析中两个重要的估计方法,在这篇文章中,我们将通过线性回归给出它们的定义,并给出它们的优缺点,希望能为使用者提供方便。     

自回归AR模型整体最小二乘分析

主要讨论时间序列的自回归模型AR（p）的参数估计问题,列出常用的普通最小二乘估计和整体最小二乘估计方法,列出算例进行比较分析。     

几类最小一乘估计模型的求解

本文探讨了应用最小一乘准则的多种线性和非线性回归模型,推导了各种模型中未知参数的最小一乘估计形式,并给出最小一乘准则求解的基本过程,实现了未知参数最小一乘估计求解的统一.     

一种估计自回归模型参数的新方法

本文应用最小二乘法给出了一种无需事先计算自相关函数而直接估计自回归模型参数的迭代方法。     

直线回归的最小距离法

对自变量、因变量的不同选择，用最小二乘法所得到的回归方程是不同的，本文提出直线回归的最小距离法可以得到相同的直线方程，得到计算公式和一些性质。     

基于偏最小二乘回归建模的探讨

从工程应用的角度介绍了一种新的回归方法-偏最小二乘回归，分析了传统最小二乘回归所不具有的特点，数值实例研究表明偏最小二乘回归能在自变量间存在强相关的情况下建立模型，介最小二乘回归不能，同时，电路成品率估计研究表明，在较少样本点的情况下，利用偏最小二乘回归模型进行成品率估计是行之有效的，其预测精度能满足实际电路设计和分析的要求，且大大扰于最小二乘回归。     

回归分析在F-P标准具测量实验中的应用

以测量法布里-珀罗标准具间隔实验中小数序的计算为例,分别建立一元线性回归模型Di2=b0+b1i、二元线性回归模型Di2=b0+b1i+b2i2、加权回归模型及近似直线回归模型Di2=b0+b1i*,采用最小二乘法数据处理过程,分析其应用条件和优缺点,得出近似直线回归方法可以在物理实验处理中广泛应用。     

半参数线性回归模型的最小一乘核估计

提出半参数线性回归模型的最小一乘核估计,通过模拟计算表明该方法是有效的,在与最小二乘核估计的比较中更突出了该方法的稳健性.     

Theoretical Study on Distance Regression Model

给出了距离回归的理论模型及回归系数参数估计的泛函形式，比较了经典线性回归模型与距离回归模型基于最小二乘方法所得参数估计的关系,并从理论上论证说明了其对应回归直线的位置关系.     

多k类广州压缩最小二乘估计

提出了线性模型中回归多数的多k类广州压缩最小二乘估计的概念,在均方的意义下,给出了该估计一致优于最小二乘估计的充分条件。     

固定尺度最小二乘支持向量机

针对最小二乘支持向量机(LS-SVM)在进行回归预测时存在的稀疏性缺陷问题,采用固定尺度最小二乘支持向量机,即固定支持向量数量进行改进。仿真结果表明:固定尺度最小二乘支持向量机在训练各种样本数据集时,有效地避开了LS-SVM中的稀疏性问题,且训练速度快,同时具有良好的预测精度。     

拟回归标度参数不相关估计的估计量

在拟回归假设条件的基础上，本提出对拟回归原型的未知标度参数独立进行估计的方法，新方法不仅具有很高的计算效率，而且标度参数的估计量之间不再具有相关性，当样本容量很大的时候，新方法能够达到原方法(献[1]，An and Owen的方法)的计算精度．在章结尾给出了计算机模拟结果。     

投影方法在线性最小二乘问题中的应用

采用正交投影方法推导了最小二乘问题的法方程。首先求出了到最小二乘问题系统矩阵的列空间的正交投影矩阵,然后根据正交投影的性质求出了最小二乘问题的解。该方法可以迁移到带有权重的最小二乘问题。     

基于最小二乘法的递推回归

推导出基于最小二乘法的回归系数、总离差平方和、残差平方和、回归平方和的递推计算公式,在此基础上可计算决定系数和复相关系数,并进行回归方程的显著性检验和回归系数的显著性检验.在整个递推计算过程中,只有在第一步计算回归系数时需要求逆矩阵,其余步骤均不需要求逆矩阵,可大大减少计算量.     

一类半参数模型的正交级数及最小二乘估计

考虑半参数回归模型Y_i=X_iβ+g(X_iβ)+e_i,i=1,…,n。用正交级数和最小二乘法构造了β和g的估计β和g,证明β和g的强相合性,并把此结果应用于截断回归模型=Xβ+e,e～F(未知)中未知参数β和误差分布F的估计.     

基于遗传算法的最小一乘回归新算法

最小一乘在稳健性上比最小二乘好,使得最小一乘在工程中得到广泛的应用,但求解最小一乘的算法并不理想;本文根据最小一乘的性质,把最小一乘问题变为组合优化问题.将遗传算法用在最小一乘模型的求解上,在后面的仿真实验中得到了较好的效果.     

Marginal accelerated hazard model with multivariate failure time data

Multivariate failure time data are frequently encountered in biomedical research.In this article,we model marginal hazards with accelerated hazards model to analyze multivariate failure time data.Estimating equations are derived analogous to generalized estimating equation method.Under certain regular conditions,the resultant estimators for the regression parameters are shown to be asymptotically normal.Furthermore,we also establish the weak convergence of estimators for the baseline cumulative hazard functions.     

最小一乘回归的新算法

利用加权最小二乘法，提出最小一乘的一种迭代算法，这种方法使最小一乘法在计算上变得简单、直观