线性回归的总体最小二乘非线性解算

针对线性回归中,存在自变量为随机变量的情形,应考虑双变量的线性回归,要求在总体最小二乘准则下求解。主要讨论了总体最小二乘解算的准则描述,如何考虑不等精度变量的转换和总体最小二乘的非线性解算,得到了相应的解算公式,最后并以算例加以验证与分析讨论,此方法对于工程实践的数据分析具有较大的参考价值。     

组合预测模型的回归分析方法

给出求解组合预测权系数的回归分析方法，文章首先给出了基于最小二乘和最小一乘准则的线性回归组合预测模型，然后应用最小二乘原理得到权系数最小二乘估计值。由于最小一乘准则下，目标函数不可微，传统的优化规则方法无法求解，故文中提出用基于最小二乘的逐步变权方法进行求解。同时，还给出了百分误差绝对值最小为目标的组合预测模型及权系数求解方法。通过实例分析，表明组合预测模型的预测精度很高，回归效果很显著。     

一元总体最小二乘线性回归与解算分析

针对自变量为随机变量情形,在最小二乘准则下,一元线性回归所得到的回归参数估计及其拟合直线存在二义性问题,为确保解算结果的唯一性和一致性,需用总体最小二乘准则进行解算,对总体最小二乘准则进行了描述,利用奇异值分解方法,讨论了解算公式,最后用一数字算例,用最小二乘和总体最小二乘方法进行了计算和结果分析,得到了一些结论,此方...     

顾及自变量与因变量误差及相关性的线性回归

提出一种顾及自变量和因变量观测误差及误差相关性的线性回归新方法,并导出了求解线性回归系数的迭代公式.以一元线性回归为例,导出了与最小二乘回归系数表达形式类似的解析解,并揭示了新方法与最小二乘方法的本质区别.此外,对于含有多个自变量的多元线性回归,给出了相应的同时考虑自变量和因变量观测误差及误差相关性的回归系数求解方法.试验表明,当自变量是非随机变量时,新方法与最小二乘方法的回归效果相同;当因变量和自变量都是随机变量(自变量与因变量的观测误差相关或不相关)时,新方法的回归系数比最小二乘方法的回归系数更加接近实际值.     

基于偏最小二乘回归的飞机维修保障费用预测

分析了影响飞机维修保障费用的参数,提出用偏最小二乘回归方法来预测飞机维修保障费用。该方法对变量进行主成分分析、典型相关分析和多元线性回归,在处理存在多重线性相关的小样本多元数据方面效果很好。实例证明,与传统普通多元线性回归方法相比,偏最小二乘回归在飞机维修保障费用预测中精度更高。     

线性模型中回归系数广义岭估计的小样本性质

在均方误差矩阵准则和Pitman closeness（PC）准则下讨论了线性回归模型中回归系数的广义岭估计相对于最小二乘估计的优良性及其相对效率的界．     

回归系数的一类线性估计相对于GLS估计的优良性

对线性回归模型中的一类线性估计,在均方误差矩阵准则和PC准则下,研究了它相对于广义最小二乘估计的优良性.当设计阵为非列满秩时,讨论了回归系数的可估函数的优良性.     

PC准则下错误指定模型中回归系数有约束LS估计的优良性

在错误指定的回归模型和线性约束条件下，于ＰＣ准则下，比较了回归系数的有约束的最小二乘估计（ＲＬＳＥ）相对于通常的最小二乘估计（ＬＳＥ）的优良性．也对预测情形类似的问题进行了讨论．     

多元线性回归递推最小二乘估计的一种新形式

给出一种新型的多元线性回归模型参数的递推最小二乘估计,在很大程度上,新的方法改进了传统的最小二乘估计。     

线性回归模型的广义刀切最小二乘估计

在误差为相依的情况下,讨论了线性回归模型的刀切最小二乘估计与广义刀切最小二乘估计。在均方误差意义上,广义刀切最小二乘估计优于刀切最小二乘估计,并利用算例进行了验证。     

结构型E-V线性模型中参数估计的若干结果

由于E-V线性模型的复杂性,通常的最小二乘估计等在这种模型中一般不是相合的。本文在结构型简单线性模型中,利用矩方法与秩方法建立了若干估计量,并且论证了这些估计量的相合性与渐近正态性,报告了主要结果。     

双变量线性回归的解算

对于工程实践中较多存在自变量为随机变量的情形,应考虑双变量的线性回归,在总体最小二乘原则下,即n∑i=1（vxi^2＋vyi^2）=min,推导了在此准则下的具体解算方法,得到了相应的公式,最后并以算例加以验证与分析讨论,此方法对于工程实践的数据分析具有较大的参考价值。     

油气勘探风险评价的偏最小二乘-最大熵法模型及应用

油气勘探风险的定量评价一直是国内外研究的难点.作者在分析传统风险评价方法的优缺点、剖析偏最小二乘法和最大熵法优势的基础上,首次提出了偏最小二乘-最大熵(PLSME)风险分析模型.偏最小二乘法较好地实现了多元线性回归、主成分分析和典型相关分析的有效综合,通过自变量的PLS回归线性处理,不仅能消除粗差解决变量之间的相关性问题,而且能辨识每一个自变量对因变量的控制程度;最大熵法通过对偏最小二乘得出的风险因子与总经济效益净现值关系式的检验,利用最大值、最小值和最可能值的训练,能了解指标最终服从的概率分布,客观得出风险的大小.两者结合起来构建的PLSME模型,能使风险评价结果更加准确、合理和客观.通过对四川德阳新场气田的实例应用,表明偏最小二乘-最大熵评价方法科学可行,对同类研究具有借鉴作用.     

基于加权整体最小二乘的多元线性回归分析

针对变形监测数据中自变量和因变量观测向量都含有误差、且采用一般最小二乘估计是有偏的这一问题,引入EIV模型,并顾及各自变量观测精度的不同,采用加权整体最小二乘对待估参数进行估计。长江三峡库区滑坡监测实验表明,基于加权整体最小二乘的多元线性回归分析能更好地对回归方程进行参数估计,可明显提高形变预测精度。     

基于偏最小二乘地理元胞模型的城市生长模拟

提出了一种基于偏最小二乘回归(PLS)方法的地理元胞(cellular automata,CA)模型PLS-CA,并用来模拟城市生长和扩展.CA模型的定义涉及存在严重相关性的众多空间变量,而传统的多准则判别技术(MCE)和主成分分析(PCA)不能够彻底地解决变量相关性问题.利用偏最小二乘回归从空间变量中提取线性无关的主成分,从而获取地理元胞自动机(CA)的转换规则,在地理信息系统(GIS)环境下建立PLS-CA模型,可以优化城市生长和扩展的模拟.利用提出的PLS-CA模型,模拟了上海市嘉定区1989年与2006年城市生长和扩展情况.     

结构方程模型的偏最小二乘算法及其几何意义

对含两个潜变量结构方程模型的偏最小二乘（PLS）建模技术进行了研究,给出了相应的路径图、模型设定步骤和求解算法,指出该方法本质上是一种迭代收敛算法.通过引入一种新的算符,给出了PLS算法命令图.并且基于命令图详细讨论了该算法在多维向量空间中的几何意义,在此基础上分析了不同权重关系（A型与B型）对算法的影响,得到了与其对应的各种几何图形.最后指出在算法已收敛与尚未收敛两种情况下,潜变量估计值的投影位置是不同的.     

异常点检测后的偏最小二乘回归模型

偏最小二乘回归是通过一组自变量来预测一个或一组因变量的统计方法。但在很多情况下用于建模的样本点由于种种原因会出现一些异常情况,这些异常点和其他样本点之间都存在着很大的偏差。异常点的存在对所建立的模型和真实模型就有很大的偏差。基于这一问题本文通过构造统计量对所给的样本点进行选择,剔除对模型的构造有很大影响力的样本异常点,从而获得一个相对合理的样本空间。在相对合理的样本空间中采用偏最小二乘回归建立模型。运用MATLAB编程,通过一个实例说明在对于异常点剔除后的样本空间中建立模型的精确程度有了很大的提高。     

工具变量线性回归模型的指数平方损失估计

在讨论协变量和响应变量关系时,常会遇到内生变量,已有关于内生变量的研究大多是在最小二乘目标函数的框架下讨论,然而该方法不具有稳健性,鉴于此,本文采用指数平方损失估计方法,构造模型中回归系数的稳健估计.为了克服内生变量对估计产生的偏差,利用工具变量消除协变量的内生性,再构造回归系数的指数平方损失估计;针对指数平方损失目标...