基于遗传算法的最小一乘回归新算法

最小一乘在稳健性上比最小二乘好,使得最小一乘在工程中得到广泛的应用,但求解最小一乘的算法并不理想;本文根据最小一乘的性质,把最小一乘问题变为组合优化问题.将遗传算法用在最小一乘模型的求解上,在后面的仿真实验中得到了较好的效果.     

全最小一乘法

先介绍最小二乘法、最小一乘法与全最小一乘法,论述它们的异同;然后举例说明全最小一乘法在经济方面的应用,并将它与最小二乘法及最小一乘法进行比较,同时给出了利用LINGO10软件计算全最小一乘法的程序;最后,简单叙述了全最小一乘法在理论上的进一步发展.     

基于总体最小二乘法的RAIM算法模型改进

最小二乘残差RAIM算法中的伪距观测模型线性化过程会形成截断误差.考虑环境噪声对数据矩阵和观测值的扰动影响,给出了RAIM解算模型;采用总体最小二乘法估计准则,使残差更精确,数据可靠性更高,提高了RAIM算法的定位解算的精度与可靠性.分别采用总体最小二乘残差法和最小二乘残差法对实测数据进行了处理,分析结果验证了总体最小...     

一种有效且稳健的变量选择方法

当数据中存在异常值时，一些基于最小二乘估计的统计模型会产生较大的偏差，最小一乘估计对异常值具有比较强的抵抗能力。考虑到数据中可能存在异常值的情况，用绝对值损失代替平方损失，针对同时具有变量稀疏性和相邻系数差分稀疏性这种结构的线性模型，提出了最小一乘融合熔断自适应岭估计模型（LAD-Fused-BAR）。该模型将上一步估计的回归系数倒数的平方作为下一步惩罚权重，自适应地给予不同变量不同的惩罚,通过不断迭代得到最终解。运用交替方向乘子法（ADMM）求解LAD-Fused-BAR模型，并证明了ADMM算法的收敛性。数值模拟和实证分析也验证了该模型的有效性和稳健性。     

最小一乘估计性质的讨论

解决某些问题时,最小一乘准则在很大程度上优于最小二乘准则.通过对最小一乘准则与最小二乘准则的比较分析,给出了最小一乘估计的一些优良性质,如无偏性、渐近正态性、有效性等,并做了相应的理论证明.     

GM(1,1)模型的改进

由于最小二乘法的稳健性有一定的局限性,使得GM(1,1)模型的拟合精度有时并不理想.为提高预测精度,在分析比较最小一乘法和最小二乘法优缺点的基础上,改变了GM(1,1)模型的参数估计方法,用普通最小一乘法和折扣最小一乘法代替了原来的最小二乘法.最后通过实例验证了该改进方法的有效性.结果表明,改进的GM(1,1)模型准确度有较大提高.     

基于改进的偏最小二乘回归的酸雨pH值预测

酸雨pH值受到酸性离子[SO4^2-]、[NO3^-]和碱性离子[Ca^2＋]、[NH4^＋]等的影响。这些影响因素之间存在多重相关性。用一般最小二乘回归分析预测pH值，参数估计存在很大的误差且物理意义明显不足。应用偏最小二乘回归技术建立pH值预测模型，克服了自变量之间多重相关性的问题，因而更具有先进性，计算结果更为可靠，而改进的偏最小二乘回归则从预测角度对偏最小二乘回归模型进行了改进。以我国17个城市pH值预测为例，说明了改进的偏最小二乘回归法比普通偏最小二乘回归法效果好。     

组合预测模型的回归分析方法

给出求解组合预测权系数的回归分析方法，文章首先给出了基于最小二乘和最小一乘准则的线性回归组合预测模型，然后应用最小二乘原理得到权系数最小二乘估计值。由于最小一乘准则下，目标函数不可微，传统的优化规则方法无法求解，故文中提出用基于最小二乘的逐步变权方法进行求解。同时，还给出了百分误差绝对值最小为目标的组合预测模型及权系数求解方法。通过实例分析，表明组合预测模型的预测精度很高，回归效果很显著。     

一种优化GM(1,1)模型及其应用

在优化背景值的基础上,针对传统灰色GM(1,1)模型参数估计的最小二乘算法稳健性较差的情况,提出基于全最小一乘准则的灰色GM(1,1)模型参数估计算法,同时将初始条件进行优化,从而得到了一个背景值、初始条件和模型参数同时优化的灰色GM(1,1)模型.最后,应用实例说明了优化灰色GM(1,1)模型的可行性与有效性.     

半参数线性回归模型的最小一乘核估计

提出半参数线性回归模型的最小一乘核估计,通过模拟计算表明该方法是有效的,在与最小二乘核估计的比较中更突出了该方法的稳健性.     

基于最小一乘准则的非线性回归模型研究

给出基于最小一乘准则的非线性回归模型的参数估计算法.该算法利用泰勒级数和最小一乘准则的性质,得到模型的参数估计值.文中用实例验证了该算法的正确性和有效性,同时也证实了最小一乘的稳健性.     

河段汇流参数抗差估计研究

当河段实测出流流量值被不服从正态分布的异常值污染时,最小二乘法不能获得参数最优估计.为此,采用崩溃率为20%、附有条件的抗差最小二乘法估计马斯京根汇流参数最优值.通过对闽江永安河段理想模型参数的计算,比较了参数抗差最小二乘法与最小二乘法抵抗2类误差的效果.结果表明,抗差最小二乘法能排除异常值对参数估计的影响而获得稳健性的参数.     

稳健加权整体最小二乘法在GPS高程拟合中的应用

由于GPS测量技术获取的大地高与国家采用的正常高之间存在高程异常的问题,为此,通常采用高程拟合的方式进行高程异常的计算,从而将大地高转换为正常高。针对采用加权整体最小二乘法估计GPS高程拟合中的多项式系数时,并没有考虑到观测数据中可能存在粗差的情况。采用稳健加权整体最小二乘法求解GPS高程平面拟合参数,并与最小二乘法、加权整体最小二乘法和稳健最小二乘法的结果进行对比,结果表明稳健加权整体最小二乘法的平面拟合结果最优。     

最小一乘回归的新算法

利用加权最小二乘法，提出最小一乘的一种迭代算法，这种方法使最小一乘法在计算上变得简单、直观     

基于偏最小二乘法回归的工序质量建模

针对制造工序质量控制问题,应用多元统计分析中的偏最小二乘回归法建立了质量模型.利用该模型可以定量分析加工工序与最终成品率之间的关系,进而通过将大量的工序影响因子约简得到主要影响因子子集.根据在线生产的相关质量数据,采用非线性迭代偏最小二乘法获得影响因子的权重.得到偏最小二乘因子权重可以在线预测成品质量变化,避免离线测试.在半导体制造实例研究中,以工序质量水平为自变量,成品质量水平为因变量,建立了质量水平传递模型,应用该方法可实现多工序质量异常的在线诊断和预测,为质量控制提供了定量依据.     

最小二乘预估法在GPS高程转换中的应用

对GPS测量实践中普遍存在的高程转换问题进行了分析，提出了GPS高程向我国实用高程系统转换的最小二乘预估法。论证了最小二乘预估法的数学模型，将其方法在计算拟合高程异常中的应用得以实现，并结合实测数据与平面拟合法进行了分析比较。计算结果表明，采用的高程转换模型，具有一定的科学性和实用性。     

回归分析中的目标函数极小化准则

指出了最小二乘回归分析中存在稳健性不好的问题,讨论了用线性规划法计算回归系数的最小一乘准则和极小极大化准则,通过实例计算得出最小一乘准则误差绝对值小,最大误差最大和极小极大化准则误差绝对值之和最大,最大误差最小的结果,指出在实际应用中可以把三种准则下的计算结果进行比较,从中选出最优回归方程。     

广义最小二乘限定记忆参数辨识方法与仿真研究

最小二乘参数辨识法可用于动态系统、静态系统、线性系统、非线性系统的参数估计.可用于离线估计,也可用于在线估计.最小二乘辨识法简单、实用,其递推算法收敛可靠,并且当模型噪声为白噪声时,可得到无偏、一致和有效的估计,从而得到广泛的应用.但当模型噪声是有色噪声时,最小二乘参数估计不是无偏、一致估计,并且随着数据的增长,最小二乘递推辨识算法将出现数据饱和现象,以致递推算法慢慢失去修正的能力.广义最小二乘递推算法解决了模型噪声是有色噪声时,最小二乘参数估计的无偏性和一致性问题,并能给出噪声模型的参数估计值,但依然存在数据饱和问题.论文在广义最小二乘递推算法的基础上引入限定记忆方式,获得了广义最小二乘限定记忆参数估计递推算法(RFMGLS),解决了广义最小二乘递推算法的数据饱问题.仿真结果表明了RFMGLS算法的有效性.     

曲线拟合的最小一乘法

最小一乘法的解,由于存在着绝对值方程而不便于计算,成为困扰数理界200多年悬而未决的难题.基于对最小一乘准则下各种数学模型的大量计算和长期研究后发现,若存在最小一乘最佳参数a=a*∈Rn使绝对偏差值和为极小的最小一乘准则im=∑1 yi-f(xi,a*)=min成立,则拟合函数f(x,a*)的表征为:至少存在n个点x1,x2,…,xn,使yi-f(xi,a*)=0,i=1,2,…,n(n≤m)成立,从而最小一乘解可以实现.     

基于偏最小二乘法的地应力场拟合

采用偏最小二乘回归分析方法分析矿区地应力场分布.以乌鞘岭隧道岭脊地段的有限测点的地应力测量结果为样本,使用商业有限元软件ANSYS对岭脊地段区域的地应力场进行数值模拟.利用地应力实测数据与计算结果进行偏最小二乘回归计算,得到拟合的地应力场数据.与传统最小二乘分析方法相比,本文的方法通过主成分分析,可以有效解决多因变量回归计算时由于响应变量之间较高的相关性而导致的回归计算误差,并可以有效地反映变量间的关系,为地应力场的建立提供有效的数据支持.