改进的偏最小二乘回归推荐算法

基于已有的相关PLS算法,提出了针对QSAR研究和工业过程控制建模的环境要求的PLS回归改进算法:加强递归PLS算法.模拟实验结果表明:在实时建模过程中,该算法的性能优于传统的PLS回归算法.     

线性回归模型的广义刀切最小二乘估计

在误差为相依的情况下,讨论了线性回归模型的刀切最小二乘估计与广义刀切最小二乘估计。在均方误差意义上,广义刀切最小二乘估计优于刀切最小二乘估计,并利用算例进行了验证。     

不同缺失机制下线性回归模型的参数估计

给出了线性回归模型在MAR和NMAR两种缺失机制下的参数估计。     

基于最小二乘法的测量系统线性回归分析与检验

本文介绍了基于最小二乘法的测量系统线性回归模型以及线性分析的具体步骤过程,并利用残差分析对模型适应性进行检验,保证测量系统线性分析的有效应,通过excel软件进行实例数据处理,在实际应用中具有重要的意义。     

结构方程模型的偏最小二乘算法及其几何意义

对含两个潜变量结构方程模型的偏最小二乘（PLS）建模技术进行了研究,给出了相应的路径图、模型设定步骤和求解算法,指出该方法本质上是一种迭代收敛算法.通过引入一种新的算符,给出了PLS算法命令图.并且基于命令图详细讨论了该算法在多维向量空间中的几何意义,在此基础上分析了不同权重关系（A型与B型）对算法的影响,得到了与其对应的各种几何图形.最后指出在算法已收敛与尚未收敛两种情况下,潜变量估计值的投影位置是不同的.     

因变量缺失下线性回归模型的估计与检验

文章研究因变量缺失下的线性回归模型,借助单点插补方法,首先给出模型的估计,研究参数估计量的渐近正态性,其次,对于模型系数的线性约束检验问题,基于Wald方法构造检验统计量并给出其渐近分布.最后,通过数值模拟验证所提方法的有效性.     

多元响应回归模型及其参数的非线性最小二乘估计混合算法

针对多元响应数据的特点，建立了一个多元响应回归模型，对参数的非线性最小二乘估计进行了探讨。结合拟牛顿法和信赖域算法建立了一个非线性优化的混合迭代算法，该算法在一定条件下具有全局收敛性和超线性收敛性，对参数的非线性最小二乘估计是有效的。     

多重线性回归的最小二乘估计的递推算法

给出多重线性回归yi=β0+β1xil+…+βpxip+εi(i=1,2,…,n)的最小二乘估计的递推算法β(n)=β(n-1)=PnXn(yn-Xtnβ(n-1)Pn=Pn-1-Pn-1XnXtnPn-1β(0)=0,P0=αI(α>>1).这种算法是自适应的,也是均方收敛的.     

随机多变量NARMAX模型的非线性递推最小二乘算法

针对随机多变量NARMAX模型存在的问题,基于线性滤波﹑谱分解定理及成型滤波器原理,将随机干扰等效在系统的输出端,提出改进的随机多变量NARMAX模型。基于辅助模型的原理,在参数估计的准则函数中加入待估参数的增量约束项和遗忘因子,并结合增广递推最小二乘算法和随机非线性递推最小二乘算法,将改进的多变量NARMAX模型转换为具有耦合的子系统,给出具有遗忘因子的,能克服算法病态的,适用于具有时变参数模型的改进随机多变量NARMAX模型的非线性递推最小二乘算法。应用在线修正参数预测滤波PID控制,仿真结果验证了算法的有效性。     

基于偏最小二乘回归与支持向量机耦合的咸潮预报模型

利用偏最小二乘回归对影响咸潮的因素进行分析,提取出对因变量影响强的成分,从而克服了变量之间的多重相关性问题;同时利用支持向量机在解决小样本非线性问题上的优势,采用将偏最小二乘回归与支持向量机耦合的方法,建立了咸潮预报模型(PLS-SVM),并应用该模型对珠海市平岗站盐度的变化进行了模拟和预测,研究结果表明,所提出的PLS-SVM模型模拟和预测精度明显优于常用的BP人工神经网络、多元回归模型,可更好地应用于咸潮预报。     

带有缺失数据线性回归模型的变量选择

通过惩罚估计方程,对响应变量随机缺失下的线性回归模型,给出了一个变量选择方法,并结合局部二次逼近,得到了一个迭代算法,证明了此变量选择方法是相合的并且所得估计达到最优的参数收敛速度,最后通过数据模拟研究了此方法的有限样本性质．     

缺失数据下非参数回归估计

在缺失响应变量的不完全数据下,利用局部线性回归的方法,给出了回归函数m(x)的估计的加权估计,并证明了估计量具有渐近正态性、均方误差(MSE)和相合性.模拟研究解释了估计量的有限样本性质,并得出了此估计量优越于完整数据估计和加权估计.     

缺失数据下线性模型响应变量均值估计的渐近正态性

考虑响应变量随机缺失下线性模型响应变量均值的估计问题,分别获得了基于完全观测样本数据、线性回归插补后的“完全样本”和逆概率加权插补后的“完全样本”得到的响应变量均值估计,并证明了其渐近正态性．     

同模型下数据缺失时线性回归模型反应变量均值的经验似然置信区间

在两独立总体具有相同的线性回归模型下,当第一总体的样本为完全样本,第二总体的反应变量完全缺失时,利用第一总体的样本信息,得到第二总体反应变量均值的经验似然置信区间.     

多元响应线性回归模型的马氏Mallows模型平均方法改进

针对多元响应线性回归模型,提出了修改的马氏Mallows模型平均(MMMAc)方法。为了更充分地利用多元响应变量之间的相关性信息从而更好地提高预测精度,组合权重选择准则的构造同样考虑了马氏距离预测风险,并通过构造Wishart分布,推导出预测损失的无偏估计作为权重的选择准则,最终得到的MMMAc准则相比马氏Mallows模型平均(MMMA)准则增加了一个偏差矫正项,减小了对预测损失估计的偏差,因此通过最小化该准则得到的权重估计能更接近不可得的理论最优组合权重;最后,模拟对比实验验证了MMMAc方法的优势：MMMAc估计具有与MMMA估计同样的渐进最优性,因此两者的表现在大样本情形下没有太大差异,然而,由于修改后的权重选择准则为预测损失的无偏估计,因此在样本量不足的情形下,MMMAc方法的预测表现更佳。     

两个辅助变量下目标变量缺失数据的回归插补

对于抽样调查中经常出现的无回答数据,在均匀回答机制下,给出了两个辅助变量下目标变量缺失数据的回归插补模型。对于多个辅助变量的情形,可按上述方法进行目标变量的回归插补。     

缺失数据下线性模型中缺失值处理方法的比较

在响应变量随机缺失的线性模型中,利用R统计软件模拟比较完全样本法、固定填补法和分数线性回归填补法得到的回归系数、响应变量均值、响应变量的分布函数、响应变量的分位数估计,并用标准误差（SE）评判其优劣.结果表明,除固定填补法外,无论采用其余哪种方法,随着样本容量的增大,评判值SE减小,样本容量越大,估计也就越精确 缺失概率的大小也影响估计的精度,缺失概率越大,相应的评判值SE越大,估计的精度也就越差 另外,在分数线性回归填补法中,J=5的结果总是比J=1的结果好,这说明随着J的增大,其估计精度也随着提高.     

层次分析法在线性回归方程中的应用

为了减小在构造线性回归方程过程中的计算量,增加所选择线性回归方程的准确性,文章在分析评价各种常见构造线性回归方程方法的基础上,引入一种新的构造方法——层次分析法。该方法能结合自身特点,有效利用问题的背景知识和相关专家的经验,准确方便地确定满足条件的线性回归方程。结果证明该方法有简单、准确、易行的特点。     

多元线性回归递推最小二乘估计的一种新形式

给出一种新型的多元线性回归模型参数的递推最小二乘估计,在很大程度上,新的方法改进了传统的最小二乘估计。