响应变量缺失时偏线性测量误差模型的变量选择

考虑当响应变量缺失且协变量包含测量误差时偏线性模型的变量选择问题,提出了基于SCAD(smoothly clipped absolute deviation)惩罚最小二乘和STEE(smooth-threshold estimating equations)的两种变量选择方法.利用半参数回归替代估计来处理缺失的响应变量.通过选择合适的调整参数,且在一定的正则条件下,可以证明这两种变量选择方法具有渐进正态性和先知性.数值模拟研究进一步给出了估计的有限样本性质.     

协变量含测量误差的变系数偏线性模型的变量选择问题研究

研究了当参数部分和非参数部分的协变量均具有测量误差且两部分测量误差相关时,变系数偏线性模型的参数估计和变量选择问题。在误差校正和profile最小二乘估计方法的基础上,提出了基于smoothly clipped absolute deviation (SCAD)惩罚的变量选择方法,且估计具有渐进正态性和先知性。数值模拟研究进一步说明了所提出的变量选择方法的有限样本性质。     

部分线性模型的LASSO估计及其渐近性

结合截面最小二乘估计思想,构造了LASSO惩罚截面最小二乘估计,并研究了惩罚参数和窗宽的选择问题。由于部分线性模型LASSO解仍为线性优化问题,因此容易实现。在一定条件下,本文还研究了参数估计量的相合性和渐近正态性。最后通过蒙特卡洛模拟研究了变量选择方法的小样本性质。     

基于众数回归的变系数模型统一变量选择

研究了众数回归下变系数模型的统一变量选择问题.利用B样条基函数近似非参数部分,在众数回归下建立SCAD惩罚函数同时选择变系数模型中的重要变量并且识别具有常数效应的协变量,在一定条件下, 证明惩罚估计量相合性和稀疏性,通过数值模拟评估所提出的变量选择方法的有效性.     

组合惩罚下联合均值与方差模型的变量选择

在生产实践和计量经济领域中,控制产品质量的方差就能保证产品的合格品数相对稳定,所以当前学者对联合均值与方差模型的研究倍感兴趣.基于解释变量经常是具有相关关系的实际情况,提出了一种由SCAD惩罚和岭回归混合在一起的组合惩罚,该惩罚充分利用了岭回归能克服解释变量相关性过高对估计效果的影响,同时也证明了这样的惩罚具有相合性和Oracle性质.使用该组合惩罚对联合均值与方差模型进行了变量选择.最后的随机模拟结果表明该模型和方法是有效的.     

基于样条函数的时空加权回归模型变量选择

为了提高时空加权回归模型的预测精度,增强时空加权回归模型的可解释性,选择对因变量具有显著影响的重要变量已成为当今统计分析中一个重要研究课题。首先对时空加权回归模型的系数使用样条函数作出逼近,其次在最小二乘的理论基础上,根据SCAD惩罚理论对时空加权回归模型各变量所对应的系数进行处理,并利用BIC准则来选择调谐参数λ,最终通过迭代算法来选择出对时空加权回归模型有用的变量,剔除掉影响模型准确性的变量,达到精简模型、提高预测精度的目的。
     

基于弹性网惩罚的复合分位数回归估计

针对高维数据的建模分析问题,提出一种基于弹性网络法和复合分位数回归相结合的稳健估计方法。 在该 估计方法中,所提出的模型能够有效进行变量选择与系数压缩,并处理数据间的多重共线性与群组效应问题,在大 数据时代下具有较广的适应性。 同时,与已有的惩罚最小二乘估计和惩罚分位数回归估计相比,该估计方法不仅 放宽了对模型误差项的分布要求,而且综合考虑了多个分位点的损失,在面对离群值或呈现尖峰、厚尾分布数据时 能够保持更强的稳健性和抗干扰性。 在一定条件下,对所构建模型估计的相合性与稀疏性进行了理论分析,结果 表明:所提出的模型能够将不相关的变量完全压缩至零,且估计量和真实系数以趋于 1 的概率相同。 此外,在数值 模拟方面,设置了 5 种误差项分布条件,根据设定的 4 项指标,通过与其他惩罚函数模型以及损失函数模型进行比 较,结果表明新提出的方法具备更好的稳健性与有效性。     

基于改进GA-PLS算法的最优辅助变量选择及其在软测量建模中的应用

提出了改进的遗传算法与部分最小二乘回归相结合的最优辅助变量的选择方法。用遗传算法来选择变量时，编码方法简单，染色体的长度为候选变量的个数，每一位的取值（0或1）表示某个变量是否被选中，具有全局搜索性能的遗传算法与传统的变量选择方法相比可以比较准确地找到最（次）优解；同时部分最小二乘回归能够克服多元回归中常见的多重共线性问题，在样本点个数少于变量个数的争件下也能进行回归建模分析。用文中提出的方法建立了催化重整过程中稳定油组分的软测量模型，结果表明了本文提出的辅助变量选择方法的优越性和实用性。     

地产股价线性模型的变量选择实证研究

建立了房地产上市公司财务指标和其股票价格的线性回归模型,利用最小二乘回归、主成分回归和逐步回归方法估计回归系数,对比3种方法发现基于逐步回归方法的变量选择是最全面和可靠的;进一步建立了房地产股价指数与其成分股的多元线性回归方程,运用弹性约束估计方法实现成分股变量选择问题,解决了回归系数不显著性和股指追踪问题。     

基于Horseshoe+先验的惩罚置信区域变量选择方法

针对高维稀疏线性回归问题,相关变量的数量远远少于不相关变量.相关变量的变量选择问题对于传统的频率论正则化方法是一大挑战.现有的贝叶斯惩罚置信区域法通过将模型拟合与变量选择分离,在联合后验置信区域内搜索最稀疏解,从而得到稀疏模型解.且该方法在高维变量选择效果上优于常用的变量选择方法.在此基础上,针对高维稀疏模型,将原方法中依赖的共轭正态先验替换成针对"稀疏信号勘测问题"提出的Horseshoe+先验,利用Horseshoe+先验对小系数"重"压缩与大系数几乎零压缩的理论特性,实现对稀疏回归系数的稳健估计.通过数据仿真模拟不同稀疏程度下的高维稀疏线性回归,并将基于Horseshoe+先验的惩罚置信区域法分别与基于正态先验以及Laplace先验的该方法进行比较,结果表明基于Horseshoe+先验的惩罚置信区域法在高维稀疏线性回归问题具有更好的变量选择效果与预测效果.     

删失回归模型的分位数变量选择和压缩估计

删失回归模型是一种响应变量受限制的模型,广泛应用于计量经济学中.针对删失回归模型,借助于分位数估计方法和SCAD型惩罚函数,提出了一种变量选择和压缩估计方法.该方法可选出对模型有贡献的回归变量,即非0回归系数,同时给出非零参数的一个相合估计.另外,获得了变量选择方法的oracle性质.最后,利用数值模拟计算说明所提出方法的效果.     

组合惩罚似然估计下发散参数变量选择

在Wang等给出的组合惩罚函数的基础之上,将SCAD惩罚部分推广到一般的非凸惩罚的形式,利用岭回归在解释变量相关度较高情形下的良好表现,提出一种推广了的组合惩罚.在参数个数发散的情形之下,利用贝叶斯信息准则(BIC)来选择调整参数,能同时完成变量选择和参数估计.而且还可以证明在合适的条件之下,这种估计具有Oracle性质.模拟研究的结果证明了所提出的方法在预测变量具有强相关性之下的优势.     

废水处理过程的KPLS-GPR软测量建模

采取基于核函数偏最小二乘法的高斯过程回归模型(KPLS-GPR),对复杂的造纸废水处理过程中出水化学需氧量(COD)和出水悬浮固形物(SS)质量浓度进行预测.首先,采用KPLS的潜变量作为预测模型的输入变量,以降低数据维度,优化数据结构;其次,建立潜变量与输出变量的GPR回归模型.基于某工厂造纸废水数据进行仿真试验,引入人工神经网络(ANN)、基于偏最小二乘潜变量的预测模型(PLS-ANN)及基于核函数偏最小二乘潜变量的预测模型(KPLS-ANN)作为对比.试验结果表明:KPLS潜变量对预测模型有明显的优化效果,在这些模型中KPLS-GPR预测精度最高;对于出水COD和SS质量浓度的预测,KPLS-GPR的决定系数分别为0.575和0.610,相比于常规预测模型,决定系数可分别提升36.90%和43.87%.     

基于改进支持向量回归的岩溶天窗水位预测模型

利用主成分分析对影响变量进行特征提取,选择通用性较强的径向基核函数,应用遗传算法对影响支持向量回归模型的2个重要参数惩罚因子C和核函数参数γ进行优化,建立了基于遗传算法优化的支持向量回归模型,并以提取特征作为模型输入应用于后寨地下河流域平山天窗水位预测.预测结果表明,与传统偏最小二乘回归模型相比,优化后的模型具有更高的...     

Hammerstein OEMA系统的辅助模型最小二乘辨识

针对Hammerstein 输出误差自回归(OEMA)模型, 将关键变量分离原理与辅助模型辨识思想相结合,提出了基于关键变量分离的辅助模型递推增广最小二乘辨识方法.该方法能获得系统参数估计和噪声参数估计,且能实现在线辨识.     

基于样条函数的时空加权回归模型变量选择

为了提高时空加权回归模型的预测精度,增强时空加权回归模型的可解释性,选择对因变量具有显著影响的重要变量已成为当今统计分析中一个重要研究课题。首先对时空加权回归模型的系数使用样条函数作出逼近,其次在最小二乘的理论基础上,根据SCAD惩罚理论对时空加权回归模型各变量所对应的系数进行处理,并利用BIC准则来选择调谐参数λ,最终通过迭代算法来选择出对时空加权回归模型有用的变量,剔除掉影响模型准确性的变量,达到精简模型、提高预测精度的目的。     

多变量对多变量线性回归方法及其在区域研究中的应用

本文探讨了区域研究中有广泛潜在用途的多变量对多变量线性回归分析方法,给出了模型,最小二乘解和计算实施过程;以湖北省人民生活水平与社会、经济诸条件为例,介绍了该方法的实际应用.     

断裂力学的复变量无网格方法

在移动最小二乘法的基础上, 讨论了复变量移动最小二乘法. 复变量移动最小二乘法的优点是不形成病态方程组、精度高, 所形成的无网格方法计算量小. 利用裂纹尖端解析解将复变量移动最小二乘法的基函数进行扩展, 推导了相应的逼近函数; 从最小势能原理出发提出了断裂力学的复变量无网格方法, 推导了相应的复变量无网格方法的求解方程. 与传统的无网格方法相比, 断裂力学的复变量无网格方法具有计算量小、精度高的优点. 最后给出了数值算例.     

基于偏最小二乘回归的粮食产量模型分析

利用偏最小二乘回归方法对我国的粮食产量建立模型.在此基础上通过构造符合F分布的统计量,绘制T2椭圆图检测样本点中是否存在的异常点;通过构造变量投影指标反映每个自变量对因变量的影响程度,以此来提出提高因变量产量.     

多输入单输出系统的辅助变量参数估计

利用辅助变量辨识方法,推导出多输入单输出系统的辅助变量递推最小二乘算法,并与辅助模型递推最小二乘法进行了计算量和辨识精度比较.