删失回归模型中SCAD型变量选择与估计(英文)

删失回归模型是一种很重要的响应变量受限制的模型,它广泛应用于计量经济学中.基于SCAD罚函数,提出了SCAD型罚变量选择方法.该方法可选出重要的回归变量,即真参数中非零系数,同时给出非零参数相合估计.另外,证明了变量选择方法是相合的,具有oracle性质.最后,进行数值模拟计算说明所提出方法的效果。     

响应变量缺失时偏线性测量误差模型的变量选择

考虑当响应变量缺失且协变量包含测量误差时偏线性模型的变量选择问题,提出了基于SCAD(smoothly clipped absolute deviation)惩罚最小二乘和STEE(smooth-threshold estimating equations)的两种变量选择方法.利用半参数回归替代估计来处理缺失的响应变量.通过选择合适的调整参数,且在一定的正则条件下,可以证明这两种变量选择方法具有渐进正态性和先知性.数值模拟研究进一步给出了估计的有限样本性质.     

删失回归模型的分位数变量选择和压缩估计

删失回归模型是一种响应变量受限制的模型,广泛应用于计量经济学中.针对删失回归模型,借助于分位数估计方法和SCAD型惩罚函数,提出了一种变量选择和压缩估计方法.该方法可选出对模型有贡献的回归变量,即非0回归系数,同时给出非零参数的一个相合估计.另外,获得了变量选择方法的oracle性质.最后,利用数值模拟计算说明所提出方法的效果.     

基于众数回归的变系数模型统一变量选择

研究了众数回归下变系数模型的统一变量选择问题.利用B样条基函数近似非参数部分,在众数回归下建立SCAD惩罚函数同时选择变系数模型中的重要变量并且识别具有常数效应的协变量,在一定条件下, 证明惩罚估计量相合性和稀疏性,通过数值模拟评估所提出的变量选择方法的有效性.     

基于最小距离法的稳健群组变量选择

在研究存在异常值的logistic回归模型时,发现如果使用极大似然估计(MLE)方法进行参数估计,那么异常值引起的偏差不是造成参数估计过大而是导致参数向量内爆即参数向量收缩为零向量,此时如果进行群组变量选择很可能会忽略一些重要变量.因此针对具有组结构的logistic回归模型,为处理解释变量存在异常值时的群组变量选择问题,将基于最小距离法的稳健估计(L₂E)方法与已有的3种群组变量选择方法和3种双层变量选择方法结合,在此基础上利用Majorization-Minimization(MM)算法对目标函数进行求解.通过数值模拟比较了基于L₂E方法和MLE方法在模型具有组稀疏和双层稀疏的情况下,6种变量选择方法在不同维数下的有限样本表现,结果不仅验证了L₂E方法在存在异常值的logistic回归模型参数估计中的稳健性,而且指出了在这6种变量选择方法中使用Group Bridge方法进行变量选择的准确度更高.     

组合惩罚下联合均值与方差模型的变量选择

在生产实践和计量经济领域中,控制产品质量的方差就能保证产品的合格品数相对稳定,所以当前学者对联合均值与方差模型的研究倍感兴趣.基于解释变量经常是具有相关关系的实际情况,提出了一种由SCAD惩罚和岭回归混合在一起的组合惩罚,该惩罚充分利用了岭回归能克服解释变量相关性过高对估计效果的影响,同时也证明了这样的惩罚具有相合性和Oracle性质.使用该组合惩罚对联合均值与方差模型进行了变量选择.最后的随机模拟结果表明该模型和方法是有效的.     

部分线性回归模型中改进的差分估计及SCAD

考虑了部分线性回归模型中回归参数向量估计的问题,提出了具有更好性质的压缩差分估计,并且将SCAD惩罚函数运用到模型中得到SCAD估计,然后通过Monte Carlo模拟了压缩差分估计和SCAD估计的相关结果,并对它们之间的优劣进行了比较.     

基于REGAR模型的对外贸易对人民币汇率波动的影响分析

探讨自回归相依误差回归模型参数估计的变量选择方法,给出求解算法.模拟研究发现,SCAD和自适应Lasso方法比Lasso效果更好.将变量选择方法应用于人民币汇率波动的影响研究,选择出2个具有显著影响的因素——外汇储备、货币和准货币供应量期末值.外汇储备的降低、货币和准货币供应量期末值的增加均会导致人民币汇率的升高.     

混合效应模型的双MCP惩罚分位回归研究

针对混合效应模型,在已有的双Lasso正则化分位回归(DLQR)的基础上,结合MCP惩罚,提出了双MCP正则化分位回归(DMQR).通过对惩罚方法的改进,使得模型的拟合效果大大提高.在求解参数时使用交替迭代算法使得每次只用求解单个MCP惩罚的分位回归,并结合针对非凸惩罚的迭代坐标下降法(QICD)使得计算的速度大大提高.在稀疏模型的模拟研究中发现,无论在何种误差条件下,DMQR都能很好的排除冗余变量,效果相对于DLQR有了较大的提升.且在模型的稀疏程度不同时,都能得到很好的模拟结果.     

基于样条函数的时空加权回归模型变量选择

为了提高时空加权回归模型的预测精度,增强时空加权回归模型的可解释性,选择对因变量具有显著影响的重要变量已成为当今统计分析中一个重要研究课题。首先对时空加权回归模型的系数使用样条函数作出逼近,其次在最小二乘的理论基础上,根据SCAD惩罚理论对时空加权回归模型各变量所对应的系数进行处理,并利用BIC准则来选择调谐参数λ,最终通过迭代算法来选择出对时空加权回归模型有用的变量,剔除掉影响模型准确性的变量,达到精简模型、提高预测精度的目的。     

函数系数部分线性回归模型的变量选择方法

函数系数部分线性回归模型是变系数模型中的一种特殊情形,文章对这种新的变系数模型的变量选择问题进行了主要研究．首先,运用局部多项式方法得到非参数项的估计,并且使用B样条逼近函数系数,选取SCAD惩罚作为变量选择方法．其次,得到了估计的渐近性质．最后,模拟说明了该估计方法较好地达到了变量选择的目的．     

基于预测变量图结构的高维逻辑回归模型

针对高维数据集,提出一种利用预测变量之间的图结构信息来改进稀疏逻辑回归模型的方法。该方法通过利用高维图结构数据或者重叠组结构来进行逻辑回归建模,即使预测变量的图结构未知,该方法仍适用,当图结构为某些特殊形式时,目前流行的方法,如Adaptive Lasso,(Overlapping) Group Lasso和岭回归都可以看作是该模型方法的特例。数值模拟和实例分析应用表明:该方法能有效地利用预测变量图结构信息,提高模型在估计、预测以及变量选择等方面的表现,并且该模型在有限样本情形下是有效的;该模型方法克服了数据集的维数问题,利用高维数据的图结构提高了稀疏逻辑回归模型的性能,可广泛应用于高通量基因数据集的疾病分类研究中。     

基于样条函数的时空加权回归模型变量选择

为了提高时空加权回归模型的预测精度,增强时空加权回归模型的可解释性,选择对因变量具有显著影响的重要变量已成为当今统计分析中一个重要研究课题。首先对时空加权回归模型的系数使用样条函数作出逼近,其次在最小二乘的理论基础上,根据SCAD惩罚理论对时空加权回归模型各变量所对应的系数进行处理,并利用BIC准则来选择调谐参数λ,最终通过迭代算法来选择出对时空加权回归模型有用的变量,剔除掉影响模型准确性的变量,达到精简模型、提高预测精度的目的。
     

组合惩罚似然估计下发散参数变量选择

在Wang等给出的组合惩罚函数的基础之上,将SCAD惩罚部分推广到一般的非凸惩罚的形式,利用岭回归在解释变量相关度较高情形下的良好表现,提出一种推广了的组合惩罚.在参数个数发散的情形之下,利用贝叶斯信息准则(BIC)来选择调整参数,能同时完成变量选择和参数估计.而且还可以证明在合适的条件之下,这种估计具有Oracle性质.模拟研究的结果证明了所提出的方法在预测变量具有强相关性之下的优势.     

协变量含测量误差的变系数偏线性模型的变量选择问题研究

研究了当参数部分和非参数部分的协变量均具有测量误差且两部分测量误差相关时,变系数偏线性模型的参数估计和变量选择问题。在误差校正和profile最小二乘估计方法的基础上,提出了基于smoothly clipped absolute deviation (SCAD)惩罚的变量选择方法,且估计具有渐进正态性和先知性。数值模拟研究进一步说明了所提出的变量选择方法的有限样本性质。     

基于变系数乘积模型的股指跟踪研究

随着经济的发展,股票投资进入大众视野,如何选择成分股对股票指数进行跟踪,越来越受到人们的关注,基于此,针对股票指数跟踪问题,提出了利用变系数乘积模型进行变量选择的一种方法.该方法基于B样条函数逼近技术,将LPRE准则和组SCAD惩罚函数结合起来,应用于变系数乘积模型,利用牛顿迭代法和局部二次近似给出了求解估计的实施步骤...     

函数型变量选择法用于空气质量影响因素实证分析

以全国31个主要城市的空气污染数据作为研究对象,通过B-样条逼近离散数据,拟合日变动曲线作为函数型数据,采用基于Group LASSO的函数型变量选择方法对空气污染因素和气象因素进行变量选择,选取影响空气质量的主要因素,并建立函数型回归模型,同时与函数型主成分回归方法进行比较,发现Group LASSO函数型变量选择方法不仅对群组变量进行选择,而且对选择出的群组内变量还能做进一步的选择,可以获得较为稳健的估计结果和较好的选择效果。     

转换函数未知时转换模型的变量选择

作者研究了转换函数未知时转换模型的变量选择.较经典的Box-Cox转换模型,作者提出的模型不限制转换函数的形式,并且允许非正态的误差分布.作者先由估计方程得到转换函数的估计,然后用SCAD判罚方法同时进行变量选择和参数估计.数值模拟结果证明本文方法是有效的.     

基于调整秩回归的组变量选择

EXP惩罚是一种指数形式的惩罚函数,它近似于L₀惩罚. EXP惩罚最小二乘估计具有模型选择的相合性和渐近正态性.但是,惩罚最小二乘方法对重尾分布和含有异常值的混合分布的效果并不理想.该文考虑回归模型中的变量是以组结构形式存在的,研究基于调整秩回归的EXP型组变量选择,给出了调整秩回归估计的理论性质,并通过数据模拟和实例分析,检验调整秩回归的EXP惩罚的效果,结果表明这种方法具有较好的表现.     

面向多输入输出系统的支持向量机回归

目前支持向量机回归算法只适用于单输入单输出系统,在处理复杂多变量系统时多采用构造一系列单变量支持向量机模型的方法,增加了模型与控制的复杂性。针对这一问题,提出了面向多输入多输出系统的支持向量机线性回归和非线性回归方法,两种方法的不同在于映射到高维空间后的运算方法不同。与单变量支持向量机回归建模相比,采用该方法建立的多变量系统模型结构较为简单,且在小样本数的情况下,模型训练速度较快。最后将该方法应用到甲基丙烯酸甲脂的间歇聚合反应过程中,仿真结果表明该方法的有效性。