岭回归、LASSO回归和Adaptive-LASSO回归下的财政收入因素分析

选取了18个影响吉林省财政收入的因素,运用SAS软件建立了吉林省财政收入的多元回归模型.由于自变量过多并且存在严重的多重共线性,因此需要进行变量选择,本文运用岭回归模型、LASSO回归模型及Adaptive-LASSO回归模型进行变量选择,最后对这三个模型进行了比较分析,得出Adaptive-LASSO回归模型相对较优的结论.     

基于自适应LASSO的逻辑回归砂土液化判别模型

逻辑回归模型在国际上常用于地震液化判别,但该方法难以处理过多影响因素引发的共线性问题,进而严重影响模型的预测精度.能同时进行变量筛选和参数估计的自适应LASSO在处理共线性问题上有着独特的优势.因此,本研究以国内外533组历史液化案例为样本,在综合考虑地震液化多影响因素的基础上,引入自适应LASSO估计法,对逻辑回归液化判别模型进行优化,建立了基于自适应LASSO的逻辑回归砂土液化判别模型,该模型还包括了新的液化影响因素——土壤分类指数I_c,最后对重要液化影响因素进行敏感性分析.结果表明：针对因素过多的液化判别问题时,自适应LASSO逻辑回归模型可有效地选择重要因素进行建模;相比其它逻辑模型模型和简化方法,自适应LASSO逻辑回归模型精度更高,泛化能力更强;引入了新变量土壤分类指数I_c后,模型性能进一步提升,验证了建立逻辑回归液化判别模型时考虑I_c的重要性;敏感性分析发现重要影响因素的排序为：修正尖端阻值、峰值加速度、土壤分类指数、水位、细粒含量、侧壁摩阻值.     

用主成分回归分析解决回归模型中复共线性问题

主成分回归分析是将回归模型中有严重复共线性的变量进行因子提取,得到正交的因子变量,然后对因子变量进行回归模型的建立.通过具体实例介绍复共线性的判别方法以及如何利用主成分回归分析方法建立较理想的回归模型,从而解决了由于复共线性而造成病态回归方程的问题.     

浅析多元线性回归中多重共线性问题的三种解决方法

为了解决变量之间的多重共线性问题,本文提出了三种方法：岭回归、主成分回归和偏最小二乘回归首先介绍了其基本思想和主要处理步骤,并通过具体实例验证出利用三种回归方法,可以消除多重共线性所带来的影响最后,通过对结果的分析总结出三种方法的优劣。     

岭回归在修正多重共线性中的应用

以2000-2010年四川省CPI的数据及部分影响因素为基础,运用SPSS17.0对CPI数据建立多元线性回归模型,并基于岭回归对模型中的多重共线性进行修正,得到了修正后的模型,说明此方法具有一定的实用性。     

基于岭回归和Lasso回归的螺纹钢期货价格实证分析

期货是金融市场的重要组成部分,期货的交割通常是在一段时间后进行,因此对于期货价格预测显得尤为重要,其中螺纹钢期货价格预测成为提高我国钢铁产业竞争力的重要举措.通过对螺纹钢期货结算价及其影响因素的数据进行分析,分别利用岭回归和Lasso回归两种方法消除共线性的影响,得到两种修正多元回归模型,应用两种修正多元回归模型分别对螺纹钢未来一周的期货价格进行预测,并与真实价格进行比较,最终发现基于两种方法得到的模型预测准确率均高于95%以上,且基于Lasso回归方法的拟合效果更好,证明构建的两种回归模型对螺纹钢价格的走势与预测均有重要的参考价值.     

分位数回归模型中的两步变量选择

对于高维分位数回归模型提出了一种两步变量选择方法,这里协变量的维数pn远远大于样本量n.在第一步中,使用e1惩罚,并且证明第一步由LASSO惩罚所得到的惩罚估计量能够把模型从超高维降到同真实模型同阶的维数,并且所选模型能够覆盖真实模型.第二步对第一步所得模型使用自适应的LASSO惩罚来剔除冗余变量.在一些正则性条件下,证明了此方法具有变量选择的相合性.还进行了数值模拟和实际数据分析,用来表明此方法在有限样本下的表现.     

在解决多重共线性问题上岭回归法比LS法的优越性

由于回归模型中解释变量之间多重共线性的存在,常常给许多问题的解决带来不便之处。因此,给出了一个岭估计优于LS的充分条件,其目的在于说明在解决多重共线性问题上,岭回归法比LS法优越。     

决定系数与相关系数辅助的LASSO回归

现有LASSO回归方法尚未解决回归关系式中冗余特征和无关特征的去除问题,提出一个决定系数与相关系数辅助的LASSO回归方法。设给定响应变量Y和备选解释变量集X,首先设计结合决定系数的LASSO回归正则化路径求解方法,找出X中的主解释变量;然后,设计结合决定系数、相关系数和正则化路径的方法,在固定主解释变量条件下求解LASSO回归的正则化路径过程中,去除X中的无关变量和冗余变量。模拟数据集和真实数据集的实验结果表明,新方法解决了LASSO回归中冗余特征和无关特征的去除问题,在冗余变量和无关变量的去除效果上胜过对比方法。     

基于因子-主成分回归分析的股价技术分析研究

介绍了回归分析中多元线性回归的理论及应用方法,并以股价技术指标为研究对象,利用spss统计分析软件,建立了短期股价变动的多元线性回归模型。同时讨论了被选为自变量的参数之间存在的多重共线性问题,并分析该问题对线性回归分析结果造成的影响。因子-主成分分析的核心是用较少的相互独立的因子反映原有变量的绝大部分信息。主成分分析的主要思想是:从自变量中提取出新的变量,这些变量是原变量的适当线性组合,并且互不相关,因此应用SPSS软件进行数据缩减、提取主成分,并以主成分因子为新的自变量建立主成分回归方程,消除了多重共线性对回归模型的影响。最后对不同模型的测试结果进行了比较、分析,验证了因子-主成分分析在解决实际经济问题中的有效性。     

ELM岭回归软测量建模方法

ELM(极限学习机)是一种新型的前馈神经网络,可有效处理函数的回归问题.针对ELM学习算法隐含层输出可能存在的复共线性问题,提出了ELM岭回归(ELMRR)软测量建模方法.该算法利用岭回归方法代替原有的线性回归算法,以误差平方和均值为性能指标,采用粒子群优化算法确定最佳岭参数,克服了传统岭回归算法最佳岭参数难以确定的缺...     

基于岭回归对新疆农业经济的分析

基于使用最小二乘回归对数做统计回归时,常出现自变量之间因为多重共线性,导致模型预测失去效果的现象,其中和岭回归法是常见的用以处理多重共线性问题的方法。现以新疆农业经济数据为例,运用统计软件对数据进行实证分析,证实了这种方法消除农业经济中多重共线性的可行性,与偏最小二乘回归方法作比较,说明其实现过程和优缺点,有利于提高回归预测模型的精确性和在现实问题中更广泛的应用。     

Gamma回归模型中岭估计的几种改进岭参数

针对Gamma回归模型的复共线性问题,基于HOERL和KENNARD等人的工作,提出了岭估计的几种新的岭参数.在最小均方误差的准则下,采用蒙特卡罗模拟法验证了岭估计和所提出的岭参数的优良性.     

基于递阶偏最小二乘回归的数据分析

针对最小二乘法难以克服因子多重共线性对回归模型精度影响的不足和大坝观测数据分析中因变量较多的特征,引进递阶偏最小二乘法,对大坝安全监测变量及其影响因子进行递阶偏最小二乘回归分析,将建模预测分析方法通过递阶分层处理,可同时实现回归建模和数据结构简化,所建立的大坝安全监控模型精度可通过交叉有效性检验来控制.工程应用实例和模型对比分析研究表明,递阶偏最小二乘回归模型能有效克服由于各类因子变量问的多重共线性和因子变量数目较多而对模型拟合精度及其预测能力的影响,相对于传统回归模型有更好的解释能力,因而具有一定的实用价值.     

基于岭回归法对海南省住宅销售价格的影响因素的研究

利用多元线性回归模型，研究了1996年到2008年海南省住宅销售面积、人口及城镇居民可支配收入对海南省住宅销售价格的影响，基于岭回归法来解决自变量间多重共线性的问题，借助EVIEWS6．0和SPSS17．0软件，建立相关的数学模型，最后预测海南省2009年住宅销售价格，结果表明模型短期预测精度较高。     

房价非线性回归模型及期权定价

从宏微观经济学的角度出发,依照国家统计局网站的数据选取多个可能影响房地产价格的变量建立了全国房地产平均价格模型.运用R语言对数据进行了多元线性回归分析、多元非线性回归分析、相关性分析、多重共线性分析、岭回归分析等统计分析,得出房价的线性与非线性多个模型并进行了比较.结合随机微分方程、实物期权等相关金融数学知识进行了房价模型的理论推导与实际估计,并对房价期权进行了定价.利用Matlab对模型进行了大量的模拟并得到较好结果.     

时空自回归半参数延迟回归模型的岭估计

研究时空自回归半参数延迟回归模型.基于局部多项式给出了该模型的两步估计方法,并针对复共线性问题提出该模型的岭估计,给出了岭估计的渐近性质.通过数值模拟验证了提出的估计方法的可行性.     

基于多元线性回归的每股收益影响因素分析——以安徽省为例

针对安徽省制造业上市公司每股收益的实证研究,将基于杜邦原理分析得到的若干影响每股收益的因素作为回归模型中的解释变量,同时均值处理收集得到的2014²016年数据,代入Eviews软件进行参数估计。并对模型进行多重共线性,异方差和自相关检验,根据检验结果对模型不断修正完善。最终运用逐步回归法和加权最小二乘法得到关于每股收益影响因素的多元线性回归式,并提出关于提高上市企业每股收益的有益建议。     

基于损失函数为指数平方形式的稳健 Logistic回归

Logistic回归模型在处理分类数据中有着十分广泛的应用,通常为了简化模型而使用Logit变换将模型化为线性回归模型,但Logit变换会导致误差分量分布函数不同,从而导致模型误差增大.首先对Logit变换进行修正,在考虑离群值影响的基础上,利用指数平方损失函数和自适应LASSO形式稳健回归惩罚函数,从而对线性回归模型进行了修正,其次对股票涨跌情况进行了预测,最后结果表明,修正的模型对期望风险较小的投资者有更高的预测成功率.     

线性回归模型的一类新约束型LIU估计

针对带线性约束型的回归模型复共线性问题,提出了一种新估计,称之为修正约束型LIU估计,给出了新估计的性质.在均方误差准则基础上证明了在一定条件下,修正约束型LIU估计优于最小二乘估计、岭估计、修正岭估计和约束型LIU估计,最后讨论了新估计的可容许性.