高维惩罚分位数回归及优化算法

针对具有异常值或离群点的高维数据线性回归模型，提出了一种基于误差函数正则化的惩罚分位数回归的新方法，与经典的L₁惩罚方法相比，新方法具有更好的稳健性以及更小的估计偏差和预测误差；为解决分位数损失函数非光滑性与误差函数非凸性所带来的计算挑战，结合迭代再加权L₁算法以及ADMM算法，提出了一种有效的IRWADMM算法，并对回归系数进行了求解.模拟结果表明，与已有的惩罚分位数回归方法相比，新方法在参数估计和变量选择等方面均具有更好的表现.将新方法应用于核黄素基因数据分析，以证实其有效性和可行性.     

左截断右删失数据下线性模型的加权复合分位数估计及变量选择

在可靠性及生存分析等领域中经常出现左截断右删失数据,即指在某种设定下,样本值不能被完全观测到的数据.左截断右删失数据下线性回归的参数估计方法一般选用加权分位数估计,然而加权分位数估计只考虑了单个分位点的损失,在估计效率方面存在缺陷.为克服这一缺点,针对左截断右删失数据下线性模型的参数估计问题,提出了加权复合分位数估计方法.此外,为识别模型中的非零参数并进行变量选择,建立了基于自适应Lasso的惩罚加权复合分位数估计,并在一定假设条件下,证明了所提估计具有渐近正态性和Oracle性质.数值模拟和实例分析结果表明,本文提出的惩罚加权复合分位数估计具有良好的变量选择性质,并且加权复合分位数估计与加权分位数估计相比,具有更高的估计效率.     

响应变量缺失下变系数模型的分位数回归

针对响应变量随机缺失情况下变系数分位数回归模型的非参数估计问题,提出了将B样条和逆概率加权相结合的估计方法。缺失数据在统计工作中难免会遇到,首先用logistic模型产生响应变量的缺失概率,然后对变系数模型的系数函数采用B样条逼近技术,利用缺失概率构建逆概率加权分位数回归的损失函数,得到模型的未知系数函数估计;在模拟研究中,将得到的估计与直接使用完全数据的估计方法进行对比,发现在响应变量随机缺失下,将B样条和逆概率加权相结合的变系数模型分位数回归在有限样本情况下表现良好,模拟研究结果表明该方法有效;最后将所研究的方法运用到挪威公共道路管理局收集的奥斯陆地区相关数据中,研究了空气中二氧化氮浓度与道路车流量和风速之间的关系,得出合理的结论,进一步证明了该方法的合理性。     

删失回归模型的分位数变量选择和压缩估计

删失回归模型是一种响应变量受限制的模型,广泛应用于计量经济学中.针对删失回归模型,借助于分位数估计方法和SCAD型惩罚函数,提出了一种变量选择和压缩估计方法.该方法可选出对模型有贡献的回归变量,即非0回归系数,同时给出非零参数的一个相合估计.另外,获得了变量选择方法的oracle性质.最后,利用数值模拟计算说明所提出方法的效果.     

基于遍历函数型数据条件分位数估计的相合性

文章利用鞅的方法研究了基于平稳遍历函数型数据条件分位数的非参数估计,在一定的条件下建立了条件分位数估计的相合性,即在遍历数据集下,研究解释变量X取值于某半度量空间而响应变量Y取值于实值空间R时条件分位数的性质;同时给出了相同条件下条件分布函数的相合性和渐近性质,推广了现有文献中的相关结果。     

带有时间序列的变系数 EV 模型的变量选择

在模型误差是时间序列时,利用B样条逼近和SCAD惩罚函数对变系数EV模型进行变量选择。选择合适的调整参数,偏差修正的变量选择能够同时选择有效的变量和估计非零的光滑系数函数。最后证明了变量选择的相合性,同时它也满足变量选择的Oracle性质---稀疏性。     

基于改进 BVAR 模型和 MS-VECM 模型的能源消费分析

针对向量自回归模型(VAR)的高维估计问题,结合贝叶斯理论提出了一种融合正态-逆 Wishart 共轭先验 分布的估计方法。 在该估计方法中,所提出的模型引入 Metropolis-Hastings(MH)算法,从以往数据集中确定先验分 布超参数,并通过设定与模型尺寸相关的收缩系数从而进行估计。 与传统 VAR 模型相比,基于贝叶斯理论的估计 方法可在保留相关样本信息的同时控制过度拟合,具有较好的稳健性和有效性。 此外,在改进的 BVAR 模型基础 上,结合区制转移技术与误差修正模型提出了 MS-BVECM 模型,该模型能够有效分析经济周期内各变量之间长期 与短期均衡状态变化,当短期内经济变量受到波动而与长期均衡状态发生偏离时,误差修正模型机制会使其逐渐 重新回到长期均衡状态,以保证模型的稳健性。 最后,以重庆市为例,利用所提模型对其能源消费、产业结构升级和经济增长的动态关系进行了分析与预测并提供了可行建议。     

一种有效且稳健的变量选择方法

当数据中存在异常值时，一些基于最小二乘估计的统计模型会产生较大的偏差，最小一乘估计对异常值具有比较强的抵抗能力。考虑到数据中可能存在异常值的情况，用绝对值损失代替平方损失，针对同时具有变量稀疏性和相邻系数差分稀疏性这种结构的线性模型，提出了最小一乘融合熔断自适应岭估计模型（LAD-Fused-BAR）。该模型将上一步估计的回归系数倒数的平方作为下一步惩罚权重，自适应地给予不同变量不同的惩罚,通过不断迭代得到最终解。运用交替方向乘子法（ADMM）求解LAD-Fused-BAR模型，并证明了ADMM算法的收敛性。数值模拟和实证分析也验证了该模型的有效性和稳健性。     

半变系数伽马脆弱模型惩罚部分似然估计

为了更好地分析对数风险函数与协变量之间复杂的非线性关系,提出一种半变系数伽马脆弱模型并给出其估计方法．首先,应用B-样条将半变系数伽马脆弱模型近似转化为线性伽马脆弱模型,然后运用惩罚部分似然法估计转化后模型的线性参数,随后采用近似轮廓似然法并运用黄金搜索算法估计随机效应的参数;在通过迭代获得转化后的线性系数以及随机效应参数的估计以后,运用B-样条得到变系数函数的估计．经蒙特卡罗模拟研究发现,该方法可以给出协变量的线性参数以及变系数函数较为精准、稳定的估计,是分析协变量对于风险率影响的有效方法．最后,应用所提出的方法分析了NCCTG肺癌数据．     

变系数部分非线性模型的分位数回归估计

研究纵向数据缺失下变系数部分非线性分位数回归模型的估计问题.利用逆概率加权法结合分位数回归给出参数估计和非参估计;在一定条件下,证明了所给估计量的渐近正态性;通过数值模拟,验证了所提方法的有效性.     

露天矿行车事故预测方法及应用

为有效解决露天矿山行车事故预测模型建模时,易受小样本数据、离群数据规模影响,导致模型精度损失、算法抗噪容差能力及收敛速度下降等问题,提出一种基于二次惩罚项修正(PTS)的改进支持向量回归机模型(WLSSVR)。根据训练样本的数据分布特性,研究了服从露天矿山现实应用场景的二次惩罚项,进一步提高回归机模型的抗噪容差能力;考虑非线性预测模型影响因子选择困难的问题,研究了数据降维及因子分析方法,并将主成分分析方法引入到输入数据预处理算法中,以保证算法可得到理想的输入;针对传统回归机模型易受核参数选择影响,易导致模型早熟和收敛速度慢等问题,研究了粒子群惯性因子、学习因子的自适应迭代形式,提出了一种应用改进粒子群算法优化回归机模型核参数的方法。以露天矿行车事故频次预测为例,进行了预测和对比实验。实验结果表明:引入PTS模型的测试集预测结果明显优于不采用PTS策略的预测结果。这说明,应用文中提出的二次惩罚策略和参数优化算法对复杂系统的事故预测问题研究是可行且有效的。     

基于MM-算法的局部常数核加权分位数回归估计及应用

提出了一种新的基于MM-算法的局部常数核加权计算法,使用该方法得到的分位数回归估计曲线在比较弱的条件下是连续光滑的．讨论了核方法中协调参数的选取问题．最后,数值模拟和实证研究的结果表明,利用所提出的计算方法所得到的非参数曲线估计在重尾误差的情况下具有一定的稳健性．     

基于M-H抽样算法的贝叶斯Probit分位回归模型研究

针对Probit分位回归在参数随机化条件下的建模问题,提出基于Metropolis-Hastings算法的贝叶斯Probit分位回归模型.通过分析Probit分位回归模型结构,选择模型的先验分布,运用M-H算法进行参数估计.利用Monte Carlo仿真技术,得到不同分位点模型参数后验分布,同时用贝叶斯probit分位回归与分位回归方法和光滑分位回归方法对模型参数估计进行比较分析.研究结果表明:贝叶斯Probit分位回归模型可以更全面描述离散选择变量的影响,能够得到更加准确有效的参数估计.     

基于非规则分布样本的航段油耗区间估计

飞机航段油耗估计是航空公司进行节能减排的重要基础。多因素影响下的航段油耗样本的非规则分布特征会导致一般的区间估计方法得到的估计区间质量较低,针对以上问题,提出了基于支持向量分位数回归（Support Vector Quantile Regression,SVQR）和Bootstrap相结合的航段油耗区间估计方法。利用SVQR非对称形式的绝对值残差最小化的思想估计航段油耗的条件分位数,并将其作为Bootstrap的输入来估计航段油耗总体的统计量,由于相同机型、航段的油耗样本总体满足正态分布,最后构建一定置信度的估计区间。实验结果表明：该方法的估计区间可信度更高、平均带宽更窄、提高了估计区间的质量。该方法能为航空公司合理的估计油耗及制定碳排放监测计划时提供参考。     

基于分位数回归的企业债信用风险研究

将非参数GARCH模型的方差方程取对数变换后所得的模型用于估计企业债利差波动率。针对模型误差的非对称性，利用更为稳健的分位数回归方法估计改进后的非参数可加GARCH模型。实证分析结果表明，改进后的模型对波动率的估计更为有效；分位数回归方法比最小二乘回归方法能更有效的克服模型误差的非正态影响，对异常值的敏感程度更低，是一种非常稳健的估计方法。     

统计回归模型及其优化算法综述

在大数据时代,正则化(惩罚)回归模型成为高维数据分析的一种有效分析工具.文中从统计模型理论和优化算法两个角度对正则化回归模型进行简要的概述,主要介绍线性回归模型、广义线性模型和分位数回归模型三种经典且重要的回归模型以及相应的正则项.对于线性回归模型,介绍最小二乘回归和l_1-正则最小二乘回归问题的优化算法;对广义线性模型和分位数回归模型,介绍逻辑回归模型和求解l_1-正则逻辑回归问题的优化算法,并展示分位数回归模型和求解相应的正则化分位数回归模型的优化算法.最后,对正则化回归模型未来的研究方向进行展望.     

扩散模型复合分位回归估计的渐近正态性

主要研究扩散模型中漂移函数的复合分位回归估计的渐近正态性.基于离散观测样本,利用复合分位回归的方法得到了漂移参数函数的局部估计量,并证明了估计量的渐近正态性.     

分位点门限自回归时间序列模型的贝叶斯方法

本文运用贝叶斯方法研究了门限分位点自回归时间序列模型的估计和预测. 将分位点回归的最优化问题转化为极大似然估计的问题,从而可以利用Metropolis-Hastings算法对模型中的参数进行Bayesian估计. 同时我们将模型应用于上证综合指数的增长率的数据, 得到了这一增长率的分位点估计. 这一方法的优越之处在于它不需要对数据的分布作预先的假定.