高维数据挖掘中的正则化估计新方法

针对高维数据的特点并基于线性回归模型,利用变量选择降维技术,提出了一种新的、有效的变量选择（或称特征提取）的正则化估计方法．新的正则化估计方法主要考虑了数据的噪声（方差）对正则化估计的影响,在寻找估计的正则化路径时能对方差进行有效估计,且基于凸优化问题的KKT条件和坐标算法思想给出了正则化估计算法的实施细节．实验结果表明,该方法能够提高高维数据集进行估计和变量选择的准确性,是高维数据挖掘中新的、有效的特征提取方法．     

高维数据挖掘中基于正则化估计的特征提取算法

文章基于高斯回归模型,利用坐标算法并结合KKT条件对已存在的正则估计方法进行了改进,提出了一种对高维数据更加有效的变量选择(或称特征提取)的正则化估计方法.该方法考虑了实际数据中存在的噪声对正则化估计的影响,并能对噪声进行有效估计,文中给出了改进算法的实施细节,并通过实验结果验证了该方法在一定数据范围内具有估计的有效性和提高变量选择(特征提取)的准确性.     

稀疏Group Lasso高维统计分析

研究稀疏Group Lasso方法的高维统计性质。通过对损失函数和罚函数的性质分析,以及选择适当的正则参数λn。得到了稀疏Group Lasso估计的界。当损失函数与罚函数满足适当的条件,任意解θλn和未知参数θ*有统一的误差界。     

基于正则化方法的Hull-White短期利率

基于市场债券价格,应用正则化方法对Hull-White短期利率模型中时间变量参数进行估计.通过变分原理,证明了该正则化方法具有稳定性和收敛性.最后,数值模拟确认该方法的有效性并给出实证结果.     

ECT图像重建中最小坡度正则化参数选择方法

电容层析成像图像重建反问题常常是不适定的.提出了一种在最小坡度曲线段中选择Tikhonov正则化参数的新方法用于求解这一不适定反问题.对于测量数据的干扰,不适定问题的一些正则化解比其他的解敏感程度低.该方法使用一定准则选取不敏感正则化解中的一个,将这个解对应的正则化参数作为最优值.通过仿真实验,针对两种典型介质分布,将基于最小坡度方法计算的正则化参数与流行的L-曲线法在电容测量数据施加噪声情况下的图像重建结果进行了比较.实验表明基于新方法的图像重建结果要好于L-曲线法.     

非标准抛物方程只含有时间变量的热源识别反问题

探讨一类含对流项抛物方程的只含有时间变量热源识别反问题.这类问题是不适定的,即问题的解不连续依赖于测量数据.利用简化的Tikhonov正则化方法和拟逆正则化方法分别得到问题的正则近似解,并且分别给出正则解和精确解之间具有Ho¨lder型误差估计.     

一类对流-扩散方程热源识别反问题

根据测量数据,利用分离变量法,得到未知源函数和测量数据之间的关系式.这类问题称为未知源识别反问题,是典型的不适定问题.利用截断正则化方法,得到问题的一个正则近似解,并且给出正则解和精确解之间具有H¨oler型的误差估计.     

抛物方程热源识别的中心差分正则化方法

探讨一类抛物方程只含有空间变量的热源识别反问题.这类问题是不适定的,即问题的解不连续依赖于测量数据.利用中心差分正则化方法,得到问题的一个正则近似解,并且给出正则解和精确解之间具有H(O)lder型的误差估计.数值实验表明中心差分正则化方法对于这种热源识别是非常有效的.     

纵向缺失数据下高维部分线性回归模型的变量选择

针对纵向单调缺失数据下高维部分线性回归模型的变量选择,提出了逆概率加权光滑阈估计方程变量选择方法,其中非参数分量使用样条估计.在适当正则条件下,证明了该变量选择方法具有Oracle性质,并通过模拟研究验证了所提出方法的有限样本性质.     

Logistic模型中参数的自适应Lasso估计

目的研究Logistic模型的参数估计。方法在L1罚中引用一个自适应的权,即自适应Las-so方法。结果自适应Lasso方法对Logistic模型同时进行了模型选择和参数估计。结论在一定的正则条件下,Logistic模型的自适应Lasso估计是满足Oracle性质的。     

一种自适应Tikhonov正则化参数估计方法

为了解决离散线性反问题中正则化参数选择困难的问题,在Tikhonov正则化方法等效统计模型的基础上,提出了一种自适应Tikhonov正则化参数估计方法.将正则化参数选择的问题转换为关于被测信号和测量噪声的超参数的统计推断问题;基于测量噪声潜在的高斯分布特性,可在独立于测量噪声水平的条件下自适应地估计正则化参数.仿真结果表明:从最大化重建信号后验概率分布的角度来看,自适应Tikhonov正则化参数估计方法计算得到的正则化参数可视为具有随机分布特性的最佳正则化参数的近似折中,其对应的重建信号准确度接近于最优重建信号的准确度,且收敛速度较快.     

三维Navier-Stokes方程在Morrey空间的正则性准则

在三维欧式空间中研究了Navier-Stokes方程弱解的正则性准则,利用能量估计的方法以及几类不等式,在Morrey空间中得到了关于形张变量分量的正则性准则.     

基于L-曲线正则化的MAP超分辨率图像复原

提出一种基于L 曲线正则化参数选择方法的最大后验 概率超分辨率图像复原算法. 该方法将最大后验概率估计和L-曲线正则化参数选择方法相结合, 可以有效地减少和去除复原图像中的噪声, 提高图像复原质量, 并具有较好的超分辨率复原能力.     

响应变量缺失时偏线性测量误差模型的变量选择

考虑当响应变量缺失且协变量包含测量误差时偏线性模型的变量选择问题,提出了基于SCAD(smoothly clipped absolute deviation)惩罚最小二乘和STEE(smooth-threshold estimating equations)的两种变量选择方法.利用半参数回归替代估计来处理缺失的响应变量.通过选择合适的调整参数,且在一定的正则条件下,可以证明这两种变量选择方法具有渐进正态性和先知性.数值模拟研究进一步给出了估计的有限样本性质.     

二维Poisson方程未知源识别反问题

探讨二维Poisson 方程只含有一个空间变量的未知源识别反问题.这类问题是不适定的, 即问题的解不连续依赖于测量数据.利用简化的Tikhonov 正则化方法, 得到问题的一个正则近似解, 并且给出正则解和精确解之间具有Hlder 型误差估计.     

Poisson方程未知源识别的拟边界正则化方法

探讨了半带型区域上二维Poisson方程只含有一个空间变量的未知源识别反问题.这类问题是不适定的,即问题的解(如果存在)不连续依赖于测量数据.利用拟边界正则化方法,得到问题的一个正则近似解,并且给出正则解和精确解之间具有Hler型误差估计.数值实验表明拟边界正则化方法对于这种未知源识别反问题是非常有效的.     

拟逆正则化方法结合离散随机扰动反演初值问题

利用离散随机扰动探讨时间分数阶扩散方程的反演初值问题,这类问题是不适定的,即问题的解(如果存在)不连续依赖于测量数据.利用拟逆正则化方法,得到问题的一个正则近似解,并且给出在先验正则化参数选取规则下的收敛性估计.数值结果表明拟逆正则化方法解决此类问题是有效和稳定的.     

非标准热传导方程的热源识别反问题

探论一类含对流项的热传导方程的只含有空间变量的热源识别反问题.这类问题是不适定的,即问题的解不连续依赖于测量数据.利用简化的Tikhonov正则化方法,得到问题的一个正则近似解,并且给出正则解和精确解之间具有Hlder型的误差估计.     

有界区域上含对流项抛物方程的热源识别反问题

探讨有界区域上一类含对流项抛物方程只含有空间变量的热源识别反问题.这类问题是不适定的,即问题的解不连续依赖于测量数据.利用简化的Tikhonov正则化方法,得到问题的一个正则近似解,并且给出正则解和精确解之间具有Hlder型的误差估计.     

左截断右删失数据下线性模型的加权复合分位数估计及变量选择

在可靠性及生存分析等领域中经常出现左截断右删失数据,即指在某种设定下,样本值不能被完全观测到的数据.左截断右删失数据下线性回归的参数估计方法一般选用加权分位数估计,然而加权分位数估计只考虑了单个分位点的损失,在估计效率方面存在缺陷.为克服这一缺点,针对左截断右删失数据下线性模型的参数估计问题,提出了加权复合分位数估计方法.此外,为识别模型中的非零参数并进行变量选择,建立了基于自适应Lasso的惩罚加权复合分位数估计,并在一定假设条件下,证明了所提估计具有渐近正态性和Oracle性质.数值模拟和实例分析结果表明,本文提出的惩罚加权复合分位数估计具有良好的变量选择性质,并且加权复合分位数估计与加权分位数估计相比,具有更高的估计效率.