秩回归模型用BIC建模的相容性及应用

文[1]提出秩和回归模型预测方法,本文研究用BIC准则选择秩回归变量的相容性问题和建模原则,给出具体的模型设计方法,并在气象预测应用中效果良好。     

基于低秩类间稀疏判别最小二乘回归的图像分类

在多分类任务中基于最小二乘回归(least squares regression,LSR)的分类器是有效的,但大多数现有方法因使用有限的投影而损失许多判别信息,有的算法只关注样本与目标矩阵的精确拟合而忽略了过拟合问题。为了解决这些问题并提高分类性能,本文提出了一种基于低秩类间稀疏性的判别最小二乘回归(low-rank inter-class sparsity discriminative least squares regression,LRICSDLSR)的多类图像的分类方法。在判别最小二乘回归模型中引入类间稀疏性约束,使得来自同一类的样本间隔大大减小,而来自不同类的样本的间隔增大;对由非负松弛矩阵获得的松弛标签施加低秩约束,以提高其类内紧凑性和相似性;在学习标签上引入了一个额外的正则化项,以避免过拟合问题。实验结果表明,这3个改进有助于学习明显的回归投影,从而实现更好的分类性能。     

基于低秩表示的判别特征提取算法

为了更好地获取高维数据的特征,提出一种特征提取算法——低秩判别映射. 首先基于低秩表示构造代表样本关联性的关联矩阵,然后利用关联矩阵应用判别准则. 低秩表示以样本作为基函数,利用所有样本构建关联矩阵,其构造特点决定了关联矩阵能够很好地体现样本集的全局结构和样本之间的判别关系. 人脸数据集的实验表明,低秩判别映射优于其他广泛应用的特征提取方法.     

基于双高斯先验的低秩矩阵分解模型

为了更好地拟合复杂噪声,增强低秩矩阵分解模型的鲁棒性,将双高斯先验引入到传统的高斯混合模型中,提出了基于双高斯先验的低秩矩阵分解(low-rank matrix factorization with double Gaussian prior, DGP-LRMF)模型,通过模型分解得到的2个矩阵均服从高斯先验,从而实现对噪声的有效建模,并在贝叶斯理论框架下利用EM算法实现模型参数的推断。实验结果验证了所提模型能够有效地处理含有复杂噪声的数据,取得了更优且更具稳定性的去噪效果。     

基于低秩描述的特征提取算法

低秩表示算法是通过最小化矩阵核范数来求解低秩表示系数,然而待求解的低秩表示系数的稀疏性低的要求导致求解不稳定的情况。针对这个问题,在基本的图像低秩表示算法中引入一个约束条件来保证系数的最稀疏性,在特征提取过程中来获取图像数据在各个空间中的整体几何结构。通过对不同的加噪图像进行去噪恢复和分类识别,并与现有算法对比,证明改进算法的低秩特性更具有效性和判别性。在ORL库和Yale B库人脸库上的实验结果证明,改进的算法比原算法在图像去噪效果上更有效,具有较高的识别率。     

马尔可夫过程的低秩谱估计

针对马尔可夫过程的谱估计算法利用了非负投影而导致估计矩阵不能满足低秩要求的问题,提出一个低秩谱估计算法(Low-rank Spectral Estimation Algorithm, LRSEA):首先,建立秩约束状态转移矩阵集合的局部Lipschitz型误差界,并给出满足该集合误差界不等式的近似投影矩阵; 然后,基于近似投影矩阵对现有的谱估计算法进行低秩修正,得到LRSEA算法,并为该算法建立统计误差界。通过人工合成数据实验对LRSEA算法、经验估计方法和谱估计方法进行比较,结果表明LRSEA算法的估计误差最小。最后,将LRSEA算法与k-均值聚类算法结合应用到纽约市曼哈顿岛出租车轨迹的分析问题。     

基于低秩投影与稀疏表示的人脸识别算法

当训练和测试图像同时受到污损时,人脸识别的性能会急剧下降。为了解决这一问题,提出了一种新的人脸识别算法。首先利用鲁棒主成分分析(robust principal component analysis,RPCA)方法得到训练样本的低秩部分;然后基于原始训练样本及其低秩部分得到低秩投影矩阵,该矩阵可以对存在污损的测试图像进行恢复;最后使用稀疏表示分类(sparse representation based classification,SRC)算法对恢复后的测试图像进行分类。在两个公开数据库上进行实验,实验结果证明了本文算法的有效性,同时识别性能优于SRC及线性回归分类(linear regression classification,LRC)方法,能在一定程度上处理样本数据受到污损的情况。     

基于低秩矩阵分解的遥感图像薄云去除方法

为了较好地去除遥感图像中的薄云遮挡,还原地表图像,提出了一种利用低秩矩阵分解的遥感图像薄云去除算法。该算法根据薄云图像的低秩特性,将图像进行低秩矩阵分解,得到背景、前景和薄云图像。然后将去除薄云信息后的前景和背景信息相融合,得到地物成分。将该算法与其他传统算法应用在卫星影像数据上,对薄云去除效果运用主客观指标进行比较。实验结果表明,该算法能够克服传统算法中细节丢失以及去除不完全的问题,不仅能够在不同地物场景下对薄云进行去除,而且能够较好地保留地物的细节信息。     

稀疏低秩协同正则优化及航空轴承故障诊断

航空发动机振动测点少,主轴轴承微弱的故障特征信息被多源非高斯噪声干扰所淹没,难以有效诊断。针对该问题,首先分析了整机振动信号源成分的表征机制,揭示了故障特征信号在特定二维变换空间的低秩先验以及谐波干扰信号在频域的稀疏先验,进而分别构建了特征信息的空域低秩正则函数和谐波干扰信号的谱域稀疏正则函数,通过协同空域和谱域的两类正则函数,提出了稀疏低秩协同正则优化算法。所提算法基于故障信号和干扰信号在不同变换空间的结构差异性,将两类信号分别在两个完全不耦合的空间进行表示和正则,解决了目前稀疏分解算法难以构造高度不耦合字典的瓶颈问题。仿真分析表明,所提算法可实现冲击特征、谐波干扰信号和高斯噪声这3种成分的解耦,从而可靠提取轴承微弱的冲击故障模式。两组航空轴承实验表明,所提算法不仅可实现运行转速为1 800 r/min、剥落面积为1.0 mm²的航空轴承故障诊断,并且可有效识别加速疲劳寿命实验中轴承故障萌生初期的特征信息。     

统计回归模型及其优化算法综述

在大数据时代,正则化(惩罚)回归模型成为高维数据分析的一种有效分析工具.文中从统计模型理论和优化算法两个角度对正则化回归模型进行简要的概述,主要介绍线性回归模型、广义线性模型和分位数回归模型三种经典且重要的回归模型以及相应的正则项.对于线性回归模型,介绍最小二乘回归和l_1-正则最小二乘回归问题的优化算法;对广义线性模型和分位数回归模型,介绍逻辑回归模型和求解l_1-正则逻辑回归问题的优化算法,并展示分位数回归模型和求解相应的正则化分位数回归模型的优化算法.最后,对正则化回归模型未来的研究方向进行展望.     

基于低秩矩阵近似的鲁棒DOA估计方法

针对非均匀噪声背景下传统非离散化方法在少快拍条件下波达方向（DOA）估计性能恶化的问题, 提出基于原子范数最小化和零化滤波器的非离散化参数估计方法. 该方法利用参数空间连续性构建基于原子集合的阵列信号稀疏表示模型, 将信号协方差矩阵的恢复问题转化为原子${ell _0}$范数最小化问题. 基于信号协方差矩阵的厄米特托普利兹结构和低秩特性, 将原子${ell _0}$范数最小化问题转化为实际可解的基于低秩矩阵近似的半定规划问题, 从而恢复信号协方差矩阵. 根据零化滤波理论通过求解零化滤波器系数获取DOA参数估计. 仿真结果表明, 在非均匀噪声和少快拍同时存在条件下, 该方法比现有同类方法具有更高的估计精度和鲁棒性. 在不同最大噪声功率比条件下,本文方法的均方根误差比现有方法平均减小59.4%.      

在有界计分函数下线性模型秩分析刻度参数估计的强相合性

对于线性模型Ｙｉ＝ｘｉβ＋ｅｉ，ｉ＝１，２…，在一定条件下，证明了υ＝υ（ｆ，ψ）＝∫ｆ（ｘ）ｄψ（Ｆ（ｘ））的估计量υｎ＝∫ｆｎ（ｘ）ｄψ（Ｆｎ（ｘ））的一致强收敛性，并得到了一致强收敛速度。     

基于低秩矩阵恢复的作物器官自动提取方法

为了解决精准农业中作物器官的自动提取问题, 以玉米雄穗为例, 提出一种基于低秩矩阵恢复的作物器官自动提取方法。 作物生长图像是由背景和器官两大元素组成, 在图像特征空间则表现为一个低秩矩阵和一个稀疏矩阵之和。 利用低秩矩阵恢复算法求解代表器官的稀疏矩阵。 为了保证恢复时背景是低秩的, 利用作物生长历史数据, 学习最佳的转换矩阵。 最后, 利用动态阈值分割以及色度鄄亮度查找表完成器官的准确提取。实验结果表明, 该方法取得了93. 9%的最高性能值和2. 86%的最低标准差, 在多品种、 实际农田复杂环境下能获得更好的提取结果。     

基于低秩矩阵填充的推荐算法

针对已有协同过滤推荐技术中评分矩阵极度稀疏问题,提出了一种基于低秩矩阵填充技术的推荐算法.该算法从贝叶斯框架出发,提出了能够解决低秩矩阵问题的分层高斯先验模型,并将广义近似消息传递算法嵌入到贝叶斯框架,规避了贝叶斯学习过程中烦琐的矩阵逆运算,提升了算法运算速度,同时在广义近似消息传递算法中施加阻尼运算以促进收敛.在开放...     

基于调整秩回归的组变量选择

EXP惩罚是一种指数形式的惩罚函数,它近似于L₀惩罚. EXP惩罚最小二乘估计具有模型选择的相合性和渐近正态性.但是,惩罚最小二乘方法对重尾分布和含有异常值的混合分布的效果并不理想.该文考虑回归模型中的变量是以组结构形式存在的,研究基于调整秩回归的EXP型组变量选择,给出了调整秩回归估计的理论性质,并通过数据模拟和实例分析,检验调整秩回归的EXP惩罚的效果,结果表明这种方法具有较好的表现.     

低秩矩阵恢复模型改进及其在石油测井中的应用

传统的低秩矩阵恢复模型在去噪过程中通过将观测矩阵分解为低秩部分和稀疏部分达到噪声去除的目的,但该模型要求噪声矩阵必须是稀疏的。然而石油测井所获得的数据中噪声来源复杂,并不能完全保证噪声分布满足稀疏性的要求,使该模型在去噪时表现出一定的局限性,去噪效果不稳定,进而导致后续的数据处理准确率降低。为此,提出将加权范数的思想应用于传统的低秩矩阵恢复模型中,并在惩罚项中将F范数与待恢复矩阵的核范数相结合,构造改进的低秩矩阵恢复模型,使其能够在保证解的稳定性的同时,可以更好地挖掘观测矩阵的低秩性以及增强稀疏矩阵的稀疏性。通过非精确的拉格朗日乘子法分别对改进前后的模型进行求解,并对两种模型去噪后的测井数据分别采用支持向量机(SVM)和相关向量机(RVM)进行油气层识别,结果表明经改进的低秩矩阵恢复模型去噪后的测井数据在保证了油气层识别效率的同时,识别准确率上有了明显提升。     

基于低秩增强的图像压缩感知重构算法

现有较突出的自然图像压缩感知重构算法大多基于图像的非局部自相似性,因为相似块组具有更高的稀疏度,以相似块组作为重构基础比独立重构单一图像块具有更好的重构性能.但在低采样率条件下,受初始重构质量所限,大量干扰信息的出现导致相似块分组不理想,影响最终重构质量.针对此问题,本文在GSR算法的基础上提出一种低秩增强图像重构算法.首先在初始重构中引入三维块匹配去噪方法,提出混合滤波重构算法,为相似块分组提供更高质量初始重构图像.然后在相似块正式分组前进行低秩增强预处理,使得相似块分组过程更加关注图像块的关键特征,提高分组的正确度.仿真实验结果表明,所提算法和GSR算法相比,在低采样率条件下具有更好的重构性能.     

回归模型及其优化识别

模型的选优问题,是统计推断中最重要的问题之一,随机影响为正态分布的回归模型,用ＡＩＣ准则可以进行很好地识别,针对这一问题,讨论最大熵原理,最小ＡＩＣ准则和最大假然函数的关系,列举了几种典型的回归模型,指出了模型识别过程中应注意的几个问题。     

低秩矩阵和结构化稀疏分解的视频背景差分方法

针对基于矩阵分解的视频前景检测传统算法中忽视前景元素之间相关性会导致检测结果容易受噪声干扰和运动目标检测不完整等问题,提出了一个低秩矩阵和结构化稀疏分解的视频背景差分算法。该算法充分考虑到视频前景区域的结构化分布特征,利用结构化稀疏范数对前景进行约束;针对矩阵分解方法中参数选择的难题,采用了一种基于运动显著性判定的两步法来实现动态背景去除和正则化参数的自适应选择,即第一步利用低秩和结构化稀疏分解获得运动候选块,第二步对运动候选块进行显著性分析并利用自适应正则化参数的块稀疏分解进行前景检测。实验结果表明:与现有的基于矩阵分解的前景检测方法相比,该算法能够更加适应复杂多变的视频环境,在I2R测试库中检测出的前景有较高的精确度和召回率。     

基于稀疏表示和低秩矩阵逼近的图像去噪算法的研究

提出了一种基于稀疏表示和低秩矩阵逼近的图像去噪算法:首先,通过对图像块的数据矩阵进行奇异值分解和全局子空间分析,确定信号子空间和噪声子空间;其次,利用图像块与信号子空间的距离寻找相似块,并将相似块分组为训练样本;再次,对相似块矩阵进行奇异值分解,并确定表示相似块的奇异向量;最后,去除表示噪声的基.实验结果表明,该算法能...