基于多元图形特征融合原理的降维方法研究

降维是将高维模式映射到低维子空间的过程.在降维后的低维子空间进行分类往往能得到更好的效果.本文以高维数据为研究对象,采用多元描述图对高维数据进行可视化表达,采用多元图图形特征融合的方法对高维数据进行降维,用K邻分类器进行分类效果评价.与Fisher线性判别及其他一些常用非线性降维方法相比,本文所提方法在数据的可视化以及分类精度等方面均有较好效果.     

极限环解析解确定平衡点吸引域的研究

提出利用系统状态变量两两之间所有极限环的交集,确定高维系统在亚临界霍普夫分岔点附近平衡点吸引域的方法。首先利用改进中心流形降维的方法,对高维微分方程组在亚临界霍普夫分岔点进行降维,得到可进行极限环计算的形式;利用I.Bendxison定理推导极限环存在必要条件的解析表达式,为摄动增量法提供计算初值;然后利用摄动增量和谐波平衡法求取低维系统状态变量在分岔点附近不稳定极限环的近似解析解,用原变量替换近似解析解中的变量得到原系统变量的极限环;最后,将某一变量与其它所有变量形成的不稳定极限环投影到二维平面上取其交集,交集的边界即为该变量的稳定边界。该方法能够精确有效的分析算例中参数大幅变化下亚临界霍普夫点附近平衡点吸引域。     

一种高维航迹融合协方差交集算法降维实现方法

在互相关性未知的分布式融合系统中,协方差交集算法是一种有效的融合算法,但其在融合高维航迹时存在计算量大、精度低的问题,为此对高维航迹进行了降维处理,把高维航迹的融合变为多组二维航迹的融合,从而得到了一种降维的协方差交集算法(Dimensionality Reduction Intersection Algorithm,DRCI)。理论分析表明该算法能有效降低运算量,仿真实验结果表明,该算法的精度高于协方差交集算法(Covariance Intersection,CI),与Kalman融合算法处于同一水平。     

基于概率协作表示的几何保持图嵌入

为了充分获取高维数据的几何结构特征、增强高维数据在子空间中的识别能力,基于概率协作表示拥有潜在判别信息和数据几何信息的能力,提出一种基于概率协作表示的几何保持图嵌入(PCRGPGE)的降维新方法.在新方法中,相似高维数据样本的概率协作表示相似,且其概率协作表示的重构在低维子空间中也保持相似,从而使得高维数据所蕴含的低维...     

高维数据分类中的特征降维研究

以高维分类为目标,从分类的准确率与模型解释性角度探讨了降维的必要性,分析了特征选择与抽取2类方法特点,并对常用的特征抽取方法,包括主成分分析(PCA)、偏最小二乘(PLS)和非负矩阵分解(NMF)进行了阐述.考虑到约减后的数据缺乏稀疏性与可解释性,提出了基于稀疏正则化的特征抽取模型,为高维特征降维提供了一种新思路.     

局部不变投影

提出了高维数据集处理的局部不变投影方法.该方法在高维数据的降维处理中具有保持数据集几何结构和拓扑结构不变的性质,并且兼有线性降维方法计算方便、快捷的优点.另外,正则化处理使该方法具有良好的稳健性.计算结果表明,该方法具有发现数据集非线性结构的能力.     

高维数据流的聚类离群点检测算法研究

针对基于聚类的离群点检测算法在处理高维数据流时效率和精确度低的问题,提出一种高维数据流的聚类离群点检测（CODHD-Stream）算法。该算法首先采用滑动窗口技术对数据流划分,然后通过属性约简算法对高维数据集降维;其次运用基于距离的信息熵过滤机制的 K-means 聚类算法将数据集划分成微聚类,并检测微聚类的离群点。通过实验结果分析表明:该算法可以有效提高高维数据流中离群点检测的效率和准确度。     

基于LLE的彩色图象人脸检测

分析了人脸与非人脸之间的本质区别,提出了运用局部线形嵌入(LLE)的非线性降维方法,解决非线性结构的高维数据(图象)低维表示的问题,实现了高维输入数据点映射到一个全局低维坐标系,同时保留了邻接点之间的空间关系(即高维空间的几何结构).此算法不仅能够有效地发现数据的非线性结构,同时还具有平移、旋转不变性.运用LLE算法对图象进行降维,再对降维后的数据运用支持向量机(SVM)分类器进行人脸和非人脸的分类.实验结果表明,该人脸检测方法测率较高,并且不受姿态、表情和光照的影响.     

一种可鉴别的稀疏保局投影算法

为了增强高维数据在低维子空间中的模式识别能力,假设任意2个类别相同的相似样本其稀疏表示也相似,并基于SPP和LPP思想,提出一种可鉴别稀疏保局投影降维新方法 DSLPP.该方法通过稀疏表示学习和保局部投影,使得在投影子空间中不仅能够保持稀疏表示对数据很好的表达能力,而且较好地获取高维数据所蕴含的本质局部流形结构和自然判别信息,从而增强高维数据在子空间中的表示能力和可鉴别能力.在3个典型的人脸数据集Yale,ORL和PIE29上,将所提出方法 DSLPP与PCA,LPP,NPE和SPP进行对比试验.结果表明DSLPP是一种有效的降维方法,能够较好地改善高维数据在低维子空间中的分类效果.     

高维层次聚集Cube并行创建与存储方法

提出一种将高维层次聚集Cube划分成若干个低维立方体M ini-Cube的并行创建与存储方法,利用并行处理技术来创建这些分割的分段共享M ini-Cube及其聚集Cuboids,实现高维层次聚集Cube的并行创建和增量更新维护,从而解决高维OLAP聚集海量数据的存储与查询问题.理论分析与实验结果都表明,相对于以往的Full Cube完全创建和Partial Cube部分创建等传统方法,基于分段M ini-Cube并行处理方法的性能有显著的提高.     

基于流形学习的离群点检测方法

为了提高高维数据集合离群数据挖掘效率,提出了一种基于流形学习的离群点检测算法。局部线 性嵌入（ locally linear embedding, LLE）算法是流形学习中有效的非线性降维方法,它的优势在于只定义唯一的 参数,即邻域数。根据LLE算法的思想寻找样本数据的内在嵌入分布,并通过邻域数选取和降维后数据点之 间的距离调整,提高了数据集中离群点发现效率,同时利用离群点权值判别式进行权值数据判定,根据权值 的大小标识出数据集中的离群点,仿真实验的结果表明了该方法能够有效地发现高维数据集中的离群点。 与此同时,该算法具有参数估计简单、参数影响不大等优点,该算法为离群点检测问题的机器学习提供了一 条新的途径。     

基于随机投影的正交判别流形学习算法

提出一种基于流形距离的局部线性嵌入算法,以流形距离测度数据间的相似度,选择各样本点的近邻域,解决了欧氏距离作为相似性度量时对邻域参数的敏感性.在MDLLE算法中引入最大边缘准则(maximum margin criterion,MMC)来构建最优平移缩放模型,使得算法在保持LLE局部几何结构的同时,具有MMC准则判别能力.通过正交化低维特征向量可消除降维过程中的噪声影响,进而提高算法的监督判别能力.由实验结果得到,所提出的方法具有良好的降维效果,能有效避免局部降维算法对邻域参数的敏感.随机投影独立于原始高维数据,将高维数据映射到一个行单位化的随机变换矩阵的低维空间中,维持映射与原始数据的紧密关系,从理论上分析证明了在流形学习算法中采用随机投影可以高概率保证在低维空间保持高维数据信息.     

一种自适应的高维离群点识别方法

针对传统的基于距离的离群点识别方法难以直接有效地应用于高维数据且识别效果受参数影响的问题,本文提出了一种自适应的高维离群点识别方法,该方法利用经遗传算法优化的高斯受限玻尔兹曼机将高维数据非线性地映射到低维空间,然后通过自适应的离群点识别方法在低维数据空间进行离群点识别。采用UCI高维数据和中药高维数据进行验证实验,实验结果表明自适应的高维离群点识别方法能自适应地、有效地识别出高维数据中的离群点。     

基于高维数据的聚类研究综述

随着互联网的发展,数据变得越来越复杂,数据维度也向多维化发展,实际应用中,高维数据愈加普遍,在高维数据中发现数据之间的关系也越来越重要。论文介绍了处理高维数据的应用背景及研究意义,研究分析了当前处理高维数据的聚类分析和常见降维方法的研究现状以及存在的问题,并总结了主成分分析、线性判别式以及局部线性嵌入三种主要降维算法的思想、相应算法的发展现状、存在的缺点,最后指出在高维数据聚类分析方面还需要注意的几个问题及今后的发展方向。     

一种基于两步降维和并行特征融合的表情识别方法

在采用特征融合方法进行人脸表情识别时,通常会产生高维特征问题.针对这一问题,提出一种基于两步降维和并行特征融合的表情识别新方法.利用主成分分析法(principal component analysis,PCA)分别对待融合的两类特征在实数域进行第一次降维,将降维后的特征进行并行特征融合;为了解决在并行融合过程中产生的高维复特征问题,提出一种基于酉空间的混合判别分析方法(unitary-space hybrid discriminant analysis,unitary-space HDA)作为酉空间的特征降维方法.该方法是实数域混合判别分析法在酉空间内的扩展,并兼顾了复特征数据的类间判别信息及全局描述信息.对局部二值模式(local binary pattern,LBP)和Gabor小波特征进行融合,并在JAFFE和CK+表情数据集上开展对比实验.实验结果表明,该方法具有较好的高维复特征数据降维能力,并且有效提高了表情识别率.     

DBM-ELM深层网络模型

使用深层限制波尔兹曼机实现高维数据非线性降维,再结合极速学习机算法,提出了一种复合的DBMELM深层网络模型.该模型在复杂高维数据的分类问题上,能较好的将高维数据简化到低维空间,进而得到较好的分类效果,实现复杂函数的表示.最后在人脸和手写数字识别实验上得到了很好的证明.     

结合PCA的t-SNE算法的并行化实现方法

为了提高大数据环境下高维非线性数据的处理速度和精确度,提出一种结合主成分分析(PCA)的基于t分布的随机近邻嵌入(t-SNE)算法.首先,通过主成分分析法对原始数据进行预处理,去除噪声点;然后,结合t-SNE算法,构建K最邻近(K-NN)图,以表示高维空间中数据的相似关系;最后,在Spark平台上进行并行化运算,并在BREAST CANCER,MNIST和CIFAR-10数据集上进行实验.结果表明:文中算法完成了高维数据至低维空间的有效映射,提升了算法的效率和精确度,可应用于大规模高维数据的降维.     

拉普拉斯矩阵在聚类中的应用

高维数据受冗余数据和噪声数据的影响,聚类效率和准确率低,基于拉普拉斯矩阵的特征值和特征向量的特点,介绍了一种适用于高维数据的新的聚类中心选择算法,算法将拉普拉斯矩阵用于候选聚类中心选择前的数据降维处理,经过对数据进行降维处理,提高了候选聚类中心的准确性,增大了聚类准确率,扩大了聚类数据的种类范围.在10个包含不同数量样本、维度、类别数的数据集上进行了聚类分析,实验结果表明了基于拉普拉斯降维的新聚类中心选择方法的有效性.     

线性EIV模型参数的LASSO估计方法

基于结构风险最小化原则,提出了可以实现高维数据降维的线性EIV模型参数的LASSO估计(LE)方法,并给出了其数值解的迭代算法.为说明LE方法的有效性,通过实证与WTLS、LS两种方法进行了对比分析.结果表明,LE方法能够明显提高预测精度,具有更强的泛化能力,同时可以实现变量选择,达到高维数据降维的目的.     

类保持投影

给出了一种高维数据可视化方法——类保持映射．即在对高维数据投影过程中，强调类的数目尽量保持．在对原数据点间距离加以适当权重后，这种投影方向给出了距离损失最小的二维构图．模拟表明此程序是主分量分析的扩展，且优于塞曼算法．