核Foley-Sammon变换

在模式识别领域,基于Fisher判别准则的Foley-Sammon变换技术有很大的影响.但是线性判别并不总是最优的.文章提出了一种基于核技巧(Kernel tricks)的非线性的特征提取技术KFST(Foley-Sammon Transformwith Kernels)——通过引入核技巧,可以在特征空间中有效计算FST.特征空间中的线性特征提取对应于输入空间的非线性特征提取.试验表明,KFST比FST具有更好的特征提取能力.     

基于核Fisher鉴别分析的手指静脉识别

抽取最优鉴别特征是手指静脉识别中重要的一步,在提取小样本的高维手指静脉图像特征时,由于光照、温湿度、水平位移等因素的影响使得采集的静脉图像是非线性分布的,为此,提出了一种基于核Fisher鉴别分析（kernel Fisher discriminant analysis,KFDA）提取非线性特征的方法。该方法是利用一个核映射将原始输入空间变换到一个更低维的空间RN中,在此特征空间上用核类间散度阵和核类内散度阵作为Fisher线性判别准则(Fisher linear discriminant,FLD),来得到最佳非线性鉴别特征,根据此鉴别特征计算其相互间的欧式距离进行识别。实验结果表明,核Fisher方法与其他方法相比,具有较低的认假率(false accept rate,FAR)和较快的识别速度。     

基于核Fisher判别的复杂储层岩性识别研究

复杂储层中多种岩性均可作为储层,不同岩性的物性特征差异较大,分岩性解释复杂储层物性是求准物性较为有效的一种方法,但是不同岩性的测井特征相近,常规线性分类方法识别效果不理想,因为复杂储层的岩石识别中非线性分类特征占较大比例。针对这一问题,本文将Fisher判别分析(FDA)做核推广,形成核Fisher判别分析(KFDA),进一步利用Fisher判别中未提取的非线性信息,通过升维获得更多的非线性分类特征,然后再通过降维来提取利于岩性分类的特征。文章通过实验对核Fisher在数据预处理、关键参数的选取等方面进行了详细介绍,并将核Fisher方法与其它分类方法进行比较,验证了核Fisher方法的岩性识别能力,而对于不同岩性间的差异相似关系,造成岩性识别精度低的情况,提出了分级核Fisher判别分析的思路,研究证明利用分级核Fisher判别分析的思路可进一步提高岩性的识别精度。     

基于核Fisher判别的复杂储层岩性识别

复杂储层中多种岩性均可作为储层,不同岩性的物性特征差异较大,分岩性解释复杂储层物性是求准物性较为有效的一种方法,但是不同岩性的测井特征相近,常规线性分类方法识别效果不理想,因为复杂储层的岩石识别中非线性分类特征占较大比例。针对这一问题,本文将Fisher判别分析(FDA)做核推广,形成核Fisher判别分析(KFDA),进一步利用Fisher判别中未提取的非线性信息,通过升维获得更多的非线性分类特征,然后再通过降维来提取利于岩性分类的特征。文章通过实验对核Fisher在数据预处理、关键参数的选取等方面进行了详细介绍,并将核Fisher方法与其它分类方法进行比较,验证了核Fisher方法的岩性识别能力,而对于不同岩性间的差异相似关系,造成岩性识别精度低的情况,提出了分级核Fisher判别分析的思路,研究证明利用分级核Fisher判别分析的思路可进一步提高岩性的识别精度。     

一种改进的核Fisher鉴别分析方法

核Fisher鉴别分析(KFDA)已成为抽取非线性特征的最有效方法之一.针对在解决两类模式分类问题中KFDA只能获得一个鉴别矢量的弱点,提出了一种改进的核Fisher鉴别分析(MKFDA)方法,该方法对特征空间中的两类间离散度进行了重新估计,通过使用核类间散布矩阵的一种特殊形式,我们可以得到最多N(N为训练样本数)个鉴别矢量,从而提高了两类模式问题的分类性能.在IRIS数据上的实验结果验证了MKFDA方法的有效性.     

一种基于支持向量机的PCA分析方法

提出一种更简洁的用于主要成分分析 (PCA)及其非线性分析的公式 .给出一个含有规则化项的原始权空间的约束最大优化问题 ,应用核技巧来解决其对偶问题 .该公式同最小二乘支持向量机 (LS SVM )分类器相似 .遵循常规的SVM方法 ,将输入空间的数据映射到高维特征空间 ,然后使用核技巧 ,利用主对偶约束最大优化来解释线性和非线性PCA分析问题 .其优点在于对偶问题适用于高维输入空间 ,而原始问题在N很大时能被更好地解决 .     

KPCA-KPLS方法在pH中和过程建模中的应用

针对化工过程中的具有严重非线性、不确定性、时变性的复杂pH中和过程系统建模问题,提出一种基于核主元分析(KPCA)与核偏最小二乘(KPLS)相结合的建模方法.在高维特征空间内,该方法通过KPCA有效地提取输入数据的非线性主元,利用KPLS方法将输入变量投影在潜在变量上,再用输入与输出变量之间的协方差信息提取潜在特征建立pH中和过程模型.为验证其有效性,将KPCA-KPLS方法应用到弱酸强碱中和过程、强酸强碱中和过程实例中,并与核偏最小二乘、核主元分析_支持向量机(KPCA-SVM)、核极限学习机(KELM)、极限学习机(ELM)、最小二乘支持向量机(LSSVM)、SVM等方法进行比较.实验结果表明:KPCA-KPLS方法具有很高的动态建模精度.     

基于核Fisher判别分析的粮虫特征压缩方法

针对粮仓害虫种类多、类别之间相似度比较高的特点,提出基于核Fisher判别分析的粮虫特征压缩方法.利用高斯径向基核函数,对特征选择后的10维原始数字特征进行核Fisher判别分析,即通过非线性变换将样本数据从输入空间映射到高维特征空间,然后在高维特征空间进行特征提取.从粮虫分类效果方面,将KFDA法与FDA法、PCA法和KPCA法3种方法进行了比较分析.应用KFDA法提取的前4个特征,由最近邻分类器对粮仓中常见的9类粮虫进行分类,验证集的识别率为93.33%.结果表明:KFDA法对粮虫特征的非线性比较敏感,在有效降低特征维数的同时,还提高了类别之间的可分性.     

目标识别中特征空间核矩阵收缩方法

线性分类与非线性分类是模式识别领域的基础性课题．核方法处理非线性分类问题有其独特的优势,核矩阵反映了输入样本在特征空间的位置关系,决定了样本在特征空间的可分性．针对特征空间线性不可分问题,提出了特征空间核矩阵收缩的新概念和新方法．首先定义了特征空间中样本数据的收缩因子以及样本数据相对于各类类心的收缩方法;然后理论推导得到样本数据收缩后的核矩阵,并且证明收缩后的数据可分性能更优．最后的实验从核矩阵的性能度量以及核矩阵的分类性能两个方面验证了收缩后的核矩阵性能比收缩前性能更优．     

单实例分类算法研究

针对不平衡分类问题的极端情况,即用于训练的样本极少甚至只有一个实例,该文提出了一种单实例分类算法,这种方法使用球面作为分类面,在目标类的单实例在球内和反类尽量位于球面外的约束条件下,最大化该分类球面的半径,该方法能够有效地处理线性可分的数据分布.当输入样本分布结构呈高度非线性时,该算法通过核映射将低维输入空间中的非线性可分问题变换为高维特征空间中可能的线性可分问题,并以内积形式刻画,最终在特征空间上通过核技巧获得原问题的解决.通过对标准数据集和实际数据集的实验,验证了单实例分类算法在处理数据不平衡问题上的有效性.     

Nonlinear Spline Kernel-based Partial Least Squares Regression Method and Its Application

Inspired by the traditional Wold＇s nonlinear PLS algorithm comprises of NIPALS approach and a spline inner function model, a novel nonlinear partial least squares algorithm based on spline kernel （named SK-PLS ） is proposed for nonlinear modeling in the presence of multicollinearity. Based on the inner-product kernel spanned by the spline basis functions with infinite number of nodes, this method firstly maps the input data into a highdimensional feature space, and then calculates a linear PLS model with reformed NIPALS procedure in the feature space and gives a unified framework of traditional PLS ＂kernel＂ algorithms in consequence. The linear PLS in the feature Space corresponds to a nonlinear PLS in the original input （primal） space. The good approximating property of spline kernel function enhances the generalization ability of the novel model, and two numerical experiments are given to illustrate the feasibility of the proposed method.     

A Novel Extension of Kernel Partial Least Squares Regression

Based on continuum power regression(CPR) method, a novel derivation of kernel partial least squares(named CPR-KPLS) regression is proposed for approximating arbitrary nonlinear functions.Kernel function is used to map the input variables(input space) into a Reproducing Kernel Hilbert Space(so called feature space),where a linear CPR-PLS is constructed based on the projection of explanatory variables to latent variables(components). The linear CPR-PLS in the high-dimensional feature space corresponds to a no...     

基于卡方核的正则化线性判别行人再识别算法

针对行人再识别过程中存在获取的训练样本较少,真实样本分布不一定线性可分和算法识别率低的问题,提出基于卡方核的正则化线性判别分析行人再识别算法(KRLDA,kemel regularized linear discriminant analysis)。该算法首先利用核函数将样本从线性不可分的原始空间映射到线性可分的高维特征空间,然后在高维空间中构造描述数据之间邻近关系的散度矩阵,再利用正则化线性判别分析获得高维到低维空间的投影矩阵,使得数据在低维空间能够保持高维空间的可分性,从而提升行人再识别算法的识别率。在VIPeR、iLIDS、CAVIAR和3DPeS数据集上,实验结果表明所提出的算法具有较高识别率。     

基于改进核主元分析的故障检测

针对电主轴系统特点,提出基于改进核主元分析(KPCA)的故障检测方法,引入混合核函数的定义,将多项式核和径向基核的混合核方法与主元分析方法(PCA)相结合,解决采用单一核函数诊断故障时的高误诊率问题.首先对数据进行预处理,然后使用混合核函数对数据矩阵进行映射,映射到高维特征空间,使非线性数据变量变为线性数据变量,并使用PCA提取变量数据的高维空间相关特征确定主元个数,最后根据混合非线性主元特征计算出的T2和Q统计量,实现在线故障检测.该方法改进传统核函数的选取方法,充分考虑工业过程中的非线性,更精确地描述工业过程特性,可以准确、有效地检测出电主轴系统故障.对田纳西-伊斯曼(TE)过程以及电主轴系统的应用实例证明该方法的可行性.     

PSO高斯诱导核模糊c均值聚类算法*

为了避免陷入梯度法局部极值以提升模糊聚类算法聚类性能,提出PSO高斯诱导核模糊c均值聚类算法(PSO Gauss-induced kernel fuzzy c-means clustering algorithm, PSO-GIKFCM)。首先将高斯核函数应用于模糊c聚类算法(FCM)目标函数,得到高斯核模糊聚类目标函数。然后在高斯核特征空间和输入空间利用梯度法得到两空间聚类中心,将特征空间聚类中心与样本的内积核矩阵代入输入空间聚类中心,从而得到高斯诱导核的聚类中心。最后在解空间利用粒子群算法(PSO)对模糊隶属度进行寻优估计,并结合目标函数和聚类中心构成PSO-GIKFCM参数估计迭代流程。PSO-GIKFCM算法基于粒子群算法保证其收敛性,聚类中心仅为模糊隶属度的函数,PSO生物进化算法在解空间全局寻找优解,且将模糊指标扩展为大于0的情况。通过仿真实验验证了所提出算法的有效性。     

基于核函数主元分析的机械设备状态识别

研究了核函数主元分析在机械故障模式分类中的应用，通过计算原始空间的内积核函数实现原始数据空间到高维数据空间的非线性映射，再对高维数据作主元分析，求取更易于分类的核函数主元，实验表明，核函数主元分析更适于提取故障信号的非线性特征，能有效区分不同的故障模式，可以应用于机械设备的状态识别。     

支持向量机的研究

支持向量机可以引入特征变换将原空间的非线性问题转化为新空间的线性问题。本文在论述支持向量机模型创建的基础上,着重对核函数的选取及参数的确定进行了研究,通过实验数据表明,文中创建的组合核函数,在人体下肢动作模式识别中,有较高的识别率。     

基于双空间金字塔匹配核的图像目标分类

提出一种基于局部特征的双空间金字塔匹配核(bi-space pyramid match kernel,BSPM)用于图像目标分类.利用局部特征在特征空间和图像空间建立统一的多分辨率框架,以便较好地表达图像的语义内容.该方法同时在特征空间和图像空间建立金字塔型结构,通过适当匹配可以得到正定核函数,该函数具有线性计算复杂度,可以运用于基于核的学习算法.将BSPM嵌入支持向量机对公共数据库中图像目标进行分类,实验结果表明该方法对图像具有良好的分类能力,优于词汇导向的金字塔匹配核和空间金字塔匹配核.