基于残差自然幂法的增量线性判别分析方法

提出了将增量线性判别分析问题(LDA)转化为两个增量主元分析(PCA)问题的算法框架.为加速算法的收敛速度,推导了增量LDA中训练样本的类内离散度矩阵和协方差矩阵的无损实时更新公式,并在此基础上提出了一种基于残差协方差矩阵的自然幂增量PCA算法.将该增量PCA方法与基于双PCA结构的增量LDA算法框架相结合,实现了数据...     

主分量分析法和K-近邻法应用于基因芯片数据分析

应用主分量分析法和K-近邻法对基因芯片(微阵列)数据进行分析.主分量分析法是一种提取海量数据有效特征的有效方法 ,可以获得与原来基因芯片数据更为接近的成分的提取特征的效果.实验结果 表明,用主分量分析法预先对数据处理可以提高基因芯片数据分析的准确性.     

一种适于高维小样本数据的线性判别分析方法

针对高维小样本数据的类（模式）内离散度矩阵常为奇异,提出了一种改进的线性判别分析方法ModLDA。它通过嵌入偏最小二乘算法,完成投影方向矢量的稳健估计,进而提取出若干个特征变量。而后基于特征变量张成的低维空间,构造样本类别的线性判别函数。在实证中,将ModLDA应用于药物光谱数据的化学模式识别,结果显示ModLDA方法判别能力明显优于其他方法。     

基于PCA和LDA融合的手写数字识别方法

提出一种融合主成分分析(PCA)和线性判别分析(LDA)的手写数字识别方法.由于PCA能减少不同特征间的相关性和冗余性,而LDA获得的特征子空间具有良好的判别能力,对PCA和LDA特征子空间进行融合能实现两者优势互补,提高手写字符分类性能.实验结果表明, 提出的方法能有效提高手写数字的识别率.     

线性判别在非高斯数据上的推广

提出了一种求解两类线性判别边界问题的有效方法,该算法既可避免传统线性判别的高斯假定,又可与之保持方向的一致性.但在具体求解中只需用最小二乘法.从实际的模拟中可以看到,这种方法的解可以有效地减少训练样本的误判率.     

一种基于高斯过程的非线性PLS建模方法

提出了一种基于高斯过程(GP)和偏最小二乘法(PLS)的非线性PLS方法(GP-PLS),以更加有效地处理过程非线性、多输入和数据共线性等复杂特性,提高模型的推广能力和精度。该方法首先采用PLS进行特征提取,再用GP建立PLS的内部模型,因而具有GP与PLS的优点。对工业丙烯腈生产过程丙烯腈收率软测量建模的应用表明,采用该方法建立的软测量模型在模型精度、推广能力等方面明显优于一些传统软测量建模方法,满足工业现场应用要求。     

基于PCA和KPCA特征抽取的SVM网络入侵检测方法

提出一种新颖的基于特征抽取的异常检测方法,应用主分量分析(PCA)和核主分量分析(KPCA)抽取入侵特征,再应用支持向量机(SVM)检测入侵。其中PCA对输入特征做线性变换,而KPCA通过核函数进行非线性变换。利用KDD 99数据集,将PCA-SVM、KPCA-SVM与SVM、PCR、KPCR进行比较,结果显示:在不降低分类器性能的情况下,特征抽取方法能对输入数据有效降维。在各种方法中,KPCA与SVM的结合能得到最优入侵检测性能。     

多相体系中固含率的水听器检测

通过水听器检测技术,结合偏最小二乘法(PLS)分析,实现了对气液固三相搅拌釜内固含率的检测.通过对水听器信号的特征分析得出了固体运动的特征频段,发现PLS建模方法能够从物理意义上反映固体运动的特征频段,并建立了PLS回归模型的固含率.结果表明,模型所得固含率预测值与真实值的相关系数大于0.89,平均相对误差小于1.02％,预测均方差小于1.73％,具有较好的预测效果.     

基于内部非线性映射模型PLS算法的比较研究

本文从线性偏最小二乘（PLS）算法出发对基于内部非线性映射模型的PLS算法的思想本质进行深入的剖析和探讨。结合拟合非线性过程的实际问题,从拟合精度、计算复杂度两方面对基于二次函数和神经网络作为内部模型的PLS方法以及基于误差反馈调整的PLS算法进行了比较,在此基础上对不同的非线性PLS算法的应用提出了若干指导性建议。     

基于改进PCA的DOA估计方法

提出了一种改进的主分量分析迭代算法,进行了仿真实验,得出的结论为本算法在估计弱信号性能时要比多重信号分类算法方便。     

高维数据分类中的特征降维研究

以高维分类为目标,从分类的准确率与模型解释性角度探讨了降维的必要性,分析了特征选择与抽取2类方法特点,并对常用的特征抽取方法,包括主成分分析(PCA)、偏最小二乘(PLS)和非负矩阵分解(NMF)进行了阐述.考虑到约减后的数据缺乏稀疏性与可解释性,提出了基于稀疏正则化的特征抽取模型,为高维特征降维提供了一种新思路.     

多步骤降维的肿瘤特征基因选择方法

针对基因芯片数据量大、样本数低和基因维数高的特点,提出了一种对基因芯片数据进行多步骤降维处理的分类方法.第一步,采用基因表达差异显著性分析方法(SAM)筛选得到差异表达基因子集.第二步,采用支持向量机(SVM)分类器对该差异表达基因子集进行进一步的分类降维.将该方法用来处理大肠癌和白血病数据集,得到了数量较少而分类能力较强的特征基因子集.实验结果证明该方法可以快速有效地筛选肿瘤特征基因.     

Analysis and Experiments on Two Linear Discriminant Analysis Methods

Foley-Sammon linear discriminant analysis （FSLDA） and uncorrelated linear discriminant analysis （ULDA） are two well-known kinds of linear discriminant analysis. Both ULDA and FSLDA search the kth discriminant vector in an n - k ＋ 1 dimensional subspace, while they are subject to their respective constraints. Evidenced by strict demonstration, it is clear that in essence ULDA vectors are the covarianceorthogonal vectors of the corresponding eigen-equation. So, the algorithms for the covariance-orthogonal vectors are equivalent to the original algorithm of ULDA, which is time-consuming. Also, it is first revealed that the Fisher criterion value of each FSLDA vector must be not less than that of the corresponding ULDA vector by theory analysis. For a discriminant vector, the larger its Fisher criterion value is, the more powerful in discriminability it is. So, for FSLDA vectors, corresponding to larger Fisher criterion values is an advantage. On the other hand, in general any two feature components extracted by FSLDA vectors are statistically correlated with each other, which may make the discriminant vectors set at a disadvantageous position. In contrast to FSLDA vectors, any two feature components extracted by ULDA vectors are statistically uncorrelated with each other. Two experiments on CENPARMI handwritten numeral database and ORL database are performed. The experimental results are consistent with the theory analysis on Fisher criterion values of ULDA vectors and FSLDA vectors. The experiments also show that the equivalent algorithm of ULDA, presented in this paper, is much more efficient than the original algorithm of ULDA, as the theory analysis expects. Moreover, it appears that if there is high statistical correlation between feature components extracted by FSLDA vectors, FSLDA will not perform well, in spite of larger Fisher criterion value owned by every FSLDA vector. However, when the average correlation coefficient of feature components extracted by FSLDA vectors is at a low level, the performance of FSLDA are comparable with ULDA.     

基于模糊点数据的线性回归模型在判别分析中的应用

在经典回归分析理论中,训练数据在回归方程的构建中是被同等对待的.然而,在许多实际问题中,训练数据的作用是不同的,通常有些训练数据比其他数据更重要.为此,给每个训练数据赋予一个置信权重(这里的样本称为模糊点样本数据),并且给出了确定该置信权重的几种常用方法,讨论了基于模糊点数据的线性回归模型用于判别分析的情况.最后给出了数值例子.     

基于CCA的增强线性鉴别分析

为了有效地融合Fisher线性鉴别分析与最大散度差鉴别分析所抽取的特征，得到更加全面反映原始样本的鉴别特征集，提出了基于典型相关分析的增强线性鉴别分析方法．利用Fisher线性鉴别分析和最大散度差鉴别分析方法提取两组鉴别特征，根据典型相关分析对这两组特征进行融合，获得更具鉴别力的典型鉴别特征．经过ORL标准人脸库实验，验证了所提算法的有效性．     

基于CCA的增强线性鉴别分析

为了有效地融合Fisher线性鉴别分析与最大散度差鉴别分析所抽取的特征,得到更加全面反映原始样本的鉴别特征集,提出了基于典型相关分析的增强线性鉴别分析方法.利用Fisher线性鉴别分析和最大散度差鉴别分析方法提取两组鉴别特征,根据典型相关分析对这两组特征进行融合,获得更具鉴别力的典型鉴别特征.经过ORL标准人脸库实验,验证了所提算法的有效性.     

基于SOM网络的基因表达数据聚类分析

提出了用自组织映射(SOM)网络对生物信息学中基因表达数据进行聚类分析的方法。用SOM网络对酵母基因表达数据进行聚类。通过对映射结果的分析,表明SOM网络有较高的分类正确率,用于基因表达数据的聚类分析是行之有效的。     

一种基于线性鉴别分析的GIS局部放电模式识别

根据GIS设备绝缘缺陷放电形式和特点,设计了4种典型的GIS缺陷模型,构造了局部放电灰度谱图;针对GIS局部放电及其缺陷特点,提出一种基于局部放电图像的主分量分析一线性鉴别方法,即首先进行主分量分析,将数据从超高维空间降至低维空间,再提取统计不相关的最优鉴别矢量集,采用最小距离分类器进行模式识别,识别结果表明该方法对GIS各类模拟缺陷的正确识别率较高,效果良好．