面向不平衡数据集的线性分类方法研究

近年来,面向不平衡数据集的分类器学习与推广问题越来越受到人们的关注,在此以机器学习数据库、美国邮政编码、2维元音等国际上典型的分类问题为应用背景,重点研究如何用线性分类器解决样本数不平衡的问题;对Fisher、伪逆和单层感知器等3种典型的线性分类器做了深入的研究,并将这3种线性分类方法应用到不平衡数据集的分类中;通过实验及分析,这些新方法对平衡数据集的线性分类起到了良好的分类效果。     

一种RBFN和FLD融合的说话人识别方法

提出一种新的可用于说话人识别的径向基函数网络(RBFN)阵列．RBFN网设计思想是在确定网络中心点之后采用最小线性方差作为目标函数解得最优权重,该方法并不能得到最优分类效果．使用Fisher目标函数,替代RBF中的误差目标函数来求取最优权重,用与文本无关的闭集说话人识别系统对该算法进行了验证,实验结果表明,该方法提高了RBF分类能力,比传统的RBF、算法以及ROLS算法具有更高的识别率,并在识别效果接近GMM方法的情况下计算量大幅度减少。     

Analysis and Experiments on Two Linear Discriminant Analysis Methods

Foley-Sammon linear discriminant analysis （FSLDA） and uncorrelated linear discriminant analysis （ULDA） are two well-known kinds of linear discriminant analysis. Both ULDA and FSLDA search the kth discriminant vector in an n - k ＋ 1 dimensional subspace, while they are subject to their respective constraints. Evidenced by strict demonstration, it is clear that in essence ULDA vectors are the covarianceorthogonal vectors of the corresponding eigen-equation. So, the algorithms for the covariance-orthogonal vectors are equivalent to the original algorithm of ULDA, which is time-consuming. Also, it is first revealed that the Fisher criterion value of each FSLDA vector must be not less than that of the corresponding ULDA vector by theory analysis. For a discriminant vector, the larger its Fisher criterion value is, the more powerful in discriminability it is. So, for FSLDA vectors, corresponding to larger Fisher criterion values is an advantage. On the other hand, in general any two feature components extracted by FSLDA vectors are statistically correlated with each other, which may make the discriminant vectors set at a disadvantageous position. In contrast to FSLDA vectors, any two feature components extracted by ULDA vectors are statistically uncorrelated with each other. Two experiments on CENPARMI handwritten numeral database and ORL database are performed. The experimental results are consistent with the theory analysis on Fisher criterion values of ULDA vectors and FSLDA vectors. The experiments also show that the equivalent algorithm of ULDA, presented in this paper, is much more efficient than the original algorithm of ULDA, as the theory analysis expects. Moreover, it appears that if there is high statistical correlation between feature components extracted by FSLDA vectors, FSLDA will not perform well, in spite of larger Fisher criterion value owned by every FSLDA vector. However, when the average correlation coefficient of feature components extracted by FSLDA vectors is at a low level, the performance of FSLDA are comparable with ULDA.     

采用Fisher线性判别分析进行MEG信号的分类

脑磁图(MEG)具有比脑电(EEG)信号更高的时空分辨率,可以作为输入信号建立脑-机接口系统.提出一种脑磁图的特征提取和分类方法,首先对MEG信号进行预处理,然后提取时域特征,最后采用Fisher线性判别分析进行分类.将该算法用于2008年脑-机接口数据竞赛的数据集Ⅲ,该数据集为一个典型的采用MEG信号的脑-机接口系统.离线分析结果表明,该算法取得了很好的分类准确率,对两个测试者(S1和S2)的分类正确率分别为5946%和4324%.与其他方法相比,该方法简单有效,运算速度快,具有较高的参考价值.     

基于Fisher线性判别式的层次文档分类

将文档按照主题进行层次分类,利用Fisher线性判别式的思想来提取每一类的正特征词和负特征词,给出基于Fisher线性判别式的层次文档分类算法（HDCF）。HDCF不仅克服一般层次分类算法中假定特征词之间必须满足独立性的条件,而且能处理一个文档涉及多个类的分类问题。在实验中,采用召全率和准确率2个指标与其它算法进行比较,结果表明：HDCF的效果好于其它算法。     

基于WFLD线性判别法的教学质量评估预警系统模型研究

讨论了FLD线性判别方法,然后对此方法进行了加权,分析了加权的fisher线性判别法形成,接着在基于此分类方法上,建立了教学质量评估预警系统的模型,为教学质量评估预警系统的设计与实现提供了理论依据。     

改进的线性判别分析算法及其在人脸识别中的应用

提出了一种改进的线性判别分析(LDA)算法,能有效地解决传统LDA算法的两个局限,即小样本问题及在多类情况下传统的Fisher准则非最优．该算法还能提高某一(几)个指定类别的分类率．这种算法的关键在于使用不损失“有判别力信息”的方法来降维,同时在传统的Fisher准则中引入加权函数,得到与分类率直接相关的改进准则．在ORL人脸数据库上的比较实验结果证实了该算法的有效性．     

基于DDCT与LDA的人脸特征提取方法

提出一种基于分块离散余弦变换(DCT)和线性鉴别分析的人脸特征提取方法。该算法对人脸图像进行DCT变换,根据图像块位置和能量分布选择不同的DCT高低频分量构建特征向量,再线性鉴别变换降低特征维数,提高特征的鉴别能力,并利用分类器进行特征的分类与识别。人脸库上的仿真结果验证了该方法的有效性。     

一类带跳的线性回归模型

针对普通的常系数线性回归模型存在预测误差较大的缺陷,对Hildreth-Houck模型进行修正,得到带跳的线性回归模型(LRMJ),对该模型中各参数进行估计,并对模型中被解释变量的数学期望与方差等统计性质进行讨论．最后将该模型运用于一个实际问题,证明该模型不仅可行而且能够得到比普通常系数线性回归模型更为精确的预测值。     

降秩多元线性模型参数阵的一类有偏线性估计

本文对降秩多元线性模型的参数阵提出了一类有偏线性估计，讨论了许多重要的性质，从而把降秩模型中参数阵的估计问题转化为满秩模型中参数阵的估计问题，为了讨论方便，我们给出了一种特殊情况；最后，讨论了多元线性模型参数阵的Ｂａｙｅｓ线性估计。     

线性等式约束下生长曲线模型回归系数线性估计的容许性

对于带有线性等式约束的生长曲线模型:Y=XBZ+ε,vec(ε)～(0,σ2UV)HB=0,本文在矩阵损失函数(d-KBL)(d-KBL)下给出了KBL在估计类l与l1中可容许性的充要条件。