边界监督多重集典型相关分析

多重集典型相关分析(multiset canonical correlation analysis,MCCA)仅仅考虑了多组数据间的相关性信息,不能有效地反映样本数据的几何结构与鉴别信息,因此为了解决这个问题,首先在LDA思想的启发下,构建了监督多重集典型相关分析(supervised multiset canonical correlation analysis,SMCC)的理论框架,并以此为基础,结合边界Fisher分析(marginal fisher analysis,MFA),提出了边界监督多重集典型相关分析(marginal SMCC,MSMCC).该算法的基本思想是在最大化数据相关性的同时,还要最大化组内数据的类间离散度以及最小化组内数据的类内离散度.在人脸图像与目标数据库上的实验结果验证了所提算法的有效性.     

一种改进的增强组合特征判别性的典型相关分析

典型相关分析(CCA)是一种经典的多视角特征提取方法,可以从2个视角中查找特征集之间的线性相关关系.但CCA在做分类任务时具有多个缺点,一是CCA本身为无监督学习方法,做分类时没有利用样本的类信息,二是CCA仅考虑需要分类的目标数据,而忽略了与目标数据来自同一域的Universum数据的信息.因此人们提出增强组合特征判...     

有样本缺失的稀疏交叉视图的多重集典型相关分析

从融合多组特征的角度出发,以多重集典型相关分析算法(MCCA)为研究基础,通过稀疏保持自适应选择样本局部信息,然后通过在同类样本之间计算权重矩阵,将样本类别信息嵌入到算法中,再利用多种视图之间的交叉相关项,克服不同视图样本必须成对出现的局限,提出一种有样本缺失的稀疏交叉视图的多重集典型相关分析算法(multiset canonical sparse cross-view correlation analysis with missing samples,CSMCCAM)。在手写体数据集和CENPARMI数据库上验证本文的算法,得到CSMCCAM算法分类精确度优于LPMCCAM等典型相关分析算法,并且对缺失样本数目不敏感。     

基于深度典型相关性分析的跨媒体语义检索

基于典型相关性分析的跨媒体检索是一种将不同媒体特征通过相关性分析映射到同构的最大相关子空间,并在子空间中完成跨媒体数据间的相似性比较和检索的方法.典型相关性分析(canonical correlation analysis,CCA)是一种线性模型,并不能很好地挖掘跨媒体数据中的复杂相关关系.为此针对深度典型相关性分析(deep CCA,DCCA)的结构进行改进,使用隐含狄利克雷分布(latent Dirichlet allocation,LDA)发现文本语义信息并学习语义映射,提出了跨媒体深度相关性学习模型(cross-media correlation learning with deep canonical correlation analysis,CMC-DCCA)以及跨媒体语义相关性检索方法(cross-media semantic correlation retrieval,CMSCR).在维基百科文本图像数据集上的实验证明,CMC-DCCA模型能够较好地挖掘跨媒体数据中的复杂相关关系,CMSCR在跨媒体检索中具有较好的性能.     

基于类间损失和多视图融合的深度嵌入聚类

针对深度嵌入聚类方法仅考虑类内关系及多视图聚类存在特征表示不足等问题,提出一种基于类间损失和多视图特征融合的深度嵌入聚类方法,该方法在深度嵌入聚类的损失函数中引进一个新的正则项提高类判别性.先通过自动编码器提取多视图数据的特征表示,对不同视图的特征表示进行融合得到公共表示,基于此得到数据的软分配分布和辅助目标分布;再对公共表示和聚类分配进行联合优化得到最终的聚类结果.在多视图数据集上的实验结果表明,该方法能有效提高聚类性能.     

增强典型相关分析及其在多模态生物特征识别特征层融合中的应用

提出了增强典型相关分析(ECCA)的概念,并将ECCA用于多模态生物特征的特征层融合.ECCA不仅保持了CCA的本质特征,而且利用了类别信息,能够找到两个特征空间对分类更有意义的投影方向.开集测试表明,ECCA用于特征层融合时,可以获得比广义典型相关分析、串行融合、并行融合特征层融合算法和加法规则、乘法规则等分数层融合算法更好的性能.     

手写数字识别中组合式神经网络的构建方法

将聚类技术和遗传算法相结合, 提出一种基于相似度传播算法和遗传算法的神经网络集成方法应用于手写数字识别问题. 先分别利用主成分分析和Fisher线性判别分析对数据集进行特征提取, 得到两类特征数据集, 再利用Bagging方法分别为这两类特征数据集训练简单的BP神经网络, 然后采用相似度传播算法对这些BP神经网络进行聚类, 找到作为类簇中心的网络(中心网络), 最后利用遗传算法对所有中心网络的权值进行训练, 将中心网络进行加权线性集成作为最终分类器. 在标准手写数字数据集MNIST上进行测试的实验结果表明, 该方法的识别率优于单个神经网络的识别率, 并兼顾了分类效率.     

基于自表示和投影映射的不完整多视图聚类

针对不完整多视图聚类存在的缺陷,提出一种融合自表示和投影映射的统一框架.首先,利用自表示和样本存在指示矩阵学习一致相似图,它反映了样本间的公共相似关系;其次,利用投影映射将样本矩阵投影到超球面上,得到公共低维表示;最后,将两者通过谱表示嵌入在一起,解决了因多视图数据缺失引起的不完整多视图聚类问题.该算法在真实数据集上的实验结果优于其他算法,证明了算法的有效性.     

用主成份提取进行数据库聚类预处理

按照相关性最小原则提出数据库主成份提取的聚类预处理方法(DCP PCE)对高维数据进行降维,以数据对象变异最大方向的投影作为特定数据对象集的主成份,实现分层次主成份聚类提取.用DCP PCE方法验证主成份对于原有信息全面覆盖的特性,同步解决了综合变量覆盖和降维问题,降低了数据对象集合的相异度和维度,实现了数据对象集合的聚类归约．将聚类分析引入高校数据资源的预处理环节,给出应用实例,为深入探索相关模式提供有效的分析方法．     

基于分块FLD的图像特征提取方法

提出了基于分块Fisher线性鉴别（Fisher＇s Linear Discriminant,FED）的特征提取方法,先对图像矩阵进行分块,将分块得到的子图像矩阵直接用来构造类内和类间离散度矩阵,然后利用Fisher鉴别函数取极大值时得到的最优投影方向进行图像的特征提取。分块FLD方法是二维FLD方法的推广,该方法可以提取每一单元块的局部特征,在ORL人脸库上的实验结果表明该方法在人脸识别性能方面优于二维FLD方法。     

基于张量子空间的三维模型特征提取及检索方法

为提高三维模型的检索效率, 针对三维模型特征提取方法进行了研究, 在多线性主成分分析(MPCA:Multi-Linear Principal Component Analysis)的基础上, 提出了一种加权多线性主成分分析(WMPCA: Weighted Multi-Linear Principal Component Analysis)方法, 并将其应用于三维模型特征提取中。 该方法首先将三维模型转化为多角度的二维投影图像, 然后从多方向上通过张量进行特征提取, 最后将提取到的特征应用到三维模型检索中。 对 Princeton Shape Benchmark 的实验表明, 该特征提取方法比经典的形状分布方法平均检索效率提高7%, 比传统的 MPCA 特征提取方法的平均检索效率提高 3%。     

一种判别极端学习的相关反馈图像检索方法

针对基于支持向量机(SVM)的相关反馈图像检索方法计算复杂度高、缺乏判别能力以及图像特征提取不充分的问题,提出一种基于判别极端学习的相关反馈图像检索(DELM)方法。在图像特征提取阶段,通过连接图像的颜色、纹理及边缘直方图实现图像的特征提取,解决了以往多数检索方法仅使用单一图像特征造成的图像描述不充分的问题;在检索的反馈阶段,将最大边际准则(MMC)引入到极端学习机中,通过分析极端学习机隐层空间的类内离散度和类间离散度得到包含判别信息的分类模型,并给出降维和不降维两种形式,以提高相关反馈图像检索系统的检索能力。DELM方法能有效应用于基于内容的图像检索中,并显著提高图像检索的性能。实验结果表明,DELM方法和采用SVM、ELM和最小类别方差ELM的方法相比,在Corel-1K数据集下检索平均准确率分别提高了11.06%、5.28%和6.40%。     

利用特征信息的加权典型相关分析算法

典型相关分析（canonical correlation analysis,CCA）是一种寻求同一对象的2组变量之间最大相关性的多元统计方法,通过线性组合各组特征提取出对应的典型相关特征。但在简单地线性组合各组特征时,传统的CCA并未考虑特征的本征属性信息,无法区分主要特征和次要特征。充分运用特征本身的方差信息和提取后的典型相关信息,提出一种利用特征信息的加权典型相关分析（weighted canonical correlation analysis,WCCA）。一方面,利用方差信息对原始特征进行加权处理,使得原始特征的重要性更加具有区分度;另一方面,利用典型相关性对提取后的特征进行加权处理,既进一步增强了特征的主次关系,又保留了小相关性的特征信息。综合这2方面的特征信息,WCCA提取后的特征在分类和识别上更具有表现力。在ORL和AR人脸数据库以及对象识别数据库COIL20上的实验结果验证了该方法的有效性。     

利用视觉事件求解多面体线框模型主视图方向

文中提出了正投影下多面体产生的4种简单视觉事件的定义,并分析了各视觉事件的计算复杂程度,为空间任意位置的多面体线框模型找到了一种求解最佳主视图投影方向的方法。该方法利用视觉事件求解投影方向,向各投影方向投影生成视图,再利用点点型和线线型视觉事件的权重值选出最佳的主视图投影方向。通过在matlab中编程运行表明,该方法计算简单,准确率高,易于实现,选出的主视图投影方向符合人们的制图习惯。     

模糊聚类局部保存投影在视觉数据特征提取中的应用

为解决在处理和计算视觉大数据中遇到的速度瓶颈,提出了一种模糊聚类局部保存投影算法用于视觉数据的特征提取应用中。首先,通过某种方法对图像进行分割;接着,将通过统计方法对图像进行特征描述得到相应的视觉数据;然后,通过提出的模糊聚类局部保存投影对视觉数据进行特征提取;最后,通过Ada Boost对提取后的特征进行识别分类。经在国际公开的UCAS-AOD和Flower-102数据集上进行大量实验,经实验对照,结果验证了模糊聚类局部保存投影算法在视觉数据特征提取中的有效性。     

基于改进信息增益的特征选择方法研究

信息增益是最有效的特征选择方法之一,但在处理不平衡数据集时其分类性能却急剧下降。针对这一不足,文章从三个方面对传统信息增益进行改进,提出一种改进的信息增益特征选择方法。首先,去除特征项不出现因子以降低对分类的干扰;其次,引入最大词频比因子以抑制低频词的干扰;最后,融入类内词频分布差异离散度和类间分布差异加权离散度因子以衡量特征项在类内和类间的分布差异。在不平衡数据集上的实验结果表明,改进的信息增益不仅可以从很大程度上改善少数类的分类性能,也使总体分类性能得到了明显提升。     

基于分类概率保持的最大间距准则人脸识别方法

针对最大间距准则方法在特征提取中没有考虑原始样本的分布而执行硬分类标准的问题,提出了一种基于分类概率保持的最大间距准则人脸识别方法.首先,计算每个样本的分类概率,并且利用分类概率重新定义了样本的类内和类间散度矩阵;然后利用最大间距准则得到最优投影矩阵;最后将原始样本投影到低维特征空间,保持样本分布信息.在ORL、Yale及FERET人脸数据库上的实验表明,该方法在提高人脸识别率上是有效的.     

潜在表示学习框架下的低冗余多视图聚类算法

基于潜在空间学习的多视图聚类研究得到了较大发展,但其通常忽略了原始数据中冗余信息的存在可能会带来不理想的聚类结果。为解决这个问题,提出一种潜在表示学习框架下的低冗余多视图聚类算法。基于k-means的方法,直接从各视图数据学习其低维表示,由于该低维表示的各个特征相互正交,学习到的低维表示通常含有较少的冗余信息。基于潜在空间的假设,各视图的低维表示可由同一个潜在表示投影得到。将两者结合,就能得到一个具有低冗余信息的统一的潜在表示。设计了一个优化算法来求解目标问题,在多个公开数据集上的实验表明了该算法的有效性。     

基于最大散度差的保序分类算法

分类算法主要存在问题:(1)无法充分利用样本的分布特征;(2)无法保持样本的相对关系不变;(3)无法解决大规模分类问题。对此,提出了一种基于最大散度差的保序分类算法RPCM,该方法利用线性判别分析算法中的类间离散度和类内离散度来表征样本的分布特征,通过保持各类样本中心相对关系不变来实现样本相对关系不变。理论分析表明:RPCM的对偶形式与最小包含球等价。在核心向量机的基础上提出了RPCM-CVM算法,该算法可用来解决大规模分类问题,标准数据集上的比较实验验证了所提方法的有效性。