一种基于非线性特征提取的数据降维算法

为了获得良好的图像分类效果,需要采集尽可能多的图像数据特征,进而使得图像原始特征空间的维数越来越高,造成维数灾难.特征提取是通过线性或者非线性映射,将高维特征空间映射到低维空间,从而降低数据维数.现有的特征提取算法往往忽视了数据本身特有的复杂结构以及非线性因素,造成映射方向的模糊以及分类精确度的缺失.充分考虑了图像数据本身的二维特性,通过改进的非线性特征提取方法、流形学习方法来提取图像特征.实验表明,该算法在不影响图像分类效果的前提下可以大大降低数据维数,减少计算复杂度.     

基于空谱融合与协同表示的高光谱图像分类算法

高光谱图像光谱带间相似度高且存在大量高维非线性样本,传统的基于表示的分类方法无法对同一波段下的不同样本做出有效区分且会造成维数灾难,最终影响分类性能.提出一种空谱融合与协同表示的高光谱分类算法.通过交替学习空间和光谱特征构建具有判别性的特征字典,并用于空间感知协同表示.在分类过程中,计算特征字典与测试样本之间的相关系数...     

图像分类卷积神经网络的进化设计

为解决图像分类中深度卷积神经网络(Convolutional neural networks,CNN)中较为复杂的人工网络设计与调参问题,提出基于ResNet模块的进化卷积、神经网络(Evolutionary convolutional neural network,ECNN)的自动设计方法,并将其运用到图像分类中.该方法基于ResNet模块与2D卷积层,采用进化算法(Evolutionary algorithm,EA)对网络结构及参数进行优化.在NLM官方发布的疟疾数据集下进行实验,不同比例的测试集划分可以达到95.6%的分类准确率,文中算法与AlexNet、VGG16、Xception等人工设计的深度学习分类算法进行了比较,实验结果表明,其准确率提升了约1%.在斯坦福大学发布的Stanford cars车辆图像数据集中进行了算法泛化验证,结果表明,文中算法在不同比例数据的测试中准确率均在94.5%以上,将该算法与深度学习分类算法VGG16进行比较,准确率效果相当,模型测试图像分类耗时仅为VGG16耗时的1/13,且训练参数量较少.两组对比测试实验数据表明,相比人工设计的深度学习算法,本文方法具有较好的图像分类性能与较快的图像分类速度.     

改进的主动学习算法及在高光谱分类中的应用

针对主动学习算法能主动从大量未标记样本中选择最能提高分类器性能的样本加入训练集,可从小的非最优训练集建立高性能的分类器这一特点,以及传统主动学习算法熵值装袋查询的多值偏置问题,提出了改进的均值熵值装袋查询算法,引入权值函数保证了取样的多样性.通过对高光谱遥感图像分类的实验表明:主动学习只需大约20%的样本即可达到使用全部数据集作为训练集的分类效果,而且均值熵值装袋查询方法具有较高的分类精度,同时拥有较快的收敛速度.     

基于SVM的高维不平衡数据集分类算法

由于数据量的不断增长,出现了大量的不平衡高维数据,传统的数据挖掘分类算法在处理这些数据时,易受到样本分布和维数的影响,存在分类性能不佳的问题.提出一种针对不平衡高维数据集的改进支持向量机(Supported Vector Machine,SVM)分类算法,首先通过核函数将数据集映射到特征空间中,再引入改进的核SMOTE(Kernel Synthetic Minority Over-sampling Technique)算法而得到正类样本,使两类样本数目平衡化;然后将维数高的数据集通过稀疏表示的方法投影到低维的空间中,实现降维;最后根据空间的距离关系来确定在输入空间中合成样本的原像,再对得到的平衡样本集通过SVM来分类,通过仿真实验验证了该算法对于高维不平衡数据集有较优的分类性能.     

基于特征类内紧凑性的不平衡医学图像分类方法

近些年,基于深度学习的算法和模型在各种图像分析任务中都取得了显著的成功,与常见的自然图像相比,医学图像数据集依然面临高度不平衡的问题,不平衡数据会导致特征空间里的决策边缘倾向样本多的类别,导致分类效果的下降.为了解决该问题,提出一种基于卷积神经网络考虑特征类内紧凑性的不平衡医学图像分类方法（Z-Score Compactness-based Convolutional Neural Network,ZC3NC）.首先,从一个卷积神经网络的最后一层卷积层提取训练集样本与测试集样本的特征图,随后引入一个新的Z分数来度量测试集数据的特征图相对训练集每个类在特征空间上的偏离度,偏离度的度量基于类内的紧凑度,其主要关注样本的分布特性,对各类样本数量的不平衡性不敏感.最终,根据计算的偏离度,对测试集的数据进行分类.在DermaMNIST数据集上的实验表明,在不对数据和神经网络模型做任何额外增强的情况下,该方法的平衡准确率比原卷积神经网络模型平均提高11.15%,最多提高14.08%,证明提出的分类方法能有效地提高多种卷积神经网络对不平衡医学图像数据的分类性能.此外,和最先进的不平衡分类方法 Und...     

结合波段选择的差分进化高光谱图像分类

高光谱图像具有数据维数高、有标签样本少的特点,影响了现有分类方法的效果。针对这一情况,提出一种结合波段选择的半监督分类算法。该算法首先通过波段选择方法,去除高光谱图像中的冗余信息,进而降低复杂度和提高泛化能力;然后通过差分进化算法交叉变异无标记样本,选取置信度高的样本扩充入标记样本群以提高分类精度。实验结果表明,该算法能够有效地提升在标记样本有限的情况下分类器的分类精度与分类速度。     

子模式判别型半监督非线性维数减少算法

维数减少是在损失较少特征信息的条件下处理高维图像数据的关键技术,已成为高维数据处理中的热点问题.样本的类内和类间散度判别信息被用于判断当前样本对属于相同类还是不同类,同时考虑未标签样本对算法性能的影响,提出了一种判别型半监督非线性维数减少算法(discriminativesemi-supervised nonlinear dimensionality reduction,DSSNDR),可有效避免奇异性.DSSNDR采用高斯核和多项式核组合得到的混合核,将原始数据以一系列"有用的"特征形式投影到一个较低维的嵌入空间,便于分类,同时能够保持已标签和未标签样本的内部特征,可有效执行半监督学习.引入样本数据的子模式,将DSSNDR推广到子模式特征空间下的非线性方法,简称Sp-DSSNDR,进一步增强了DSSNDR的学习能力,提高分类精度.多个典型数据集上的分类和可视化实验表明,不同类的样本数据的投影在DSSNDR和Sp-DSSNDR构造的特征空间中存在较少的混叠现象,具有更好的可分离性.当维数被减少到较低水平时,本文算法几乎总是取得最好的结果,甚至超过了经典的主成分分析(PCA),核主成分分析(KPCA)和核Fis...     

基于组合降维及旋转SVM的高光谱图像分类

高光谱图像的超多波段可以描述丰富的地物信息,但是也带来了维数灾难的问题。文章提出了主成分分析(principal component analysis,PCA)与线性判别式分析(linear discriminant analysis,LDA)组合降维方法,使类内距离最小化、类间距离最大化,有效地消除数据冗余并保留主要信息量,保证了降维后的数据具有最佳区分度;旋转森林是一种先进高效的集成学习算法,将基分类器由决策树改进为支持向量机(support vector machine,SVM),并将组合降维后的数据应用于旋转SVM分类器,分类精度有了显著的提高。实验对比分析表明,该方法具有较好的分类效果。     

基于图像高维特征压缩映射的混凝土表面裂缝检测算法

在复杂背景下,基于单一朴素特征表示的混凝土裂缝检测算法易受光照、背景杂波的干扰.利用多种图像区域特征描述子可以提取混凝土图像区域大量丰富的纹理特征,取得良好的裂缝病害检测效果.然而高维度的图像区域特征向量给后续的裂缝分类检测过程带来巨大的存储与计算负担.针对此问题,提出一种基于图像高维特征压缩映射的混凝土表面裂缝检测算法.基于Johnson-Lindenstrauss引理,本文算法可以利用较少的区域特征向量获得关于裂缝与非裂缝区域具有良好区分度的特征描述.在高维特征压缩映射的基础上,进一步利用最小二乘支持向量机快速准确地判断出裂缝与非裂缝样本.通过在实际采集的混凝土图像数据集上进行测试验证,本文算法的训练效率比高维样本模型训练快150多倍,同时裂缝病害区域检测准确率为90.3%、召回率为91.2%,优于其他对比裂缝检测算法.      

基于FPCA和ReliefF算法的图像特征降维

针对传统图像特征降维方法计算量大、 无法去除冗余信息、 未考虑相关性等缺陷, 提出一种结合快速主成分分析(FPCA)和ReliefF算法的图像特征降维方法. 该方法先利用FPCA[KG*6]算法对样本数据进行初次降维, 去除样本中的冗余信息;  再利用ReliefF算法计算样本特征的分类权重, 根据权重对特征进行组合优化. 在算法实现过程中, 采用递归排除策略, 进一步提升了算法特征寻优能力. 仿真实验表明, 利用本文算法优选出的图像特征, 可较好地提高聚类结果, 适合实际工程的应用.     

小样本学习在高分遥感影像分类与识别中的应用

遥感影像分类与识别是近年来深度学习以及图像分类与识别研究的热点,其中一个关键问题是因样本数据集的数据较少而极易出现过拟合。许多图像分类的模型和方法并不完全适用于遥感影像分类,将小样本学习与遥感影像处理结合起来,实现遥感影像数据增强和识别模型优化是一个可行的思路。根据小样本学习的发展现状,针对特征提取、模型分类方法,归纳总结了典型学习方法的原理及其在相关领域的应用; 分析遥感影像处理的现状和存在问题,基于适用场景、优缺点对各方法进行了比较; 通过分析小样本学习在高分遥感影像分类与识别上的应用,发现引入注意力机制和迁移学习后,小样本学习能够用于样本数据量小的遥感影像分类。     

基于对抗样本的深度学习图像压缩感知方法

压缩感知是研究数据采样压缩与重构的信号处理新理论,近年来研究人员将深度学习运用到图像压缩感知算法中,显著提高了图像重构质量.然而,图像信息常与隐私关联,高质量的重构图像在方便人们观赏的同时,带来了隐私保护的问题.本文基于深度学习理论,提出一种对抗的图像压缩感知方法.该方法将压缩理论和对抗样本技术统一于同一个压缩感知算法,通过设计损失函数,联合重构误差和分类误差来训练压缩感知深度神经网络,使得压缩感知重构样本同时也是一个对抗样本.因此,重构图像在保证重构质量的同时,也能对抗图像分类算法,降低其识别率,达到保护图像隐私的效果.在Cifar-10和MNIST图像集上进行的实验结果表明,和已有的压缩感知方法相比,我们提出的对抗压缩感知方法以损失仅10%的图像重构质量为代价,使得图像分类精度下降了74%,获得了很好的对抗性能.     

基于复杂样本的安全态势要素分类架构

针对网络安全态势要素获取中大规模复杂攻击样本分类困难的问题，提出一种基于条件变分自编码网络的安全态势要素分类架构。该架构分为编码网络和生成网络两部分，均采用深度神经网络作为其基础框架。编码网络用于对高维数据进行降维，提取其隐含特征;生成网络用于对降维后的样本进行重构，生成新的样本。在生成网络中引入混合密度模型优化其特征提取能力，提高重构数据的准确性。采用训练数据对该架构进行训练，训练后的编码网络作为分类器，识别样本类型;生成网络生成指定类别的样本数据，以平衡复杂样本中各类攻击样本的数量，提高分类精度。仿真结果表明，与其他对比模型相比，所提分类架构具有较好的降维效果和较高的态势要素分类精度。     

基于随机旋转集成的降维方法

对随机旋转集成方法提出了一种针对降维问题的改进,得到了新的降维算法框架进行随机变换降维,可以显著减少降维过程中造成的信息损失.采用随机变换降维后,训练监督学习算法时可以获得更高的准确率和更好的泛化性能.通过在模拟数据上进行的实验,证明了使用多重共线性数据进行回归分析时,与传统降维算法相比,经随机变换降维处理后可以保留更多的信息,获得更小的均方误差.对随机变换降维在手写数字识别数据集上的表现进行了研究,证明了与一般性的降维算法相比,随机变换降维在图像分类问题上可以获得更高的准确率.     

基于降维的堆积降噪自动编码机的表情识别方法

堆积降噪自动编码机是一种典型的深度学习模型,它能够刻画数据丰富的内在信息,具有较强的特征学习能力。基于主成分分析（principal component analysis,PCA）技术和堆积降噪自动编码机（stacked denoising autoen-coders,SDAE）模型,提出一种新的表情识别算法PCA＋SDAE。该算法对人脸图片进行裁剪及归一化等预处理,采用主成分分析技术对人脸特征进行线性降维,再利用堆积降噪自动编码机逐层进行特征学习并同时实现对人脸表情数据的非线性降维,可以得到更好的、维度更低的表情特征,并据此进行表情分类。对PCA＋SDAE算法的仿真测试实验结果表明,其综合性能比其他的基于深度学习模型的表情识别方法更好,同时与传统的非深度学习表情识别方法相比,它具有更高的表情识别正确率。     

基于改进SVM的车辆传动系统故障诊断方法

利用车辆传动系统试验数据对车辆进行故障诊断和性能评价可以实现车辆故障预警,提高可靠性,从而提高车辆性能,但测试数据有数据量大、不平衡、维度高、噪声多的特征,使得传统数据分析算法会产生次优的分类模型.针对上述问题,提出了一种改进的不平衡数据分类支持向量机算法.该算法赋予各样本不同的权值,用马氏距离改进模糊隶属度的设计以排除变量相关性干扰,同时可以输出正常状态下的故障概率.实验结果表明,该算法能够有效提高故障诊断的准确性,概率输出模型可用于故障预警和性能分析.      

基于多分类器融合的高光谱图像分类研究

针对由于高光谱图像存在数据量大、数据相关性强、图谱合一等特点导致高光谱图像分类难度较大的问题,构建一种基于多分类器融合的高光谱图像分类模型.该模型首先使用双边滤波算法进行去噪处理,然后使用LDA算法与PCA算法相结合、单独PCA算法、Gabor滤波与PCA算法相结合三种方式分别对数据进行降维与特征提取,并分别使用SVM...     

基于深度学习的东天山特长隧道围岩等级预测

位于我国西北部的东天山地区,拥有着复杂的地质条件,因此如何快速准确预测隧道掌子面前方的围岩质量的难度增大,有一种能准确客观反映岩体基本特性的围岩分类,是隧道设计与施工的重要参考依据。本文旨在建立一种能客观准确评价东天山地区工程地质环境及预测围岩等级的方法,依托在建东天山隧道项目,选取东天山特长隧道已开挖典型地质区段,以工程地质分区、高关联度物探技术参数指标及物探偏移图像为基础,组成机器学习训练样本;并采用 Python 语言基于TensorFlow深度学习框架编写深度学习网络算法训练样本,建立围岩类别预测模型,并采用新开挖段数据不断验证与优化模型,最后将预测精度最高的模型推广应用于天山地区隧道围岩类别预测,结果表明用TST偏移图像+地质分区+物探指标数据集训练出来的模型效果最好。