基于Relief的组合式特征选择

ReliefF是公认的效果较好的filter式特征评估方法,但该方法一大缺点是不能辨别冗余特征．提出两种基于Relief的组合式特征选择算法：ReCorre和ReSBSW,这两种算法均首先利用ReliefF算法过滤掉无关特征,然后分别采用相关分析(Correlation)以及顺序后向搜索(SBS)的Wrapper算法去除冗余特征．在实际数据集以及人造数据集上进行了实验,分析比较了Relief,ReCorre以及ReSBSW算法的性能．实验结果得出如下结论：ReliefF方法对无关特征较多的数据集能够很好的降维,但对于实际数据中特征间关系较复杂的情况,只能去掉很少的无关特征,并会去除一部分相关特征,ReliefF不能处理冗余特征,ReCorre可以在ReliefF基础上去除大部分冗余特征．ReSBSW算法可得到较好的泛化性能,但算法计算量很高,不适合大规模数据集．     

基于MPGA的混合特征选择算法在驾驶压力检测中的应用

针对多源生理信号应用于驾驶压力检测中存在信号种类多、特征维数高以及运算效率低的问题,提出了一种结合特征选择(ReliefF)算法、最大相关最小冗余(MRMR)算法和多种群遗传算法(MPGA)的混合特征选择算法。首先利用ReliefF算法计算特征信号的权重值,初选出对分类效果影响显著的特征子集;然后利用MRMR算法去掉冗余的特征,进一步精简特征子集;在此基础上采用MPGA挑选出效果最佳的特征子集。将该算法应用于驾驶压力检测,并与其他类似算法进行了对比。实验结果表明,该算法有效地消除了高维特征中的冗余信息,提高了特征选择阶段的运算效率且达到了很好的分类效果。     

基于ReliefF和聚类的特征选择方法及其在无线电信号识别中的应用

无线电信号识别在无线电监测中占有重要地位,为了提高信号识别率,针对C波段信号特征数据的特点,提出一种基于ReliefF和聚类的特征选择方法.该算法首先用ReliefF算法去除与分类不相关的特征,再对余下的特征根据相关度强弱进行特征聚类,最后根据特征权重大小和相关度强弱删除冗余特征,选出代表性特征.实验结果表明,该算法有效地减少了数据维数,并且提高了信号识别率.     

基于ReliefF-PLS的鸽子转向运动解码研究

针对微电极阵列记录的局部场电位(LFP)信号包含大量的噪声和冗余信息,而且信号特征维数高,从而影响解码正确率的问题,结合ReliefF算法与偏最小二乘(PLS)方法,解码了动物的转向运动行为。设计了鸽子的十字迷宫目标导向实验,采集鸽子弓状皮质尾外侧(NCL)LFP神经信号,提取信号的特征,利用ReliefF算法对各个特征赋予相应的权重值,根据权重阈值选取合适的特征构成特征子集,并用PLS对特征子集提取主成分,最后用支持向量机(SVM)进行解码,并将解码结果与单独使用ReliefF算法和PLS算法比较。结果：LFP信号经ReliefF-PLS特征提取后,五组鸽子实测数据的解码正确率分别达到95.00%、80.00%、95.00%、92.50%、85.71%,高于单独用ReliefF或PLS算法的解码正确率,而且所提取的特征数更少。结论：ReliefF-PLS方法结合了ReliefF和PLS的优点,提高了解码正确率,而且提取的特征数更少,有效的去除原始特征中的干扰特征和冗余特征,验证了该算法的有效性,为相关研究探索了一条新路径。     

面向高维小样本数据的层次子空间ReliefF特征选择算法

高维小样本数据的特征维数远远高于样本数,因为其通常包含大量的冗余特征,ReliefF算法在处理这类数据时存在以下挑战：传统ReliefF算法无法剔除冗余特征,而现有的改进ReliefF算法大多通过启发式地计算特征与特征之间的互信息来剔除冗余特征,不适用于高维数据;通过截取与标记相关性最大的若干特征来进行分类,可能不是最优选择,因其没有考虑不同特征组合对分类性能的影响.为了解决以上问题,提出一种基于层次子空间的ReliefF特征选择算法,将原始特征集划分为具有层次结构的子空间,并利用邻域粗糙集理论来计算低层子空间的局部依赖度,能在高维小样本数据上高效率地批量剔除冗余特征.此外,为了考量不同特征组合对结果的影响,引入“局部领导力”的概念,保留部分子空间中“带队”能力较强的特征,从局部和全局的角度共同给予特征更加客观的评价.在六个微阵列基因数据集上的实验表明,与现有方法相比,提出的方法更高效,而且能保持良好的分类性能.     

基于图像欧氏距离流形降维的端元提取算法

由于多重反射和散射,高光谱图像中的混合像元实际上是非线性光谱混合传统的端元提取算法是以线性光谱混合模型为基础,因此提取精度不高针对高光谱图像的非线性结构.本文提出了基于图像欧氏距离非线性降维的高光谱遥感图像端元提取方法该方法结合高光谱数据的物理特性,将图像欧氏距离引入局部切空间排列进行非线性降维以更好的去除高光谱数据集中冗余的空间信息和光谱维度信息,然后对降维后的数据利用寻找最大单形体体积的方法提取端元.真实高光谱数据实验表明,提出方法对高光谱图像端元提取具有良好的效果,性能优于线性降维的主成分分析算法和原始的局部切空间排列算法.     

基于序列低秩嵌入算法的故障检测

复杂化工过程采集到的数据往往夹杂着过程噪声,如何去除冗余数据、充分提取数据的有效信息是研究重点。提出了一种融合序列相关与低秩表征(LRR)的信息提取算法——序列低秩嵌入(SLRE)。通过LRR对训练样本进行低秩分解,剔除噪声点,去除数据中的冗余信息,增强了算法的鲁棒性。为了保持数据的全局-局部特征,通过计算样本间相关系数构造加权矩阵,并利用嵌入算法实现数据降维。建立T2和SPE统计量,使用核密度估计(KDE)方法估计控制限。通过数值仿真实例和田纳西-伊斯曼(TE)过程验证了本文方法的有效性。     

ReliefF算法在雷达辐射源信号识别中的应用

采用小波包变换提取雷达辐射源信号特征能够有效对信号进行识别,然而,由小波包变换提取的信号特征维数高,部分信号特征受噪声污染严重.基于此,采用ReliefF算法对信号特征的分类能力进行评价,选择出小波包中分类能力强的信号特征,再通过特征相关度算法去除分类能力相近的冗余特征,利用剩余的分类能力强的信号特征组成特征向量进行分类.仿真实验结果显示,该方法用较少的信号特征能够获得较高的正确识别率.     

基于ReliefF和最大相关最小冗余的多标记特征选择

针对现有的特征选择模型未涉及特征和标记集之间的相关度，造成分类精度偏低等情况，提出了基于ReliefF和最大相关最小冗余(maximum Relevance and Minimum Redundancy, mRMR)的多标记特征选择.首先，运用互信息计算每个标记和标记集之间的相关度，使用每项相关度占其相关度之和的比例设计了标记权重，由此构建了特征和标记集间的相关度，初选与标记集相关度高的特征；其次，计算对象在特征上的距离，构建了新的特征权值更新公式，基于标记权重改进多标记ReliefF模型.然后，基于互信息和标记权重构建了最大相关性，设计了最小冗余性及其新的最大相关最小冗余评价准则，并将其应用于多标记特征选择，进一步剔除冗余特征；最后，设计了一种基于ReliefF和最大相关最小冗余的多标记特征选择算法，有效提高了多标记分类性能.在8个多标记数据集上测试所提算法的平均分类精度、覆盖率、汉明损失、1错误率和排序损失，实验结果证明了该算法的有效性.     

基于分块加权的局部保持投影的人脸识别

为增强对姿势、表情、光照等变化的鲁棒性,提出了一种加权的分块局部保持投影人脸识别算法.算法先对样本图像分块,对分块得到的子图像利用局部保持投影算法分别提取局部特征信息,并利用k近邻点的类标信息和样本影响力函数计算各分块子图像的权重.该算法能够有效地抽取图像的局部特征,对人脸表情和光照条件变化较大的图像表现尤为突出,在AT&T和Yale人脸库上的比较实验说明了该算法的有效性.     

文化算法框架下混合群智能算法的肿瘤信息基因选择

为了消除与分类无关和冗余基因,以提高基因的分类精度和效率,提出一种文化算法框架下混合群智能算法的肿瘤信息基因选择方法.首先采用ReliefF算法初选基因子集,然后利用文化算法框架下混合群智能算法选择最优的信息基因,最后在3个标准肿瘤信息基因数据集对其性能进行测试.仿真结果表明,文化算法框架下混合群智能算法可以有效去掉无用的噪声基因,降低计算复杂度,分类精度均可以达到100%,具有较好的实际应用价值.     

基于随机Fourier有监督特征变换降维算法的人脸检测方法

针对传统人脸检测方法采用空间向量对复杂环境下的高维度人脸特征进行辨识时, 存在检测效率低、 检测精度差的问题, 提出一种基于随机Fourier有监督特征变换降维算法的人脸检测方法. 首先, 通过随机Fourier映射随机形成大规模多维候选集合, 采用特征选择算法获取特征集内的最佳子集; 其次, 基于l_2,1范数的极限学习机, 产生高斯核拟合效果的随机映射, 利用l_2,1正规则化过滤掉人脸随机特征中的无价值及冗余特征, 并对该过程进行优化, 提高人脸特征降维的精度; 最后, 采用基于降维特征与Adaboost算法的人脸检测方法获取的降维特征, 通过Boosted级联算法获取级联分类器, 实现人脸特征的准确检测. 实验结果表明, 该方法的漏检率和误检率均为8%, 平均检测时间为118 ms, 运行效率和检测精度均较高.     

基于信息熵的局部二值模式手指静脉识别

为进一步提升手指静脉识别算法的识别率与识别速度,在图像处理阶段,提取出手指图像的感兴趣区域(region of Interest, ROI),减少手指周围区域的干扰。为提升识别率,在局部二值模式 (local binary patterns, LBP)的基础上,引入像素邻域之间的关系,增强LBP的识别性能;然后将信息熵与改进型LBP结合得到新的ELBP特征,最后采用主成分分析(principal component analysis,PCA)降维,以减少识别时间,去除冗余特征。通过对比欧氏距离与曼哈顿距离构建的分类器,与其他主流特征比较,验证算法的识别性能。在SDUMLA数据库与天津市智能实验室采集指静脉图像数据库上,保证了算法的识别速度前提下,分别取得了99.53%、99.84%的识别率,与其他识别算法相比识别率有明显的提高。     

改进的D-t-SNE滚动轴承故障数据集降维方法

针对传统降维方法难以保持数据集的局部与全局几何结构特征问题,选择测地距离作为度量指标,提出改进t-SNE的故障数据集降维方法D-t-SNE.首先提取消噪振动信号的多域高维故障数据集,在对其进行归一化处理之后,利用GD指标改进后的D-t-SNE算法对高维故障数据集进行降维运算,去除冗余信息,然后通过不同的分类器对低维特征子集进行故障模式辨识.以UCI数据集和双跨转子实验台的模拟故障数据集为实验对象对D-t-SNE算法进行验证,并与SNE和t-SNE算法的各项实现结果进行对比.结果表明,D-t-SNE算法具有通过降低高维故障数据集的维数从而达到降低故障分类难度、提高故障辨识准确率的性能,可为降低旋转机械原始故障特征数据集的规模、降低故障分类的难度与提高故障辨识结果的可视化效果提供理论参考依据.     

基于随机旋转集成的降维方法

对随机旋转集成方法提出了一种针对降维问题的改进,得到了新的降维算法框架进行随机变换降维,可以显著减少降维过程中造成的信息损失.采用随机变换降维后,训练监督学习算法时可以获得更高的准确率和更好的泛化性能.通过在模拟数据上进行的实验,证明了使用多重共线性数据进行回归分析时,与传统降维算法相比,经随机变换降维处理后可以保留更多的信息,获得更小的均方误差.对随机变换降维在手写数字识别数据集上的表现进行了研究,证明了与一般性的降维算法相比,随机变换降维在图像分类问题上可以获得更高的准确率.     

一种基于特征选择的面向对象遥感影像分类方法

针对GF—1多空间分辨率遥感数据空间信息丰富,传统影像分类方法无法满足实际应用需要的问题,提出了一种基于特征选择的面向对象遥感影像分类方法——object-RJMC算法,即在影像分割及特征提取的基础上,运用Relief F算法和J-M(Jeffries-Matusita)距离算法去除无关及冗余特征,筛选出适于各类别分类的特征,然后利用CART算法建立分类规则,完成分类过程。以GF-1号2 m、8 m和16 m空间分辨率的三组影像进行算法验证,并与object-CART和pixel-CART影像分类方法进行对比分析。实验结果显示object-RJMC算法的分类精度均高于object-CART和pixel-CART算法的分类精度;且对高空间分辨率的影像分类效果要优于对中低空间分辨率影像的分类效果。该算法减少了特征选择及规则建立的人工干预,克服了以像素为单位的分类算法中由于缺少空间邻域信息而产生孤立、离散、不连通分类结果的问题,可有效地提高GF-1遥感影像分类精度。     

基于深度无监督学习的图像分类算法

为了取得精确的图像分类效果,一方面需要提取大量的图像特征数据进行样本分析,另一方面大量的数据又造成了维数灾难.因此,为了解决信息全面与维数灾难的矛盾,引入了深度学习.深度学习利用分层结构处理复杂的高维数据,可以完成复杂函数的逼近,是一类具有多层非线性映射的学习算法,但深度学习模型优化困难且对隐层参数敏感.针对上述问题,将无监督算法引入深度学习,这种学习方法无须人工设计特征提取数据,训练过程中样本标签是未知的.实验表明,该算法在不影响图像分类效果的前提下,可以大大降低计算复杂度,具有一定的时效性.     

基于图像色彩特征融合的绝缘子污秽等级检测

针对绝缘子污秽状态非接触检测问题,提出基于可见光图像RGB(red green blue)和HSI(hue saturation intensity)空间信息特征级融合的污秽等级检测方法.利用最佳熵阈值分割法(OET)提取绝缘子盘面区域,分别在RGB和HSI色彩空间进行特征计算,根据Fisher准则进行特征选择,得到可以有效表征污秽状态的特征量,利用核主元分析(KPCA)对两个色彩空间特征的组合进行降维融合,得到三维融合特征向量,结合概率神经网络(PNN)实现污秽等级识别.实验分析表明,基于核主元分析的图像信息特征级融合能够全面地反映绝缘子污秽状态,与单独利用RGB或HSI特征进行识别相比,其准确率有显著提高,可以实现绝缘子污秽等级的有效识别,为绝缘子污闪防治提供了新的方法.