面向高维小样本数据的层次子空间ReliefF特征选择算法 |
| |
作者姓名: | 程凤伟 王文剑 张珍珍 |
| |
作者单位: | 1. 太原学院计算机科学与技术系;2. 计算智能与中文信息处理教育部重点实验室,山西大学 |
| |
基金项目: | 国家自然科学基金(62076154,U1805263);;山西省自然科学基金(201901D111030);;山西省教育科学“十四五”规划项目(GH21395); |
| |
摘 要: | 高维小样本数据的特征维数远远高于样本数,因为其通常包含大量的冗余特征,ReliefF算法在处理这类数据时存在以下挑战:传统ReliefF算法无法剔除冗余特征,而现有的改进ReliefF算法大多通过启发式地计算特征与特征之间的互信息来剔除冗余特征,不适用于高维数据;通过截取与标记相关性最大的若干特征来进行分类,可能不是最优选择,因其没有考虑不同特征组合对分类性能的影响.为了解决以上问题,提出一种基于层次子空间的ReliefF特征选择算法,将原始特征集划分为具有层次结构的子空间,并利用邻域粗糙集理论来计算低层子空间的局部依赖度,能在高维小样本数据上高效率地批量剔除冗余特征.此外,为了考量不同特征组合对结果的影响,引入“局部领导力”的概念,保留部分子空间中“带队”能力较强的特征,从局部和全局的角度共同给予特征更加客观的评价.在六个微阵列基因数据集上的实验表明,与现有方法相比,提出的方法更高效,而且能保持良好的分类性能.
|
关 键 词: | 高维小样本数据 特征选择 ReliefF 层次子空间 邻域粗糙集 |
|