基于Markov blanket和互信息的集成特征选择算法

针对大量无关和冗余特征的存在可能降低分类器性能的问题,提出一种基于近似Markov blanket和动态互信息的特征选择算法并将其应用于集成学习,进而得到一种集成特征选择算法。该集成特征选择算法运用Bagging方法结合提出的特征选择方法生成基分类器,并引入基分类器差异度进行选择性集成,最后用加权投票法融合所选基分类器的识别结果。通过仿真实验验证算法的有效性,以支持向量机(support vector machine, SVM)为分类器,在公共数据集UCI上进行试验,并与单SVM及经典的Bagging集成算法和特征Bagging集成算法进行对比。实验结果显示,该方法可获得较高的分类精度。     

基于集成深度学习的有源干扰智能分类

针对现有基于机器学习的雷达有源干扰分类大多需要构建人工特征集且小样本情况下分类精度低的问题, 提出一种基于多通道特征融合的集成卷积神经网络(convolutional neural network, CNN)分类方法。首先, 建立多种有源干扰的数学模型, 仿真并利用短时傅里叶变换获得其时频分布图; 其次, 提取时频分布图的实部、虚部和模值三通道特征, 通过多种特征组合方式建立不同特征组合的样本集; 最终, 构建以CNN为基分类器的集成深度学习模型, 每个CNN分别提取不同样本集的特征, 对所有基分类器的预测结果做多数投票得到集成模型的整体预测结果。实验表明, 该方法能够有效实现小样本情况下多类有源干扰的高精度智能化识别。     

基于加权表决的决策层融合多系统调制识别

利用信息融合技术研究多系统调制识别问题，提出一种加权表决融合算法。该算法首先定义系统对识别结果的贡献度，用来描述多个系统的联合对识别性能的提升，并将其作为分配权重的依据。然后将这种多系统识别问题建模为合作对策模型，利用合作对策的Shapley值来决定各系统的权重。最后通过所提出的加权表决算法，对多个系统的调制方式判决结果进行决策层融合。计算机仿真表明该算法有助于提高调制识别的性能。     

基于熵的自适应加权投票HRRP融合识别方法

基于不同分类器对同一样本分类能力不同,同一分类器对不同样本可分程度不同的思想,为不同样本赋予不同融合权重,提出了一种基于熵的自适应加权投票高分辨距离像(high range resolution profile, HRRP)融合识别方法。该方法将二分类相关向量机(relevance vector machine,RVM)扩展为多类分类RVM概率模型,并对不同HRRP特征样本进行分类,利用每个多类分类RVM输出的样本后验概率信息计算出的熵值自适应为各个样本赋予权重,使得不同分类器以及同一分类器对不同样本的决策占有不同的比重,熵值越大的样本赋予的融合权重越低,最后通过加权投票方法实现融合识别,得到目标的最终识别结果。仿真实验结果验证了所提方法的有效性。     

基于模糊积分的纠错输出解码研究

针对基于纠错输出编码的多类分类中解码策略的选择问题,提出一种基于模糊积分的解码方法.将每个基分类器看作一个证据源,其概率输出提供了测试样本所属类别的可能性;同时基于基分类器信任度和混淆矩阵对模糊密度的赋值进行了改进;最后求取最大的模糊积分值所对应的类别为分类输出.基于UCI数据集和经典解码方法的比较实验验证了本文所提方法作为二符号解码策略的可行性和有效性.     

一种基于支持向量机的模糊分类器

提出了一种基于支持向量机学习的模糊分类器(FCBSVM).介绍了FCBSVM的基本思想及其结构,分析了隶属函数参数和惩罚参数C对分类规则的产生以及分类性能的影响,并提出了参数确定方法.构建这种分类器时,先选用适当的隶属函数,构造核函数.然后,以训练模式作为中心,进行模糊划分,对每个模糊划分建立一条模糊IF-THEN分类规则.最后,利用支持向量机学习方法,求出支持向量和规则的参数.这种分类器将支持向量机和模糊集合理论的优点结合起来,实现了模糊划分和模糊分类规则的自动产生.用双螺旋线数据和典型的数据集对分类器的性能进行了实验评测,验证了分类器的有效性.     

ECOC多类分类中基分类器non-competence问题研究

在纠错输出编码(error-correcting output code, ECOC)多类分类中,当待识别样本的真实类别不属于对应二类子类划分时,训练得到的基分类器将不具备对此类样本进行分类的能力,此时的基分类器在解码融合时面临着non-competence问题。如何衡量基分类器是否具备对样本的分类能力,以及如果不具备,如何减少此种情况下对分类效果的影响是基于ECOC多类分类面临的新问题。针对解码框架中non-competent基分类器的分类融合问题,提出一种基于基分类器对样本是否具有分类能力的加权解码方法。该方法利用支持向量数据描述衡量待识别样本与各划分子类之间的距离,同时利用加权解码,通过对基分类器权重的学习，进而增强对类别拥有分类能力的基分类器的影响,减少不具备分类能力的基分类器产生的误差。基于UCI数据集的实验表明所提方法的有效性和实用性。     

基于AdaBoost的神经元形态分类的研究

根据神经元形态的几何特征,使用AdaBoost算法对其进行分类,采用决策树、贝叶斯和关联规则分类模型作为基分类器。算法首先采用直接面向纽舍分类器分类精度提升的集成学刁算法选取基分类器,其次利用分类过程中生成样本的孱升权值来调整前K次（K〉1）被错误分类样本的权重,并提留双重阎值法对样本的最终投票表决结果进行判定。对20个测试样本进行分类,得出高可信度分类数为18个。     

基于CCF的单传感器辐射源识别方法

在论述了D-S证据理论在单传感器辐射源识别应用的基础上,提出了一种基于组合分类器信息融合(combining classifier fusion, CCF)的单传感器辐射源识别方法。该方法利用了两方面的知识,一是由组合分类器对样本数据分类能力表征的先验知识,二是由组合分类器对未知模式目标的分类能力表征的当前知识。基于先验知识对当前知识进行必要的实时性修正,在分类器融合输入级提高了当前知识的正确性。利用合适的组合算法,对分类器的输出级进行正确信息的有效提取,提高了单传感器辐射源识别的准确性。仿真结果表明了该方法的可行性及有效性。     

基于高维特征选择的跳频电台细微特征识别

将高维特征用于跳频电台细微特征个体识别具有很大优势,为了增强对跳频电台的分类识别能力,需要增加特征类型和维数,提高特征集的表征能力,但同时会引入大量冗余特征,导致分类器计算时间过长,分类正确率降低。为了降低高维特征集维数,首先采用相关性快速过滤特征选择算法,删除高维特征集中的不相关冗余特征,得到最优特征集。然后利用经过参数优化的支持向量机(support vector machine, SVM)分类器进行训练分类。实验表明,所提算法能够对高维特征集进行合理的降维,提高了SVM的分类器的分类性能,在保证分类正确率的基础上,降低了运算量,提高了跳频电台细微特征识别的时效性。     

集成学习的多分类器动态融合方法研究

AdaBoost集成学习方法中,分类器一经学习成功,其投票权值就已确定,同一分类器对所有待测样本均有相同的投票权值。对于难于分类样本,具有良好分类性能的少数分类器权值却较低。提出适用于集成学习方法的权重自适应调整多分类器集成算法。根据多分类器行为信息,产生待测样本局部分类精度的有效判定区域,基于有效判定区域选择不同的分类器组合,并调整其相应权重,利用样本集上的统计信息来动态指导分类集成判决。实验结果表明,该算法提高了集成分类性能。     

一种基于智能中间件的综合GDSS框架模型

针对群体决策分析的过程和特点,在传统中间件的基础上,增加知识库的相关内容和方法,获得一个由中央处理单元、辅助选择、功能组合平台和知识库交互平台构成的智能中间件,并提出一个基于智能中间件的综合群体决策支持系统框架模型。在该框架模型中,将知识发现、知识管理和群体决策支持系统相互结合,集智能中间件、知识发现技术于一体,系统分为三个层面:用户层、管理层和分析层,分别对应于用户交互、知识管理和知识挖掘三个平台,并给出了三个平台的框架结构和功能。最后,通过具体实例讨论了该系统框架模型的应用。     

一种基于Boosting的集成学习算法在不均衡数据中的分类

针对多类别不均衡数据的分类问题,从数据集的特征选择和集成学习两个角度出发,提出了一种新的针对不均衡数据的分类方法—BPSO-Adaboost-KNN算法,算法采用基于多分类问题的可视化的AUCarea作为分类评价指标.为了测试算法的性能,本文选取了10组UCI和KEEL选取的测试数据集进行测试,结果表明本算法在有效提取关键特征后提高了Adaboost的稳定性,在十组数据的分类精度上相比单纯使用KNN分类器有20%~40%不等的提高.在本算法和其他state-of-the-art集成分类算法对比中,BPSO-Adaboost-KNN能够取得较优或相当的结果.最后,本文将该算法应用到石油储层含油性的识别中,成功提取了声波、孔隙度和含油饱和度三个关键属性,在分类精度上相比传统分类算法有了大幅度提高,在江汉油田五口油井oilsk81~oilsk85上的分类精度均达到98%以上,比单纯使用KNN的精度高出了20%,尤其在最易错分的油层和差油层中有良好的分类效果.     

Large scale classification with local diversity AdaBoost SVM algorithm

Local diversity AdaBoost support vector machine (LDAB-SVM) is proposed for large scale dataset classification problems. The training dataset is split into several blocks firstly, and some models based on these dataset blocks are built. In order to obtain a better performance, AdaBoost is used in each model building. In the boosting iteration step, the component learners which have higher diversity and accuracy are collected via the kernel parameters adjusting. Then the local models via voting method are integrated. The experimental study shows that LDAB-SVM can deal with large scale dataset efficiently without reducing the performance of the classifier.     

卫星数字图像的智能处理研究

在借鉴成熟的数字图像特征分类模型基础上，通过特征抽取及采用神经网络方法对特征树训练，得到卫星数字图像的典型特征和在图像分析中的权重。提出利用数字图像的经验处理知识来实现卫星数字图像的自动处理，并建立分类数字图像集的经典处理案例，采用基于案例推理的方法，实现了卫星数字图像处理经验的复用和效率的提高。     

基于EEMD样本熵和SRC的自确认气体传感器故障诊断方法

针对非线性、非平稳情况下自确认气体传感器的故障诊断问题,提出了对传感器不同故障模式信号进行特征提取和智能识别的在线故障诊断方法。首先,该方法根据传感器信号的变化进行集合经验模态分解(ensemble empirical mode decomposition,EEMD),自适应地获得一组固有模态函数(intrinsic mode functions,IMFs),对每个IMF及残余分量进行样本熵分析,提取传感器输出信号的完备特征;然后,利用稀疏表示分类(sparse representation-based classification, SRC)将各故障模式下训练样本的特征向量构成超完备字典。为了提高故障诊断方法的自适应能力,对SRC分类器进行在线更新。通过求解最小1范数约束问题,获得测试样本的稀疏表示系数,再由不同故障类型的重构误差确定测试样本归属,进行传感器故障类型识别。实验结果表明,与目前其他传感器故障诊断方法比较,本文提出的方法能够更显著地提取传感器故障信号特征,故障识别率提高4%以上,达到97.14%。     

基于自适应多分类器系统的甲状腺疾病诊断方法研究

甲状腺释放甲状腺激素以调节人体的新陈代谢速率,甲状腺激素过多或过少分别会引起甲亢或甲减,都属于甲状腺疾病.在实际医疗数据中,甲状腺疾病数据属于典型的不均衡数据.传统的分类方法往往忽略了不均衡数据存在的异构现象(不均衡程度,特征维度,类别数目在不同数据集中各不相同).针对甲状腺疾病数据的类分布不均衡现象以及异构现象,本文提出一种自适应多分类器系统(adaptive multiple classifier system,AMCS),构造多分类器集成系统,自适应地对异构不均衡甲状腺疾病数据进行分类来辅助甲状腺疾病的诊断.AMCS系统包括特征选择,集成框架,基分类器以及集成规则四个组成部分,每一组成部分由不同的算法组成候选池,根据不同数据存在的异构现象,自适应地为异构数据选择最优集成算法.本文采用KEEL和UCI提供的10组异构甲状腺疾病数据进行实验,验证了本文所提出的方法在辅助甲状腺疾病诊断的有效性.     

基于紧耦合像元的自适应增强类内稀疏表示高光谱图像分类

为了充分利用稀疏表示分类算法中重构残差包含的特征信息,将重构残差的波段信息反馈到测试样本中,自适应增强样本的稀疏特征提取。但反馈调整过程可能会出现特征过拟合的问题,为了进一步提高算法的稳定性和分类精度,提出了紧耦合像元生成算法(close coupled set of pixels, CCSP)来平滑特征分布以解决过拟合问题,并最终提出了基于紧耦合像元的自适应增强类内稀疏表示高光谱图像分类方法(close coupled set of pixels based adaptive boosting class wise sparse representation classifier, CCSP ABCWSRC)。在Indian Pines,University of Pavia,Salinas三个高光谱数据集上的实验结果表明,提出的算法对高光谱图像进行了稳定有效的分类并且其分类精度优于同类算法。     

基于改进半监督朴素贝叶斯的LPI雷达信号识别

针对先验信息残缺的非合作电子对抗背景下的低截获概率雷达信号识别问题,提出一种基于改进的半监督朴素贝叶斯的识别算法。该算法首先提取出4种低截获概率(low probability of intercept,LPI)雷达信号的双谱对角切片作为识别特征;针对传统的半监督朴素贝叶斯(semi-supervised Naive Bayes,SNB)在更新训练样本集过程中会产生迭代错误的不足,利用改进的SNB(Revised SNB, RSNB)算法构建分类器,完成对测试样本的识别。该方法通过在无标记样本集生成的置信度列表中选取置信度较高的样本添加到有标记样本集中,再利用预测后的分类结果对分类器参数(即特征期望向量m i和方差向量σ i)进行改进,有效解决了传统算法分类精度低且分类性能不稳定等缺点。理论分析和仿真结果表明,在LPI雷达信号识别问题,相比于SNB算法和传统的主成分分析加支持向量机法(principal component analysis-support vector machine, PCA-SVM),该算法具有更高的分类识别率和更好的分类性能。