基于Tri-training直推式支持向量机算法

针对直推式支持向量机错误累积及获取无标记样本空间信息慢的问题,结合Tri-training算法、KKT条件及富信息策略提出一种基于Tri-training的直推式支持向量机算法,用KKT条件选择标注样本,用富信息策略选择加入的分类器,利用多个分类器的投票结果进行标注,提高样本标注的准确度,利用多个分类器进行协同训练提高算法的训练速度.最后实验结果表明,算法能够提高最终分类器的分类精度和算法的训练速度.     

协同训练半监督学习二次伪迭代算法

在半监督学习训练的过程中,由于分类器对噪声的引入使得分类器性能下降而影响分类准确性,本文提出一种具有自我调节的二次伪迭代算法.该算法延用Tri-training算法的3个分类器思想,在一定条件下引入少量的人工作业,从而避免一些标记难分类而影响训练的进行,并且采用自我调节功能,用于减少在分类过程中出现的噪声数据和降低对分...     

基于Tri-training算法的多分类信用评级方法

随着经济的快速发展，信用贷款在企业资金周转中的作用越来越重要.信用评级是信用贷款发放的基本依据之一.本文针对实际信用评级中有标签样本数量不足的问题，提出一种基于Tri-training算法的多分类信用评级方法，该方法选择支持向量机、决策树和最大熵模型作为基分类器组合.最后，本文使用真实的信用数据集验证了该方法的实际效果.     

改进蜉蝣算法及其在脑电信号识别中的应用

针对蜉蝣算法搜索能力欠佳、容易陷入局部最优等不足,提出了一种混沌模拟蜉蝣算法。首先,对比选择了Logistic混沌序列生成初始化种群,使用模拟退火算法对蜉蝣算法的速度更新方式进行了优化。然后,基于7个测试函数对改进后的算法进行仿真对比实验,结果证明改进后算法的寻优性能和收敛速率明显提升。最后,对5位受试者的脑电信号进行了时频域和F-score特征提取,并使用改进后的算法优化支持向量机分类器。应用优化后的分类器对提取的信号数据进行了识别,与不同分类器的识别结果相比,改进蜉蝣算法优化后的分类器的平均识别率达88%以上。     

一种基于特征置换的朴素贝叶斯分类器

朴素贝叶斯分类方法是一种广泛使用的分类算法,在独立性假设不完全满足的情况下计算效率和分类效果均较为理想.通过分析全局特征向量中各特征与类别属性之间的联系,提出将组合特征置换多源特征,用组合特征的共现率对多源特征进行概率调整的新方法,在不同数据集的实验中,调整后的朴素贝叶斯分类器(FRNB)的分类精度均好于传统朴素贝叶斯分类器.测试结果表明,改进后的算法是有效可行的.     

集成分类器组合算法及其在医学诊断中的应用

在计算机辅助诊断系统中使用集成分类器是提高机器识别能力的一种重要途径。针对集成分类器投票组合算法中存在的投票可信度问题,提出了一种基于Grading的集成分类器组合算法EGR,该算法根据集成分类器对样本的预测结果是否正确来转换相应样本的类标签,用新数据构造元分类器。在UCI医学数据集上进行的实验结果显示,EGR算法对分类精度的提升以及敏感性与特异性的整体改善是有效的。     

一种基于贝叶斯方法的多分类器组合优化算法

提出了一种基于贝叶斯方法的多分类器组合优化算法和阈值改进方法。首先,计算分类器对各个类别的置信度。然后,以各分类器的置信度为先验概率,采用向量求和将各分类器的先验概率向量进行组合,得出最终输出向量,最后通过优化阈值提高综合分类器识别精度。在此后的实验数据表明:该算法具有方法简单、运算速度快、分类精度高等优点。     

基于混淆熵的分类器集成方法

本文提出了一种基于混淆熵（confusion entropy,CEN）的分类器集成算法.该算法按照候选分类器的CEN值升序排序，遍历选择使得CEN值减小的分类器，从而使组合不断优化，以获得更好的集成分类结果.使用7个候选分类器在5个UCI数据集上进行实验，结果表明，所提算法整体上优于经典的分类器集成算法AdaBoost和XGBoost以及另外3种近期算法（AdaCost、AdaCost-CNN和CU-AdaCost），验证了算法的可行性.     

一种基于降噪自编码的组合分类算法

针对传统分类学习算法的准确性现状进行了研究,提出了一种基于降噪自编码的组合分类算法(Ensemble Learning based on Denosing Autoencoder,ELDA).与Bagging、Adaboost以及Rotation Forest等传统的组合分类器学习方法不同,ELDA首先通过使用降噪自编码算法将数据集映射到新的特征空间,然后在此空间学习得到决策树作为基分类器,最后对数据集进行类别预测.通过与Bagging、Adaboost及Rotation Forest学习方法相比,结果表明:ELDA在预测精度上显著优于对比算法.     

基于云模型理论改进的贝叶斯分类算法

基于云模型理论对朴素贝叶斯分类器进行了改进,使得分类器能够处理语言中的一些模糊值,扩展了朴素贝叶斯分类器的应用范围.使用UCI鸢尾花数据集对算法进行了实验仿真和结果分析.结果表明,改进后的分类算法在一定程度上提高了分类精度.     

一种基于协同训练半监督的分类算法

为提高少量样本情况下分类器的性能,提出一种基于多分类器协同的半监督样本选择方法,利用未标注样本实现样本增强,提高分类器泛化能力.依靠多分类器的互相监督和多分类器标签一致的原理,将已标记样本作为训练集,利用SVM和RF两个分类器协同训练,多分类器的类别标签和确定度值作为约束条件,从未标记样本集中筛选出最有代表性的样本构成增强样本集,以准确率为评价标准,验证本算法对分类器泛化性能的影响.本算法在手写数字数据集(Mnist字符库)和Landsat土壤数据集上测试,实验结果表明相比少量原始训练样本构建的分类器,增强样本构建分类器预测的全部类别准确率都得到提升.两个数据集的总体准确率分别提升5.97%和7.02%,Mnist数据集中数字5这类准确率提升最高(提升11.9%,从79.3%到91.2%),Landsat土壤数据集中土壤3这一类准确率提升最明显(提升15.8%,从73.5%到89.3%),结果证明了该算法显著提高了分类器的泛化性能.同时与经典的KNN、Co-training和Co-forest算法对比,所提出的算法能够最大限度地利用未标记样本信息,具有最好的精度表现,证明了该研究提出算法的优越性.     

基于概率LS-SVM 的多标签非均衡样本分类算法

针对多标签分类问题,提出了一种面向样本不均衡及类属不确定性的多标签分类算法。首先,结合“一对一”分解策略和贝叶斯理论,将多标签数据集分解为单标签数据子集,并利用Parzen窗方法估计子集样本后验概率,对类标签进行了基于概率的不确定性表示。然后,在融合概率类标签和LS-SVM模型的基础上,利用样本差异信息来调节惩罚参数值,建立了考虑样本不均衡的概率LS-SVM子分类器模型。依据正态分布的3σ原理,设计了子分类器决策阈值确定方法。最后,结合实例对算法进行了性能分析,结果证明了新算法的合理性和有效性。     

基于自适应免疫分类器的入侵检测

由于采用传统的分类器进行检测时,存在检测率低而误报率高的问题.提出了一种基于免疫聚类的自适应分类器方法,采用多信息粒度的思想有效地克服了聚类算法与分类算法间的不一致性.通过在真实网络数据集上对多种入侵行为的检测结果表明:该分类器的检测率高、漏报率和误报率低,较RBF分类器和BP分类器具有更好的分类性能和推广性能.     

一种改进的Adaboost算法的人脸检测分类器

针对人脸检测中单一分类器检测非常耗时,而且没有考虑到检测后提取标准人脸对后续工作(如识别)等问题,提出了运用Adaboost算法,采用正面人脸和人眼两个特征作为分类器,首先用Cascade算法筛选出输入图像中最有可能是人脸的区域,然后根据以正面人脸和人眼为特征的分类器检测人脸区域,并根据检测出来的人眼距离和角度对人脸进行精确的定位.同时针对实际的图像中人脸常常存在一定倾斜,从而影响后续的人脸的识别率这一问题,采取了根据人眼的位置对倾斜图像进行修正.实验结果表明改进的算法能够在保持一定运算速度的基础上取得准确的人脸,具有较好的实用性.     

一种基于聚类和AdaBoost的自适应集成算法

为同时保证基分类器的准确性和差异性, 提出一种基于聚类和AdaBoost的自适应集成算法. 首先利用聚类算法将训练样本分成多个类簇; 然后分别在每个类簇上进行AdaBoost训练并得到一组分类器; 最后按加权投票策略进行分类器的集成. 每个分类器的权重是自适应的, 且为基于测试样本与每个类簇的相似性及分类器对此测试样本的分类置信度计算得到. 实验结果表明, 与AdaBoost,Bagging(bootstrap aggregating)和随机森林等代表性集成算法相比, 该算法可取得更高的分类精度.     

分类器模拟算法及其应用

针对标准数据集在评估多分类器系统的组合方法时存在的不足,设计了一种新的分类器模拟算法.该算法利用分类器的识别率建立混淆矩阵,由混淆矩阵生成基分类器的决策,进而结合分类器之间的相关性度量生成所有的模拟数据.通过实验评估表明,该算法能够模拟任意多个分类器和任意多个模式类别的数据,且能够表达出分类器之间的关联性.又应用生成的模拟数据集对多数投票和堆叠泛化这2种组合方法进行了实验,结果表明分类器之间的负相关有助于提高系统的性能,特别是当单个分类器识别率取0.8、关联度从0.829 5降至-0.484 7时,多数投票和堆叠泛化的性能分别提高了14.98%和41.99%.     

基于聚类技术的集成学习方法研究

研究了基于聚类技术提高分类器差异性的方法.通过Bootstrap技术与分类器学习算法训练分类器模型,利用分类器在验证集上的分类结果作为聚类的数据对象;然后应用聚类算法对这些数据聚类,并在每个簇中选择分类器代表模型,以此构成集成学习的成员;最后应用融合方法实验研究了基于聚类技术提高差异性的集成学习性能,并与集成学习方法bagging,adaboost进行了实验比较.     

基于模糊概念相似性与模糊熵度量的模糊分类算法

在AFS(axiomatic fuzzy set)理论框架下,提出了一种基于模糊概念相似性与模糊熵度量的分类算法.模糊分类规则的前件通过概念聚合得到,一种基于模糊概念相似性与模糊熵度量的概念选择函数指导聚合过程;然后,利用剪枝算法对得到的模糊规则集进行剪枝,得到最终的分类规则集.用8组来自UCI数据库的数据集作为实验数据对算法进行验证,并与7种经典分类方法进行比较.实验结果表明该算法能得到较高的分类精度,分类结果明显优于参照的分类方法.