基于稀疏编码空间金字塔模型的零样本学习

针对目前零样本图像分类均采用图像底层视觉特征训练属性分类器而导致分类精度较低的问题,提出一种基于稀疏编码空间金字塔模型的零样本学习方法,给出系统结构流程图.首先从原始视觉图像中提取SIFT特征,并进行SIFT特征点提取;然后构建空间金字塔最大池化模型,对已提取的SIFT中间特征进行稀疏编码;最后建立间接属性预测模型.给出基于稀疏编码的空间金字塔最大池化模型的零样本学习算法步骤,完成对目标图像的属性预测,从而达到零样本图像分类的目的.在Shoes数据集与OSR数据集上进行了对比试验.结果表明:试验证实了文中算法的有效性;相对于传统算法,试验耗时减少,图像属性预测精度增加,图像分类识别率提高.     

基于RSBRA离散化方法的支持向量机集成

提出一种新的基于离散化方法的支持向量机集成算法,该算法采用粗糙集和布尔推理离散化方法构造有差异的基分类器,进一步提高了集成学习机的分类性能.实验结果表明,所提算法具有明显优于单一支持向量机的分类性能,并能取得比传统的集成学习算法Bagging和Adaboost更高的分类正确率.     

基于Bagging的LDA集成算法及其在人脸识别中的应用

针对线性判别分析(linear discriminant analysis,LDA)在处理人脸图像时对局部变化识别不稳定性的问题,提出一种基于Bagging的LDA人脸识别方法 Bagging LDA.首先将人脸图像集划分成若干子图像集,然后将Bagging应用于每个子图像集并融合初始图像集构建多个LDA分类器,选择其中一个分类性能最好的分类器作为集成基分类器,最后使用权重投票的方法将各个基分类器的分类结果进行组合.仿真结果表明,Bagging LDA算法识别性能好,精度较高,在图像遮挡、表情变化等条件下仍具有较强的稳定性.     

Adaboost算法分类器设计及其应用

Adaboost算法可以将分类效果一般的弱分类器提升为分类效果理想的强分类器,而且不需要预先知道弱分类器的错误率上限,这样就可以应用很多分类效果不稳定的算法来作为Adaboost算法的弱分类器。由于BP神经网络算法自身存在的局限性和对训练样本进行选择的主观性,其分类精度以及扩展性有待提高。将Adaboost算法与BP神经网络相结合,使用神经网络分类模型作为Adaboost算法的弱分类器。算法在matlab中实现。对2个UCI的分类实验数据集进行实验,结果表明Adaboost能有效改善BP神经网络的不足,提高分类正确率和泛化率。     

Adaboost算法分类器设计及其应用

Adaboost算法可以将分类效果一般的弱分类器提升为分类效果理想的强分类器,而且不需要预先知道弱分类器的错误率上限,这样就可以应用很多分类效果不稳定的算法来作为Adaboost算法的弱分类器。由于BP神经网络算法自身存在的局限性和对训练样本进行选择的主观性,其分类精度以及扩展性有待提高。将Adaboost算法与BP神经网络相结合,使用神经网络分类模型作为Adaboost算法的弱分类器。算法在matlab中实现。对2个UCI的分类实验数据集进行实验,结果表明Adaboost能有效改善BP神经网络的不足,提高分类正确率和泛化率。     

基于Spark的组合分类器链多标签分类方法

随着数据挖掘技术在现实问题中的广泛应用,多标签学习现已成为数据挖掘技术中的一个研究热点.组合分类器链(ECC)算法是一种性能较好的多标签分类方法,其分类效果好、准确度高,但该算法的时空复杂度较高,不能适应大规模多标签数据分类任务.为此提出了一种基于Spark的组合分类器链多标签分类方法,将串行组合分类器链算法的各步骤进行了并行化实现.通过单机实验和集群并行化实验,证明该方法对大规模多标签数据集具有良好的适应能力和加速比,且分类效果不输于传统的串行多标签分类方法.     

基于自适应权值的SVM集成学习方法

提出一种自适应权值的支持向量机集成学习方法。该方法以Bagging方法为基础,结合部分AdaBoost算法权值更新的思想,给各个子分类器赋予权值,同时结合支持向量机本身的特性,对训练数据进行选择,加大训练样本的差异性。相比较传统的Bagging方法,结合SVM的特性来更有针对性的训练错分样本。文中使用4个UCI数据集进行对比实验,结果表明本文算法相比较传统的Bagging算法可以在一定程度上提高分类器的泛化能力。     

元学习策略及性能评价

为提高分类系统的性能,提出一种统一多种元学习算法的元学习框架,定义并描述了并行和串行两种组合方式.由基分类器的分类结果构成新属性,并加入到特征向量中以形成元数据.通过扩展特征向量,元学习增强了对假设空间的表达能力,降低了系统的偏差.在加州大学提供的标准数据集上对元学习策略进行了实验研究,结果表明:与多数投票、最大规则、最小规则等融合方法实现的多分类器系统相比,并行和串行组合在所用数据集上的平均分类错误率可分别降低39.12%和40.56%,且在n分交叉验证中n值的增加并不能改进分类性能,串行组合中的基分类器的顺序对分类错误率没有显著影响.     

一种新的选择集成算法

针对一般的选择性集成学习算法在选择分类器阶段需要独立设置验证集因而损失了一定的训练数据的缺点,提出了一种新的选择性集成分类算法FPSE,该算法采用一种基于排序的策略,这种策略在选择阶段就存在速度上的优势;其优势在于不必独立设置验证集,而采取一种将个体选择评估融入在原始数据本身的方法.实验验证了FPSE算法在个体评估策略的有效性,以及较好的泛化性能;对比试验说明了该算法的分类预测表现要优于Bagging算法和AdaBoost算法.     

一适用于超多类手写汉字识别的新改型Adaboost算法

提出一种适用于超多类手写汉字识别的新改型Adaboost算法,采用基于描述性模型的多类分类器（modified quadratic discriminant function,MQDF）作为Adaboost基元分类器,可直接进行多类分类,无需将多类问题转化为多个两类问题处理,其训练复杂度大大低于已有的多类Adaboost算法。算法提出根据广义置信度更新样本权重,实验证明这种算法适用于大规模多类分类问题。为了降低算法的识别复杂度,提出从所有训练后得到的Adaboost基元分类器组中选择一个最优的基元分类器作为最终分类器的方法进行删减。在HCL2000及THOCR-HCD数据集上进行实验证明,所提改型Adaboost算法提高了识别率的有效性,该算法的相对错误率比现有最优算法分别下降了14.3 %,8.1 %和19.5 %。     

基于随机森林算法的旋转机械齿轮组故障诊断

针对单一的分类器用于旋转机械故障诊断时存在准确率不高的问题,提出一种基于随机森林算法的旋转机械齿轮组故障诊断方法。该方法利用随机森林多分类器组合决策树的思想,通过多分类器的组合学习提高故障诊断的准确率,并在风力涡轮动力传动系统故障诊断模拟器系统上进行了多工况多故障的实验验证。首先,收集多工况、多故障的齿轮传感器信号,提取传感器信号的时域特征作为随机森林的输入特征量。然后,利用构建好的随机森林模型进行齿轮组的故障诊断,并将随机森林算法的分类结果与支持向量机方法的分类结果进行对比。通过对故障诊断结果的分析,随机森林算法避免了复杂的寻参过程和传统分类器的过拟合现象,能够处理大规模数据集,通过分类器的组合,提高了故障诊断准确率,并缩短了分类模型的预测时间,具有较好的应用前景。     

一种粗模糊神经分类器

介绍一种新的粗集编码模糊神经分类器。基于粗集理论的概念，讨论了知识编码、属性简化、分类系统简化的方法；并利用模糊隶属度函数将输入精确信息映射为模糊变量信息，解决分类中病态定义的数据问题和提高系统非线性映射的分类能力；提出了结合系统参数的重要性因子的网络的模糊推理方法和粗模糊神经分类器的网络结构以及有导师的最小平方误差学习训练算法。实现的粗集编码模糊神经分类器具有网络结构空间维数低、学习算法简单、网络训练时间短、非线性特性丰富等优点。     

一种改进的BP-Adaboost算法及在雷达多目标分类上的应用

基于BP-Adaboost的目标分类算法用于雷达目标分类具有良好的效果.随着训练样本以及测试样本数增加,经典"一对多(One vs.Rest,OvR)"BP-Adaboost算法所需用时也随之增加.提出一种改进的多分类BP-Adaboost算法应用在雷达多目标分类上,在提高分类准确率的同时,有效地解决经典算法在多分类上时间开销过大的问题.该方法采用二进制方法重新表示样本数据类别,使用Adaboost算法将多个BP神经网络弱分类器集成起来学习,通过修改经典算法中的损失函数连续调整训练样本分布和弱分类器的权重,最终形成一个强分类器.对雷达高分辨率距离像(High Resolution Range Profile,HRRP)数据集进行分类仿真结果表明,相比于单个BP神经网络基学习器,所提算法的分类准确率提高了5%~10%,相比于经典的"一对多"BP-Adaboost算法,该算法所需用时仅为传统算法的1/2~1/3.     

基于AP算法支持向量机的设计与应用

设计一种基于AP聚类算法和SVM分类器相融合的新的混合分类器, 使用AP聚类算法优化数据集, 得到了高质量、 小样本的SVM分类器训练集. 实验结果表明: 与传统的SVM分类器相比, 混合分类器具有更高的分类精度; 在心脏病预测上, 该分类器的效果较好.     

基于SVM的多类分类集成

为了解决单个SVM可能产生的泛化能力恶化问题以及当SVM采用一对多组合策略解决多类分类时可能产生的误差无界情况,本文采用Bagging方法构造了一个基于SVM的多类分类集成模型,利用MIT KDD 99数据集进行仿真实验,通过实验探讨了其中的两个参数——训练样本数和单分类器个数对集成学习效果的影响,并将其与采用全部样本进行训练及部分样本进行训练的单分类器检测进行了比较。结果表明：集成学习算法能够有效降低采用全部样本进行训练所带来的计算复杂性,提高检测精度,而且也能够避免基于采样学习带来检测的不稳定性和低精度。     

面向中文语音情感识别的改进栈式自编码结构

为进一步提高汉语语音情感识别率,基于深度学习中的自编码、降噪自编码及稀疏自编码的网络结构,提出了一种改进的栈式自编码结构.该结构第1层使用降噪自编码学习一个比输入特征维数更大的隐藏特征,第2层采用稀疏自编码学习稀疏性特征,最后使用softmax分类器进行分类识别.训练过程首先采用逐层预训练的方法,达到网络参数全面初始化的目的,然后对整个网络进行微调.在中文语音库上的情感识别实验显示,相较于单独使用栈式降噪或稀疏自编码,所提结构具有更好的识别效果.此外,基于CASIA库的对比实验显示,该结构比K近邻算法、稀疏表示方法、传统支持向量机和人工神经网络识别率分别提高了53.7%,29.8%,14.3%和1.9%.在自行录制的语音库中,该结构的识别率比人工神经网络提高了1.64%.     

基于加速度时域特征和Adaboost-SVM级联分类器的跌倒检测研究

为了提高对跌倒检测的准确性和可靠性,提出了一种基于三轴加速度时域特征和Adaboost SVM级联分类器的跌倒检测方法.首先,利用滑动窗口法提取加速度信号的时域特征作为唯一特征向量,以提高系统检测的实时性;然后,对传统Adaboost算法的样本初始权值部分进行改进,使分类器学习到更多跌倒样本的信息,从而增强系统对跌倒的识别能力;最后,针对日常活动动作类(ADL)的数目远多于跌倒类而导致的数据集不平衡问题,构建了用于跌倒检测的Adaboost-SVM级联分类器,根据级联结构中每个Adaboost分类器所包含的弱分类器数量自动决定是否由SVM替换Adaboost分类器.利用UCI数据库中人体运动数据集进行了实验,结果表明:文中所提方法具有最高的跌倒检测率以及较为优秀的误报警率和准确率,并且证明了放置于胸部和腰部的加速度计能够对跌倒检测产生较好效果.     

基于OS-ELM和SDAE的Wi-Fi入侵检测方法

为解决大多数Wi-Fi网络入侵检测方法实时性差、误报率高等问题,提出一种基于在线序列极限学习机(OS-ELM)的实时Wi-Fi网络入侵检测系统模型.首先,考虑到实验样本数据中正常与异常数据极不平衡的问题,采用SMOTE算法对数据样本中的异常数据和正常数据进行平衡处理操作,使分类器的分类效果不受样本数据集中多数类样本的影响.然后使用栈式降噪自编码网络(SDAE)对平衡后的数据进行降维,消除无关或冗余特征降低检测建模规模,避免维度灾难.最后,在AWID数据集进行处理并输入到OS-ELM分类器中,结果表明:与其他基于浅层学习算法的检测方法相比,所提方法可有效地精简数据特征,降低了检测时间,同时在检测精度和误报率方面也体现出了更优性能.     

一种改进的Adaboost训练算法

针对传统的Adaboost训练算法在训练过程中可能出现训练退化和训练目标类权重分布过适应的问题, 提出一种改进的Adaboost训练算法. 改进算法通过调整加权误差分布限制目标类权重的扩张, 并且最终分类器输出形式以概率值输出代替传统的离散值输出, 提高了训练结果的检测率. 实验结果表明, 改进的Adaboost算法在Inria数据集上取得了较好效果.     

基于MWST+T-K2结构学习算法的贝叶斯分类器

针对K2算法在构建贝叶斯分类器时节点排序不同影响分类准确率的问题,提出了一种MWST+T-K2结构学习算法,运用Matlab软件的BNT工具箱构建了MWST+T-K2分类器,并经过NBC、TANC、MWST和MWST+T-K2分类器对UCI数据库的24个分类数据集进行分类检验.结果表明,对4种分类器在24个数据集上的分类水平进行整体与两两比较时,MWST+T-K2分类器的分类水平均最优;在小数据集上比较时,MWST+T-K2分类器的分类水平取得全局最优,未取得局部最优;在大数据集上比较时,未取得全局或局部最优,低于TANC的分类水平.所以,MWST+T-K2结构学习算法是一种适合构建小数据集贝叶斯分类器的方法.