基于SVM的多类分类集成

为了解决单个SVM可能产生的泛化能力恶化问题以及当SVM采用一对多组合策略解决多类分类时可能产生的误差无界情况,本文采用Bagging方法构造了一个基于SVM的多类分类集成模型,利用MIT KDD 99数据集进行仿真实验,通过实验探讨了其中的两个参数——训练样本数和单分类器个数对集成学习效果的影响,并将其与采用全部样本进行训练及部分样本进行训练的单分类器检测进行了比较。结果表明：集成学习算法能够有效降低采用全部样本进行训练所带来的计算复杂性,提高检测精度,而且也能够避免基于采样学习带来检测的不稳定性和低精度。     

基于模糊粗糙集的半监督影像分类算法

针对影像分类中少量标记样本问题,提出了基于模糊粗糙集的影像半监督分类算法.首先,通过模糊粗糙集对数据的粗糙性与模糊性进行建模,采用归一化的模糊互信息来度量特征与类别信息的相关性,并利用模糊上下近似度量样本的类别隶属度;然后,结合归一化的模糊互信息改进正则化框架下的特征评价方法,在谱图分析的半监督特征选择框架下实现特征优选;其次,结合近邻约束提高模糊上下近似预测样本类别的准确性,设计基于模糊粗糙集的约束自学习,选择信息量大的未标记样本更新训练样本集;最后,利用新的样本集训练分类器,完成影像分类任务.多组实验表明所提算法能够在少量标记样本的条件下有效提高影像的分类精度.     

基于Huffman树的模糊多类支持向量机

针对二叉树多类分类方法存在的问题,提出了一种基于Huffman树的构造过程自下而上生成二叉树结构的方法.为降低二叉树方法"误差累积"的影响,使用模糊支持向量机来训练每个结点的两类分类器.针对设计隶属度函数时仅考虑样本与类别关系,而不考虑样本间关系的问题,提出了根据传统支持向量机构造的超平面做切球来确定样本间关系的方法,有效地区分了有效样本和噪音、孤立点样本.实验结果表明:同其他多类支持向量机方法相比,该方法具有更好的分类性能.     

基于数据模糊性的PU学习研究

PU学习是指从正例样本和无标记样本中训练分类器的一种学习方法.针对传统PU学习中所含初始正例过少,难以有效地从无标记样本中选出可靠负例,且分类过程易受噪声点影响等问题.本文提出了一种基于数据模糊性来提取无标记样本中有效信息的PU学习方法:先对正例无标记样本集进行半监督聚类,选出靠近正例样本的低模糊度数据来扩充初始正例集,并选择远离正例样本的低模糊度数据作为可靠负例;再剪辑掉无标记样本中高模糊度数据;最后在扩充后的正例样本集和可靠负例集上训练分类器,对初始无标记样本集进行分类.在标准数据集上的对比实验证实了提出算法的有效性.     

最短特征线段多分类器系统设计

为提高多分类器系统分类的性能,设计了一种使用最短特征线段分类器的多分类器系统。依据最短特征线段分类算法工作机理,利用特征线段长度表征样本隶属于各个类别的可能性,即模糊隶属度,对成员分类器输出形式完成由摘要级至度量级的重新建模,更多地保留输出细节以减少信息损失,进而利用基于模糊的证据融合规则实现成员分类器的度量级融合,通过隶属度到mass函数的转换,利用模糊-证据融合规则实现多分类器系统的构造,进一步提高了多分类器系统分类性能。采用人工数据集和UCI数据集设计了对比实验,实验表明,与其他邻域型分类器构造的多分类器系统相比,新多分类器系统能有效提升分类正确率。     

基于主动学习SVM分类器的视频分类

提出一种基于主动学习SVM分类器的视频分类算法.该算法分为两个步骤:首先分析并提取与视频类型有关的十维底层视觉特征;然后用SVM分类器建立这些底层特征与视频类型之间的联系.在获取SVM分类器所需的训练样本时,采用主动学习的方法选择对SVM分类器最"有用"的样本提供给用户进行标注,用更少的训练样本获得与大量训练样本近似的分类效果,从而减轻用户标注负担.针对多类SVM分类的主动学习问题,提出用后验概率计算分类器对未标注样本的置信度进行样本选择.实验结果表明,主动学习算法与随机采样标注的被动学习算法相比,在相同的训练样本情况下能够获得更高的分类精度;而基于后验概率选择样本的主动学习要略好于传统的基于变型空间(version space)选择样本的主动学习.     

一种改进的数据挖掘模糊支持向量机分类算法

针对模糊支持向量机(FSVM)应用于数据挖掘分类中存在对大样本集训练速度及分类速度慢的缺点,提出一种改进的数据挖掘模糊支持向量机分类算法.该算法首先预选有效的候选支持向量缩减训练样本集的规模提高训练速度;其次提出一种新的模糊隶属度函数,增强支持向量对构建模糊支持向量机最优分类超平面的作用,并用经过预选的训练样本集进行训练FSVM得到支持向量集;最后,运用粒子群优化算法选择最优支持向量子集,使用平均分类误差作为适应度函数,最终粒子输出时,将样本隶属度与设定阈值相比较,选择出支持向量集中相对较大隶属度的样本作为新的支持向量,提高分类速度.实验结果表明,该算法在不损失分类精度的情况下,提高了模糊支持向量机的训练速度和分类速度.     

基于密度峰值聚类和模糊支持度的boosting随机森林

为了解决传统分类算法在不平衡样本集上分类效果不佳的问题,提出一种新的欠采样boosting集成算法(FECBoost).首先,通过改进的模糊熵反映样本集原始分布的不确定性,并用此模糊熵判断多数类样本所在的区域,称为安全区域或边界区域;其次,利用密度峰值聚类算法选取安全区域的代表性样本以减少分类器的训练时间和样本间的重叠,降低样本的不平衡度,实现静态欠采样;最后,训练新的boosting集成分类器,在算法每一次迭代之前,基于模糊熵和模糊支持度对多数类样本再次欠采样,使用于训练的样本集达到平衡.该动态欠采样依赖于分类器的训练过程,充分考虑了样本分布的不确定性和错分可能性.通过在真实样本集上的仿真实验验证了提出方法的有效性.     

基于AP算法支持向量机的设计与应用

设计一种基于AP聚类算法和SVM分类器相融合的新的混合分类器, 使用AP聚类算法优化数据集, 得到了高质量、 小样本的SVM分类器训练集. 实验结果表明: 与传统的SVM分类器相比, 混合分类器具有更高的分类精度; 在心脏病预测上, 该分类器的效果较好.     

基于局部密度改进的SVM不平衡数据集分类算法

针对不平衡数据集数据分布不均匀及边界模糊的特点,提出基于局部密度改进的SVM不平衡数据集分类算法.该算法先将多数类划分成多个子类,并依据子类内每个样本的局部密度选出边界区域、靠近边界区域的与少数类数目相等的样本,与少数类完成SVM初始分类;用所得的支持向量机和剩余的多数类样本对初始分类器进行迭代优化.结果表明,与WSVM,ALSMOTE-SVM和基本SVM算法相比,该算法分类效果良好,能有效改进SVM算法在分布不均匀及边界模糊数据集上的分类性能.     

基于2DLDA与FSVM的人耳识别

针对人耳图像特征提取和识别方面存在的问题,提出一种将二维线性鉴别分析(2DLDA)和模糊支持向量机(FSVM)相结合的人耳图像识别方法.利用2DLDA将人耳图像直接投影,提取的人耳特征,可以保留人耳图像样本的大量类内和类间信息.同时,FSVM在支持向量机(SVM)的基础上引入隶属度参数,更加适合多类问题.实验结果表明,该方法与2DLDA相比具有更高的识别率.     

基于核主元分析与支持向量机的监控诊断方法及其应用

为了及时反映密闭鼓风炉冶炼过程状态,实现对密闭鼓风炉炉况的监控与诊断,提出核主元分析和多支持向量机分类的相结合的过程监控与故障诊断方法.其原理是:首先,用核主元分析方法提取过程数据特征,建立核主元分析的监控模型;然后,将代表过程特征的核主元送入多支持向量机分类器中,利用"一对其余"算法对故障进行诊断与分类.实验结果表明,所提出的方法与传统的主元分析方法相比,整个样本集的可分性变大,分类正确率提高,能更准确地诊断炉子的各种故障,可有效地用于密闭鼓风炉冶炼过程的故障诊断.     

基于选择性集成的情感识别

当前，情感识别已经成为情感计算中一个重要研究问题。传统的情感识别方法有人工神经网络（ANN）的 情感识别、模糊集的情感识别、支持向量机的情感识别和隐马尔可夫模型（HMM）的情感识别等。将选择性集成的 方法应用到情感识别中，该方法通过训练数据集的随机数抽取、训练，得到一批候选分类器，并通过差异性计算，挑选出大于平均差异性水平的分类器用来做最终情感识别。实验表明，该方法比传统的识别方法以及bagging集成 方法的效果都好,能有效地提高情感识别的精度。     

基于SVM的车牌字符识别算法研究

SVM可在训练样本很少的情况下获得很好的分类推广能力。首先分析了用多类SVM算法对车牌中的字符进行识别时存在不可区分的区域问题和采用模糊SVM算法解决该问题的办法,然后讨论了字符特征的提取方法,并根据我国车牌字符的特点分别设计了汉字、字母、数字、字母/数字4个基于模糊多类SVM的字符分类器。最后在MATLAB环境下,采用径向基核函数对算法进行学习训练。实验测试结果表明,该方法可以很好的提高字符识别的速率和效率。     

基于一类SVM概率密度估计的多分类贝叶斯算法研究

为降低训练分类器的运算复杂度，并解决支持向量机（SVM）对多类分类问题没有特别有效解决方法的问 题。提出了一种基于一类支持向量机的多分类贝叶斯算法，证明了基于径向基核函数的一类SVM的分类函数归 一化为密度函数，并将所得的概率密度函数用于构造二分类及多分类贝叶斯分类器。仿真实验将提出的多分类贝 叶斯算法应用于多类通信信号调制识别，结果表明：该算法的分类准确率不低于传统SVM多分类器，而在多类属、 每类训练样本数目较大的情况下训练所需的运算量和存储量仅是传统SVM多分类算法的0.5%大大减小了核 矩阵规模和     

基于多类支持向量机的遥感图像分类及其半监督式改进策略

基于神经网络的遥感图像分类取得了较好的效果,但存在固有的过学习、易陷入局部极小等缺点.支持向量机机器学习方法,根据结构风险最小化(SRM)原理,表现出很多优于其他传统方法的性能,本研究的基于多类支持向量机分类器的遥感图像分类取得了达95.4％的分类精度.但由于遥感图像分类类别多,所需训练样本较大,人工选择效率较低,为此提出以人工选择初始聚类质心、C均值模糊聚类算法自动标注训练样本的基于多类支持向量机的半监督式遥感图像分类方法,期望能在获得适用的分类精度的基础上有效提高分类效率.     

基于模糊SVM与周期分析的股票预测

基于模糊SVM与周期分析的股票预测方法通过选取曲率变化大、形式简单的幂函数作为候选隶属度函数,并采用格子搜索法寻找最优参数,确定出最优模糊隶属度,同时又结合寻找股票波动的工具：市场周期分析法．仿真实验表明：在利用模糊SVM训练时间序列数据集时,该方法比目前常用的选择模糊隶属度、以及单独用最优模糊隶属度方法的效果都好．     

关于支持向量机DirectSVM算法的探讨

DirectSVM算法是求解支持向量机的一种简单快速迭代算法,具有最好的几何直观性.算法将线性可分的两类样本中距离最近的两个异类样本点作为支持向量,以该两点连线的垂直平分面作为初始分类超平面,然后根据分类情况逐步确定新的支持向量,即逐步优化出最优分类超平面.对该算法进行了测试,发现该算法具有局限性,并对算法局限性产生的根源进行了分析,对如何合理使用DirectSVM算法进行了讨论.结论是:用DirectSVM算法直接求解最优分类面是不可靠的,但可以作为支持向量机的一种近似算法,也可以作为求解候选支持向量集的方法,再与其他经典算法结合使用.     

基于模糊机会约束的超球支持向量机

针对不确定数据多分类问题,提出一种基于模糊机会约束的超球支持向量机（FCC-HSVM）.在球结构支持向量机的基础上,引入模糊事件的可能性测度,得到模糊机会约束规划及其对偶规划.利用球结构的优点,每类样本只参与一个超球体的训练,直接求解多分类模型,提出FCC-HSVM的快速学习算法,显著缩短多分类情况下训练时间.数据试验表明：这种支持向量机分类精度较高,训练速度快,适合解决不确定数据多分类问题.     

基于可靠性测度的多类支持向量机

多类分类问题是我们经常遇到的问题,常用的方法是将多类问题转化为若干个二类问题,然后利用二类支持向量机(support vector machine,SVM)进行分类,如一对余SVM,一对一SVM,决策树SVM等.在这些方法中,大都没有考虑所生成的多个分类器之间的可靠性和重要性问题.为了改进这一点,本文以一对余SVM为例,提出了两种基于可靠性测度的多类分类算法,算法的思想可用于一对一SVM,决策树SVM等其他多种分类器中.为了检验所提算法的有效性,本文进行了比较试验,实验结果表明所提算法不仅提高了分类准确度,而且具有更为广泛的推广能力.