基于支持向量机的主动学习方法及其实现

根据主动学习可以有效地减少标注样本的代价这一特点,设计了一种基于SVM的主动学习方法.仿真实验中,检验分类正确率和F测度这两类评估指标,结果表明基于SVM的主动学习的学习效果优于被动学习.     

基于支持向量机的信用评估模型及风险评价

运用基于支持向量机理来建立一个新的个人信用评估预测模型,以期取得更好的预测分类能力.并对SVM分类结果与三层全连接BPN分类结果进行了比较.结果表明,在判别潜在的贷款申请者中支持向量的判别结果比神经网络的要好.为了减小训练集偏差及为了验证两种方法的鲁棒性,基于两种策略(平衡样本与非平衡样本)交叉验证来进一步评价SVM分类准确性,并对两种方法基于两种策略的误分类作了风险代价分析.     

通过特征权学习增强支持向量机的泛化能力

在分类问题中,支持向量机(SVM)首先将样本映入某一高维特征空间,并在此空间中构造具有最大间隔的分类超平面.由Vapnik的统计学习理论知道,SVM泛化能力的强弱与分类超平面间隔的大小有十分密切的关系:分类平面的间隔越大,SVM的泛化能力就越强.本文提出了一种通过特征权学习来增加分类超平面的间隔,从而增强SVM泛化能力的方法.仿真试验表明,该方法对提高SVM的泛化能力是有效的.     

基于主动学习SVM分类器的视频分类

提出一种基于主动学习SVM分类器的视频分类算法.该算法分为两个步骤:首先分析并提取与视频类型有关的十维底层视觉特征;然后用SVM分类器建立这些底层特征与视频类型之间的联系.在获取SVM分类器所需的训练样本时,采用主动学习的方法选择对SVM分类器最"有用"的样本提供给用户进行标注,用更少的训练样本获得与大量训练样本近似的分类效果,从而减轻用户标注负担.针对多类SVM分类的主动学习问题,提出用后验概率计算分类器对未标注样本的置信度进行样本选择.实验结果表明,主动学习算法与随机采样标注的被动学习算法相比,在相同的训练样本情况下能够获得更高的分类精度;而基于后验概率选择样本的主动学习要略好于传统的基于变型空间(version space)选择样本的主动学习.     

基于小波变换和SVM的文本区域定位

提出了一种基于小波变换和支持向量机(SVM)在数字图像中定位文本的方法.对图像进行小波变换,并在低频概貌和高频能量空间应用SVM提取文本的纹理特征,由SVM来决定当前的像素是文本类还是非文本类.因为SVM的分类结果可能存在噪声或错误,用形态学去噪和计算纹理能量的方法对SVM的分类结果进行后处理.小波变换和SVM的结合,不仅降低了输入空间样本的数量,而且利用了SVM适合于高维空间工作的特点,提高了文本提取的效率.实验结果表明,提出的方法可以快速有效地定位数字图像中的文本区域.     

基于Bootstrap-异质SVM集成学习的肺结节分类方法

为了对肺结节的良、恶性诊断形成定量的客观分析和提高良、恶性的分类正确率,针对肺结节CT图像提出了一种基于Bootstrap-异质SVM的集成学习方法.首先,采用模糊聚类图像分割方法提取肺结节,计算提取出的结节特征参数用于学习分类.然后,以支持向量机(SVM)在不同核函数下的不同性能构造高差异性的子学习器,在子学习器中引入Bootstrap算法来提高其学习精度,通过集成学习方法实现学习器分类性能的整体改善.对146个(40个良性,106个恶性)肺结节样本分别利用单个SVM、BP神经网络和Bootstrap-异质SVM集成学习方法进行了学习测试,获得的最高分类正确率分别为80%,、82%,和90%,.实验结果表明:提出的Bootstrap-异质SVM集成学习方法将单个SVM分类器的最高正确率提高了10%,,同时也获得了高于BP神经网络8%,的分类正确率和较好的学习稳定性,有效地改善了机器学习在不平衡数据集下对肺结节良恶性的分类能力.     

岩体质量评价的分形插值模型

岩体质量分类是一个复杂的不确定系统问题,为准确评价岩体质量所处的分类状态,进而为岩体质量的防治提供科学依据,提出基于分形-插值模型的岩体质量评价方法.该方法首先选取影响岩体质量评价的8个主要因素,根据分类标准,采用在每级标准中随机内插的方法,得到50个标准样本,用于构建岩体质量评价的分形-插值模型;其次,根据最大似然分类原则确定每个岩体质量评价指标的评价分维数;然后,利用加权求和法计算样本的综合评价值,并根据样本综合评价值与经验等级之间的关系建立分形-插值评价模型;最后,通过实例分析表明:该模型的评价结果是准确和可靠的,与采用其他分类方法所得结论一致.此外,该模型可以得出每个样本的具体得分值,即使对属于同一级的样本也可以排出它们的优劣顺序,因而具有较高的分类精度,为岩体质量评价提供了一种较好的新方法.     

一种基于组合保留集的SVM增量学习算法

传统的支持向量机(Support Vector Machine,SVM)分类算法不具有增量学习能力,为了减少新增样本加入后重新训练的时间并能适应海量数据的准确分类,提出了一种基于组合保留集的SVM增量学习算法.该算法以构建保留集为基础,采用缩放平移选择法选择样本,且利用了组合保留的思想,对原训练集样本和增量样本集中满足KKT(Karush-Kuhn-Tucker)条件的样本分别进行部分保留,并赋予样本权重,再依据权重挑选部分保留样本与原支持向量集和增量样本中违背KKT条件的样本合并进行训练,从而实现原有样本知识的积累和新样本知识的学习.实验结果表明,该算法在加快分类速度的同时提高了分类精度.     

基于半监督学习的SVM-KNN

提出一种新的基于半监督的SVM-KNN分类方法,当可用的训练样本较少时,使用SVM进行分类,不能得到准确的分类边界,本文采用半监督学习策略从大量未标记样本中提取边界向量来改善SVM.KNN分类器的引进不仅扩充了SVM的训练样本数目,而且优化了迭代过程中训练样本的标记质量,可不断修复SVM的分类边界.实验结果表明,所提出的方法能提高SVM算法的分类精度,通过调整参数能够获得更好的分类效果,同时也减小了标记大量未标记样本的代价.     

基于双支持向量机的大样本分类算法

针对支持向量机(Support Vector Machine,SVM)处理大规模样本分类的学习效率降低问题,提出两阶段学习的支持向量机算法。该方法首先在正负类分别进行无监督聚类,提取各个聚类质心组成约简训练集,进行初次SVM训练;然后,根据初次训练结果选取边界样本集,参与第二次SVM训练。在UCI数据集上的实验结果表明,所提方法在保持分类泛化性能的同时,提高了模型的训练速度。