迭代算法求解支持向量机中的分离超平面

支持向量机的关键在于获取分离超平面,一般是基于规划的学习算法,把求解问题转化成凸二次规划问题.采用感知机的迭代算法思路求解支持向量机的分离超平面,算法包括两个迭代过程,首先利用感知机的迭代算法获取一个分离超平面作为初始分离超平面;然后将初始分离超平面不断地旋转和平移,直至正类集和负类集的支持向量到分离超平面的距离相等,此时的分离超平面就是支持向量机的分离超平面.最后分别采用解凸二次规划方法和迭代算法对鸢花分类数据进行学习,获得的支持向量和分离超平面完全一致,说明该迭代算法简单有效.     

运用EO-1 Hyperion数据和单类支持向量机方法提取岩性信息

将扩展的单类支持向量机方法运用到高光谱岩性识别中, 并分析和评价该方法的性能。利用单类支持向量机分别提取各个感兴趣的岩性类别, 对于被识别为多个岩性类别的像元, 根据该像元与每个单类支持向量机所确定的分类超平面的距离来确定属于哪一类别, 这样, 利用扩展的单类支持向量机来可提取多个感兴趣的岩性类别。将该方法运用到新疆准噶尔地区的EO-1 Hyperion高光谱数据岩性分类中, 并与传统的光谱角制图方法进行比较。结果表明, 扩展的单类支持向量机方法的岩性分类精度显著高于光谱角制图方法, 是一种新的可用于高光谱数据的岩性分类方法。     

关于支持向量机DirectSVM算法的探讨

DirectSVM算法是求解支持向量机的一种简单快速迭代算法,具有最好的几何直观性.算法将线性可分的两类样本中距离最近的两个异类样本点作为支持向量,以该两点连线的垂直平分面作为初始分类超平面,然后根据分类情况逐步确定新的支持向量,即逐步优化出最优分类超平面.对该算法进行了测试,发现该算法具有局限性,并对算法局限性产生的根源进行了分析,对如何合理使用DirectSVM算法进行了讨论.结论是:用DirectSVM算法直接求解最优分类面是不可靠的,但可以作为支持向量机的一种近似算法,也可以作为求解候选支持向量集的方法,再与其他经典算法结合使用.     

一种基于支持向量机中分离超平面求取的算法*

支持向量机的关键在于获取分离超平面,先用感知机的迭代算法获取初始分离超平面,然后将初始分离超平面不断地旋转和平移,直至几何间隔达到最大且完全分离训练数据集,此时的分离超平面就近似支持向量机的分离超平面,分类效果最好,并使用分类数据进行检验,说明此方法有效。     

基于二次规划的无监督支持向量机

支持向量机在分类中的推广能力是非常显著的.通过构造目标函数和约束条件,借助二次规划模型提出了一种无监督支持向量机,它能在聚类的同时求出最优分类超平面并保证了支持向量机的推广能力.     

基于特征缺省的最小类内方差支持向量机

最近提出的基于特征缺失的支持向量机(support vector machine with absent features,AF-SVM)在处理具有特征缺失的数据分类时,得到的分类超平面不能很好地适应数据的总体分布,并存在两类误分的比例相差比较大的问题。为此,本文通过引入最小类内方差支持向量机(minimum class variance SVM, MCVSVM)分类机制,提出了基于特征缺失的最小类内方差支持向量机(minimum within-class variance SVM with absent features,AF-V-SVM)。AF-V-SVM一方面可以依据数据集的分布特性,改善分类超平面的方向性;另一方面,通过自由设置分类间隔的定义空间,调整误分的比例。实验表明,与其他基于特征缺省的分类方法相比,该方法不仅提高了分类正确率而且使分类效果更加合理。     

一种基于动态类中心模型选择的模糊支持向量机

模糊支持向量机的核心思想是赋予样本模糊隶属度,给每个样本以不同的权重,从而克服标准支持向量机对噪声和异常点敏感的问题.现有的模糊支持向量机算法通常以样本与类中心距离为基础,给每个样本赋予一个固定的隶属度,没有根据样本分布对隶属度做进一步修正.提出了一种新的动态方式赋予样本隶属度,利用萤火虫算法不断地更新样本中心的位置和隶属度函数,同时利用粒子群算法优化模糊支持向量机参数.在UCI数据集上的实验结果表明,该算法可以有效减少噪声和野点对超平面的影响,分类性能要优于几类常用的模糊支持向量机算法.     

基于支持向量机的多类分类算法研究

基于支持向量机的多类分类方法通常采用多个标准的二分类支持向量机来求解,在一对一多类分类方法的基础上,通过对构成分类边界的超平面的研究,引入了"核空间距离",并提出有效的算法减少分类超平面的数量,并在UCI数据库上进行实验,结果表明能够提高测试效率以及分类精确度,减少了过学习问题的产生,具有更好的推广性能。     

基于pinball损失的一对一加权孪生支持向量机

孪生支持向量机通过求解2个较小二次规划问题得到一对非平行超平面,从时间和准确率方面提高了分类器的性能.由于此方法使用Hinge损失函数,造成孪生支持向量机对噪声较为敏感以及重采样的不稳定.为此,针对多分类问题,将pinball损失函数与样本权重引入到孪生支持向量机中,采用一对一方法组合二分类器,提出了基于pinball损失的一对一加权孪生支持向量机,较好地解决了孪生支持向量机对噪声的敏感性以及重采样的不稳定性.另外,对于样本的不同影响,给出了多种求取样本权重的方法.实验中选取标准数据集和人工合成数据集对提出的算法进行了验证,并与一对一孪生支持向量机(OVO-TWSVM)、一对多孪生支持向量机(OVA-TWSVM)以及基于pinball损失的一对一加权孪生支持向量机(Pin-OVO-TWSVM)进行了比较,表明了提出方法的有效性.     

样本不均衡条件下基于自调整支持向量机的故障诊断

故障数据样本和正常运行数据样本量的不均衡将导致支持向量机在构建故障分类超平面时发生偏移,降低了基于支持向量机的故障诊断的诊断准确率. 针对该问题,文中提出一种能够自动调整风险惩罚因子的新型支持向量机. 该方法能够自举式地对有效样本进行挑选,并加大高信息量数据样本的风险惩罚因子,抑制样本不均衡导致的分类超平面偏移,进而提高故障诊断的准确性. 所提方法被用于变压器故障诊断实验,实验过程中正负样本的风险损失始终相等,有效地抑制了样本不均衡现象对诊断造成的影响,验证了所提算法的有效性.