加权线性支持向量分类机问题解的强二阶充分条件

支持向量机是数据挖掘的新方法。支持向量机所对应的优化问题解的二阶充分条件是研究其灵敏度分析的重要基础。很弱的假设对于作为其特例的线性可分支持向量机问题一定成立,线性可分支持向量机问题解一定具有强二阶充分条件的性质;在这个假设条件下,线性支持向量分类机问题的解具有二阶充分条件性质。研究表明线性支持向量分类机问题的解在很大程度上具有二阶充分条件的性质。     

C-SVM和v-SVM的对偶问题最优解关系的一个补充证明

对两种支持向量分类机C-支持向量机(C-SVM)和v-支持向量机(v-SVM)的对偶问题,补充了"v-SVM的对偶问题最优值为零时,b<0的情况下,相应的C-SVM的对偶问题存在与其相同的最优解集"的详细证明过程.     

线性支持向量分类机的平凡解

对二类分类问题,在线性可分或近似线性可分情况下,对线性支持向量分类机的平凡解进行了讨论,得出了解为平凡解的充要条件,说明了其几何意义,指出了避免出现这一现象的解决办法.该充要条件表明:对给定的训练集T,最优解是否为平凡解取决于训练集T的样本点在空间的分布位置,与惩罚参数C值的选取无关.一旦出现平凡解,线性支持向量分类机将会失效.为解决这一问题,可通过增加或减少训练集T中的样本点来实现.     

马氏度量下局部化广义特征值最接近支持向量机

局部化广义特征值最接近支持向量机(Localized GEPSVM,LGEPSVM)是从广义特征值最接近支持向量机(GEPSVM:Proximal Support Vector Machine via Generalized Eigenvalues)衍生而来,其原理是在GEPSVM通过求解广义特征值获得两个彼此不平行的超平面的基础上,分别求解两个超平面的凸壳,修改GEPSVM的分类判据为将测试样本归为距其最近凸壳所属的那一类.分析和实验表明,LGEPSVM较之GEPSVM具有更高的分类精度.然而,由于LGEPSVM在训练和分类过程中都涉及凸壳计算问题,因而费时较多.为了缓解这一问题,本文提出的基于马氏度量的最小椭圆凸壳算法MLGEPSVM(LGEPSVM based on Mahalanobis Metric),即分类时只需要判断样本与对应椭圆凸壳的距离.较之LGEPSVM和GEPSVM,MLGEPSVM具有如下几个特点:(1)给出了马氏度量下的椭圆凸壳计算方法,(2)分类速度更快,(3)更低的存储空间,每类样本仅需存储椭圆凸壳(可通过中心和协方差表示),而不是所有的凸壳顶点.在人工和标准数据集上的实验,验证了MLGEPSVM的上述性能.     

强有效点和严有效点的等价性

在hausdorff局部凸拓扑线性空间中,讨论集值向量优化问题两种真有效解的等价性问题。强有效性和严有效性是优化理论中2个重要的基本概念,目前已得到对凸集而言这2种有效性是等价的结论。近似锥-次类凸性是比凸性更弱的一类重要的广义凸性,在集值映射的近似锥-次类凸性条件下,利用凸集分离定理得到了严有效性和强有效性等价这一结论,从而推广了严有效点集和强有效点集对凸集而言相等的结果,所得结果丰富了优化理论的内容。     

一个新的稀疏支持向量机模型

文章探讨了一新的稀疏支持向量机模型,该算法在标准支持向量机中增加一个对损失向量的约束用于控制支持向量的数目从而提高稀疏性.由于增加该约束使得优化问题变为非凸的,文中用较弱的约束替代原约束并得其对偶问题.经实验表明新提出的该模型比标准模型更为稀疏.     

一种近似于支持向量机的分类模型

针对线性可分与非线性可分问题,讨论了支持向量机分类模型及核函数的选择.为避免支持向量机的核函数及参数选择的不确定性,提出一种近似于支持向量机的分类模型,并通过心脏病预测实例对两种模型进行了比较.     

基于凸壳的支持向量机训练集选取算法研究

基于对支持向量机训练算法的研究与理解,针对支持向量的几何特点,结合凸壳的几何性质,对支持向量机训练算法的工作集选取进行了改进.在LIBSVM的环境下进行了对比分析.数值实验表明,改进的基于凸壳的训练数据选取算法缩短了训练时间并保持了良好的泛化能力,具有一定的参考价值.     

SK算法的核化及其在医学诊断中的应用

Schlesinger-Kozinec(SK)算法是一种典型的几何类支持向量机求解方法,具有理论基础坚实、分类过程直观等优点.对于线性可分的两类样本,SK算法可通过它们凸包间的最近点来求解分类超平面.对于非线性可分问题,核函数首先被引入,它能够实现原空间到高维特征空间的映射变换,即将特征空间中的内积运算转换为原空间的函数形式.然后,SK算法在特征空间中完成分类任务.文中首先介绍SK算法的步骤和几何意义.然后详细分析非线性可分条件下,SK算法的核化问题,并重点强调了一些运算过程的内积表达.最后,在医学诊断这一特定分类问题上对核化的SK算法进行实验测评.结果表明,相比于其他的经典支持向量机实现,核化的SK算法能够获得更高的诊断准确率.     

一种求解分类问题的优化算法

给出了一类线性分类算法的数学描述,在求解分类问题的平分最近点法与最大间隔法的基础上,将线性分类问题转化为一类无约束不可微优化问题。设计了一种求解该问题的不可微优化算法,并证明了算法的收敛性。初步的数值例子表明该算法是有效的,且具有简单实用的特点。     

关于支持向量机DirectSVM算法的探讨

DirectSVM算法是求解支持向量机的一种简单快速迭代算法,具有最好的几何直观性.算法将线性可分的两类样本中距离最近的两个异类样本点作为支持向量,以该两点连线的垂直平分面作为初始分类超平面,然后根据分类情况逐步确定新的支持向量,即逐步优化出最优分类超平面.对该算法进行了测试,发现该算法具有局限性,并对算法局限性产生的根源进行了分析,对如何合理使用DirectSVM算法进行了讨论.结论是:用DirectSVM算法直接求解最优分类面是不可靠的,但可以作为支持向量机的一种近似算法,也可以作为求解候选支持向量集的方法,再与其他经典算法结合使用.     

非锥凸最优化问题中的可行距离

当一般的非锥凸最优化问题或其对偶不可行时, 通过引入可行距离这一概念, 讨论新系统的可行性,并考察了在新系统中可行距离的性质, 得到了与其等价的可计算的优化形式.     

一种简单多边形凸包的快速算法及程序设计

给出了一种求简单多边形凸包的快速算法，此算法采取将各个点按与X轴的夹角顺次排列，然后逐渐地删除凹顶点，求得简单多边形的凸包，并给出了算法的数据结构．算法达到了O(nlogn)的理论时间复杂度下限．     

基于最小二乘法的无监督支持向量机

将最小二乘支持向量机的思想引入无监督学习,提出一个最小二乘无监督支持向量机.首先假设超平面过样本中心点,再给出线性可分的条件构造目标函数和约束条件,从而得到一个线性规划问题去求解聚类问题.     

集值优化问题超鞍点的最优性条件

在Hausdorff局部凸拓扑线性空间中, 利用Lagrange集 值映射, 对集值优化问题(SOP), 引进了集值映射超鞍点的概念. 利用凸集分离定理证明了两个标量化引理, 并得到了超鞍点定理和超鞍点的等价刻画定理, 从而解决了用超鞍点刻画超有效性的问题.     

框式可分凸二次规划的不可行内点算法

对框式约束的可分凸二次规划提出了1个原始－对偶不可行内点算法，并证明了该算法是1个多项式时间算法。     

近于凸函数的一些子类

文中给出了近于凸函数的一些子类，给出了这些子类的系数界。增长定理，导函数增长定理，导函数的幅角估计，一些形式的积分平均，给出了这些子类的闭凸包，导函数的闭凸包，给出了闭凸包的极端点及导函数闭凸包极端点的部分刻画，特别地推广了文献〔１〕中的结果。