一种求支持向量机光滑函数的新方法

光滑函数在支持向量机中起着重要作用.用插值函数的方法曾导出了一个求光滑函数的递推公式,然而,用该递推公式求光滑函数还很繁琐.针对该问题,用积分的方法得到了求多项式光滑函数的一个新递推公式.算例表明,用新递推公式求光滑函数比原递推公式简单得多,为研究支持向量机的光滑函数提供了一种新方法.     

自训练多项式光滑的半监督支持向量机

为了处理自训练半监督支持向量机算法中每次循环都需要求解二次规划因此效率低的问题,采用直接求解支持向量机的原始优化问题,由此得到一个不光滑的无约束优化问题.将正号函数展开为无穷多项式级数,由此得到了一族光滑函数,用多项式光滑函数对无约束优化问题进行逼近,并用共轭梯度算法求解模型.在人工数据和UCI数据集上的实验结果显示,给出的算法效率高,能保证标记样本很少时的分类精度并且不因标记样本的增多而明显提高分类精度.     

一种新隶属度函数的模糊支持向量机

传统的模糊支持向量机隶属度函数都是基于样本与类中心距离进行设计,这对非球形分布数据很不合理.使用类内超平面代替类中心,提出基于样本到超平面距离的新隶属度函数设计方法.该方法克服传统方法的不足,降低隶属度函数对样本集几何形状的依赖,提高模糊支持向量机的泛化能力.数值实验表明,与支持向量机和三种不同隶属度函数的模糊支持向量机相比,新隶属度函数的模糊支持向量机达到最好的分类效果,而且新隶属度方法的简单易行,计算时间少.     

多项式光滑的半监督支持向量分类机

为了处理半监督支持向量分类优化中的非凸非光滑问题,引入一族多项式光滑函数来逼近非凸的目标函数,给出的多项式函数在样本的高密度区逼近精度高,逼近精度低时出现在样本的低密度区,同时可以根据不同的精度要求选择不同的逼近函数.采用BFGS算法求解模型.在人工数据和UCI数据集上的实验结果显示,算法不仅能保证标号数据很少时的分类精度,而且不因标号数据的增多而明显提高分类性能,因此给出的分类器性能是稳定的.     

一类快速模糊支持向量机

由H.P.Huang、C.F.Lin等人和T.Inoue,S.Abe等人提出的两类模糊支持向量机是两种类型的改进支持向量机,分别克服了过学习问题和减少了多类问题分类时存在的不可分区域。如何处理异常数据和加速训练大规模数据集是支持向量机中的急需解决的两个问题。针对这两个问题,提出了一类将两类模糊支持向量机集成的快速模糊支持向量机。训练时,根据每类数据与其类中心的距离,定义隶属函数,以加大对容易被错分样本的惩罚,利用合适的参数λ选取了每类数据中隶属度值较大的边缘数据构造模糊支持向量机,测试时,利用1-a-1和模糊支持向量机的决策函数判定未知样本的类别。含有异常数据的两类问题和机器学习数据集中手写数字识别的多类问题的实验结果,验证了提出的快速模糊支持向量机减少了训练时间同时提高了学习机的推广能力。     

消费者信用评估中支持向量机方法研究

消费者信用评估是金融与银行界研究的重要内容，最近的研究显示统计学习理论(SLT)方法在信用评估中有优势。本文在信用评估中应用了一种新的方法——支持向量机方法(SVM)，该方法属于机器学习理论发展的最新阶段，具有专门针对有限样本、算法复杂度与样本维数无关等优点。使用真实的信用卡数据实证结果表明，本方法具有较好的预测能力，在与国内某商业银行现有信用卡个人信用评估方法的对比研究中，该方法具有明显的优势。     

训练支持向量机的低维Newton算法

支持向量机是基于统计学习理论的结构风险最小化原理提出来的一种新的学习算法,它把模式识别问题建模为一个简单约束的高维对偶二次规划问题.针对原二次规划的特点,线性分类问题可等价化为低维的无约束不可微优化问题,并可通过批处理训练来提高训练速度,降低存储空间复杂度.采用熵罚函数法处理不可微优化问题,对收敛性进行了验证,并提出了Newton型求解算法.数据仿真结果表明,该算法在低存储需求下可有效提高大数据量问题的训练学习速度.     

系统辨识中支持向量机核函数及其参数的研究

具有不同核函数和参数的支持向量机（SVM）的性能存在很大差异，核函数及其参数的选择是SVM应用和理论研究中的一个重要问题。在简要介绍非线性系统辨识的支持向量机方法后，重点对常用的核函数及其参数的选择进行了研究，并采用具有不同核函数的SVM进行非线性系境辩识。大量实验结果表明，采用SVM方法进行系统辨识时，径向基核函数（RBKF）比其它核函数的辨识效果好，且RBKF的参数选择较容易，当参数在有效范围内改变时，空间复杂度变化小，易于实现。因此，RBKF是系统辨识SVM的较好选择。     

基于支持向量机的中文文本自动分类研究

提出了一种基于支持向量机的文本自动分类方法,并进行了实验研究。在详细介绍了进行文本分类的实验过程和在实验中使用支持向量机的方法的基础上,通过实验比较了支持向量机算法和传统的KNN算法应用于文本分类的效果,并针对支持向量机算法的缺点,提出了进行文本预处理时的改进方法。实验结果表明了支持向量机在处理文本分类问题上的优越性。     

改进的支持向量回归机

标准的支持向量回归机中原始最优化问题的目标函数有两部分：一部分是衡量经验风险的，另一部分是衡量推广能力的。本文引入一个凸函数来代替衡量推广能力的部分，讨论了当这个凸函数取不同的形式时支持向量回归机的变形，这些模型不再要求核函数必须对称正定，从而为我们可以得到更灵活的回归曲面提供了有效的工具。     

New robust unsupervised support vector machines

This paper proposes robust version to unsupervised classification algorithm based on modified robust version of primal problem of standard SVMs, which directly relaxes it with label variables to a semi-definite programming. Numerical results confirm the robustness of the proposed method.     

基于相异度核空间的支持向量机算法

提出基于相异度核空间的混合流形学习与支持向量机(SVMs)算法用于解决高维数据分类问题. 该算法使用SVMs对流形学习降维后的低维嵌入做分类.通过加常数方法构造了衡量数据点相异度的特征空间. 证明了该特征空间不仅能够衡量数据点之间的相异度,还满足Mercer条件对于支持向量机分类核空间的半正定性的要求. 在仿真实验中,采用UCI机器学习数据库上标准分类数据集为样本. 对比构造的相异度核空间与常用核函数如线性核、多项式核、高斯核在支持向量机分类时的 分类精度来验证有效性和优越性.     

支持向量机参数选择方法研究

针对支持向量机的参数选择问题,提出了一种最优化选择方法。通过分析支持向量个数与留一法的关系以及支持向量机参数的几何意义和对推广能力的影响,该算法利用支持向量机比例来衡量参数选择时推广能力的变化,使用不同的规则更新核参数和惩罚因子,简化了参数选择的难度。理论分析证明这种最小最大化参数选择方法可以选择支持向量机参数,仿真试验验证了该方法的有效性。     

训练支持向量机的四重序列解析优化算法

为了提高训练支持向量机的序列最小优化算法的学习性能, 依据 在每次迭代中选取多个变量同时优化可能会减少迭代次数和缩短训练时间的这一想法, 提出了一个训练支持向量机的快速算法-四重序列解析优化方法, 并给出了一个重要定理, 使得相应的子问题有解析解, 从而能够更加精确和快速地逼近最优解. 在两个公共数据集上的仿真结果表明: 该方法比其它算法有较好的学习性能-在相同训练精度的条件下,不仅缩短了训练时间, 而且计算复杂度减小.     

改进的渐进直推式支持向量机算法

针对半监督学习中渐进直推支持向量机(Progressive Transductive Support Vector Machines, PTSVM)算法存在训练速度慢, 回溯式学习多,学习性能不稳定的问题,提出一种改进的渐进直推支持向量机算法---IPTSVM.该算法利用支持向量的信息选择新标注的无标签的样本点,结合增量支持向量机的迭代更新算法, 继承渐进直推支持向量机渐进赋值和动态调整的规则, 与PTSVM相比,不仅在一般情况下提高了分类的精度,而且大大提高了算法的速度.在人工模拟数据和真实数据上的实验结果表明了该算法的有效性.     

基于模糊积分的支持向量机动态集成方法

确定模糊密度是应用模糊积分进行融合的核心问题。分析了目前存在的各类模糊密度赋值方法存在的不足,在探索证据相互关系的基础上,提出了证据支持度的概念,并基于证据支持度给出了一种动态模糊密度赋值方法,分析了分类器之间的差异性对证据支持度的影响,引入了影响因子,进一步完善了证据支持度的内涵。实验表明,本文算法较之单支持向量机、基于投票的支持向量机、以基分类器精度作为模糊密度的静态模糊积分支持向量机集成以及一种基于自适应模糊密度赋值的模糊积分方法用于支持向量机集成,分类精度均得到提升。     

基于支持向量机的轰炸机敏感性权衡优化

生存力中敏感性方案的设计及改进是一个效益和代价不断权衡的过程。针对轰炸机敏感性权衡中的效益-费用优化问题,研究了基于支持向量机的轰炸机敏感性权衡方法。建立支持向量机代理模型,简化了敏感性的计算,并利用交叉验证和网格搜索对模型参数进行优化;拟合了轰炸机敏感性参数与增加费用的函数关系,将灵敏度理论引入敏感性权衡中,从最优效费比的角度出发,确定敏感性参数的取值范围。最后通过仿真验证了方法的可行性。结果表明,该权衡优化方法能够在费用约束条件下对敏感性参数的取值范围进行优化,在保证精度的同时提升了计算效率。     

Drifting model approach to modeling based on weighted support vector machines

This paper proposes a novel drifting modeling (DM) method. Briefly, we first employ an improved SVMs algorithm named weighted support vector machines (W_SVMs), which is suitable for locally learning, and then the DM method using the algorithm is proposed. By applying the proposed modeling method to Fluidized Catalytic Cracking Unit (FCCU), the simulation results show that the property of this proposed approach is superior to global modeling method based on standard SVMs.     

Comparison on neural networks and support vector machines in suppliers' selection

Suppliers＇ selection in supply chain management （SCM） has attracted considerable research interests in recent years. Recent literatures show that neural networks achieve better performance than traditional statistical methods. However, neural networks have inherent drawbacks, such as local optimization solution, lack generalization, and uncontrolled convergence. A relatively new machine learning technique, support vector machine （SVM）, which overcomes the drawbacks of neural networks, is introduced to provide a model with better explanatory power to select ideal supplier partners. Meanwhile, in practice, the suppliers＇ samples are very insufficient. SVMs are adaptive to deal with small samples＇ training and testing. The prediction accuracies for BPNN and SVM methods are compared to choose the appreciating suppliers. The actual examples illustrate that SVM methods are superior to BPNN.