牛顿法在求解支持向量机中的应用

支持向量机作为一种重要的机器学习工具,近年来受到了广泛的关注,并得以迅速发展.但在处理大数据时,求解支持向量机对应的二次规划问题是非常棘手的,计算时间长,存储空间大.如何有效求解支持向量机是一个不可回避的研究课题.本文主要研究了如何利用牛顿法求解支持向量机和双生支持向量机,并提出了两个新算法.实验结果表明,所提算法是有效和高效的.     

基于取样的潜在支持向量机序列最小优化算法

为了提高潜在支持向量机求解大规模问题的训练速度,提出了基于样本取样的潜在支持向量机序列最小优化算法,去掉了大部分非支持向量,把支持向量逐渐压缩到取样样本集中.此算法特别适合大样本数据且支持向量个数相对较少的情况.实验表明,改进的序列最小优化算法加速了潜在支持向量机分类器训练时间.     

分类大规模数据的核向量机方法研究

标准的支持向量机算法需要求解二次规划问题,因此,在处理大规模样本的时候,求解二次规划问题的时间复杂度和空间复杂度就成为支持向量机应用的一个瓶颈.核向量机将传统支持向量机中的二次规划问题转化为求解最小包围球问题,从而显著降低了二次规划的复杂程度.使用核向量机对大规模数据进行分类,所选用的数据样本数均超过2000,并与标准的支持向量机作了对比实验结果表明:核向量机在处理大规模数据分类时,比标准的支持向量机计算复杂度低,训练速度快,耗费空间少.     

关于支持向量机DirectSVM算法的探讨

DirectSVM算法是求解支持向量机的一种简单快速迭代算法,具有最好的几何直观性.算法将线性可分的两类样本中距离最近的两个异类样本点作为支持向量,以该两点连线的垂直平分面作为初始分类超平面,然后根据分类情况逐步确定新的支持向量,即逐步优化出最优分类超平面.对该算法进行了测试,发现该算法具有局限性,并对算法局限性产生的根源进行了分析,对如何合理使用DirectSVM算法进行了讨论.结论是:用DirectSVM算法直接求解最优分类面是不可靠的,但可以作为支持向量机的一种近似算法,也可以作为求解候选支持向量集的方法,再与其他经典算法结合使用.     

基于样条函数的光滑支持向量机模型

应用光滑函数改进支持向量机模型,得到无约束条件、可微的二次规划问题,从而可以采用快速的最优化算法求解光滑支持向量机模型.提出了一种广义三弯矩方法,用这个方法构造出新的五次样条光滑函数和七次样条光滑函数.证明了上述两个样条光滑函数的逼近精度均高于已有的各种光滑函数;基于上述两个样条函数的光滑支持向量机模型的收敛精度也高于已有的各种光滑支持向量机模型.     

半监督支持向量机的多分类学习算法

半监督支持向量机同支持向量机一样,已经在很多分类、归类问题上取得较好的效果,但是支持向量机需要求解二次凸规划,因此在处理大规模数据时会消耗大量存储空间和计算时同,特别是在多分类问题上则更加困难.因此,提出一种半监督支持向量机算法,适合多分类问题,并将其用于解决实际问题.     

迭代算法求解支持向量机中的分离超平面

支持向量机的关键在于获取分离超平面,一般是基于规划的学习算法,把求解问题转化成凸二次规划问题.采用感知机的迭代算法思路求解支持向量机的分离超平面,算法包括两个迭代过程,首先利用感知机的迭代算法获取一个分离超平面作为初始分离超平面;然后将初始分离超平面不断地旋转和平移,直至正类集和负类集的支持向量到分离超平面的距离相等,此时的分离超平面就是支持向量机的分离超平面.最后分别采用解凸二次规划方法和迭代算法对鸢花分类数据进行学习,获得的支持向量和分离超平面完全一致,说明该迭代算法简单有效.     

基于支持向量回归机和粒子群算法的改进协同优化方法

研究基于支持向量回归机和粒子群算法的改进协同优化方法.阐述了协同优化方法和支持向量回归机方法基本原理,为有效解决系统级优化协调困难问题,改善收敛性能,提高收敛速度,采用支持向量回归机构造系统级约束条件的近似模型,引入粒子群算法求解系统级和学科级优化问题.仿真计算结果表明,设计的协同优化方法可有效求解多学科设计优化问题,...     

基于模糊机会约束的超球支持向量机

针对不确定数据多分类问题,提出一种基于模糊机会约束的超球支持向量机（FCC-HSVM）.在球结构支持向量机的基础上,引入模糊事件的可能性测度,得到模糊机会约束规划及其对偶规划.利用球结构的优点,每类样本只参与一个超球体的训练,直接求解多分类模型,提出FCC-HSVM的快速学习算法,显著缩短多分类情况下训练时间.数据试验表明：这种支持向量机分类精度较高,训练速度快,适合解决不确定数据多分类问题.     

自训练半监督加权球结构支持向量机多分类方法

针对自训练半监督支持向量机算法中的低效问题,采用加权球结构支持向量机代替传统支持向量机,提出自训练半监督加权球结构支持向量机。传统支持向量机需要求解二次凸规划问题,在处理大规模数据时会消耗大量存储空间和计算时间,特别是在多分类问题上更加困难。利用球结构支持向量机进行多类别分类,大大缩短了训练时间,降低了算法复杂度。球结构支持向量机在不同类别样本数目不均衡时训练分类错误倾向于样本数目较小的类别,通过权值的引入,降低了球结构支持向量机对样本不均衡的敏感性,补偿了类别差异对算法推广性能造成的不利影响。在人工数据集和UCI(university of california irvine)数据集上的实验结果表明,该方法对有标记样本的鲁棒性较好,不仅能够提高效率,且分类精度也有显著提高。     

基于双支持向量机的偏二叉树多类分类算法

提出一种基于双支持向量机的偏二叉树多类分类算法,偏二叉树双支持向量机多类分类算法.该算法综合了二叉树支持向量机和双支持向量机的优势,实现了在不降低分类性能的前提下,大大缩短训练时间.理论分析和UCI（University of California Irvine）机器学习数据库数据集上的实验结果共同证明,偏二叉树双支持...     

固定尺度最小二乘支持向量机

针对最小二乘支持向量机(LS-SVM)在进行回归预测时存在的稀疏性缺陷问题,采用固定尺度最小二乘支持向量机,即固定支持向量数量进行改进。仿真结果表明:固定尺度最小二乘支持向量机在训练各种样本数据集时,有效地避开了LS-SVM中的稀疏性问题,且训练速度快,同时具有良好的预测精度。     

基于LS_SVM的车牌字符识别

提出一种基于最小二乘支持向量机（LS_SVM）的车牌字符识别算法．实验表明,该算法对车牌字符识别速度平均为19．23ms／字符,该方法可用于陕速分类识别．     

Signal Blind Recovery in Communication Systems Using Support Vector Machines

This paper focuses on the applications of the support vector machines in solving the problem of blind recovery in digital communication systems.We introduce the technique of support vector machines briefly,the development of blind equalization and analyze the problems which need to be resolved of the blind problems.Then the applicability of support vector machines in blind problem is highlighted and deduced.Finally,merit and shortage of blind equalization using support vector machines which is already exist...     

基于概率支持向量机的激光雷达风切变图像的识别

针对标准支持向量机在激光雷达风切变图像识别中无法提供后验概率这一问题,从有监督聚类的角度,提出一种基于FCM的概率支持向量机识别方法. 先利用灰度-梯度共生矩阵提取激光雷达风切变图像的纹理特征,再利用支持向量机确定分类面,最后利用条件约束和FCM确定各类样本距离分类面的概率分布. 实验结果表明,该算法对3种风切变的整体识别率可达到95.52%,与两种同类算法相比,识别率分别提高了1.27%和1.21%.      

基于支持向量机的Windows主机入侵检测系统

提出了一种基于支持向量机的W indow s主机入侵检测方法。讨论了以W indow s注册表作为数据源的入侵检测系统的结构及特征向量的提取方法。给出了基于支持向量机的入侵分类算法,通过建立支持向量描述模型进行预测。实验表明:该方法对已知样本有很高的检测率,对未知样本也有一定检测能力。     

基于光滑化方法的支持向量回归算法

支持向量机是在统计学习理论的基础上发展起来的新一代学习算法,由于其出色的泛化能力,在文本分类、手写识别、数据挖掘、生物信息学等领域中获得了较好的应用.提出了一种光滑支持向量回归算法,实验结果表明,它相对于其它回归训练方法有较快的收敛速度和较高的拟合精度.     

基于多重核学习支持向量机的歼击机故障诊断

为了提高歼击机故障诊断的准确性与实时性，提出一种基于决策树型组合策略的多重核学习支持向量机诊断方法，决策树型组合策略利用树结构解决多分类问题，而多重核学习支持向量机通过混合核空间，将线性约束下二次规划问题转化为二次约束下二次规划问题，实验结果表明：多重核学习支持向量机的诊断精度明显优于标准支持向量机，且支持向量的数目也较少，决策树型细合策略的引入可以提高歼击机故障诊断的诊断速度，基于决策树型组合策略的多重核学习支持向量机方法能够准确且快速地解决歼击机故障诊断问题。     

导航星三角形分类选取算法研究

为减小星三角形的冗余度,生成三角形数量最少、分布均匀性好的导航星三角形信息表,提出了一种以支持向量机为基础的导航星三角形选取优化算法．该算法通过一种以统计学习理论为基础的支持向量机寻求最优决策分类面,在由导航星表所生成的三角形中提取导航星三角形．实验结果表明,本算法所生成的导航星三角形表中的星三角形数量少,所需存储空间小,空间分布均匀性良好．