基于正反馈的支持向量机

在分析现有的基于高斯核的支持向量机(包括基于K-邻域法的支持向量机)的优缺点的基础上,通过对支持向量机之所以能够描述数据集的分布特征的本质进行分析,突破目前在构造支持向量机中存在的"所有支持向量与样本之间的在特征空间中的内积所对应的核函数参数一定要相等"的这一苛刻要求,提出了用于模式识别的基于正反馈的支持向量机.给出了基于正反馈的支持向量机的算法.通过对人工数据和现实数据的仿真实验,表明基于正反馈的支持向量机在推广性能方面明显优于现有的支持向量机.     

基于不确定性采样的自训练代价敏感支持向量机研究

针对样本集中的类不平衡性和样本标注代价昂贵问题,提出基于不确定性采样的自训练代价敏感支持向量机.不确定性采样通过支持向量数据描述评价未标注样本的不确定性,对不确定性高的未标注样本进行标注,同时利用自训练方法训练代价敏感支持向量,代价敏感支持向量机利用代价参数和核参数对未标注样本进行预测.实验结果表明:该算法能有效地降低平均期望误分类代价,减少样本集中样本需要标注次数.     

基于混沌最小二乘支持向量机的软测量建模

提出一种改进算法,用来解决现有最小二乘支持向量机方法在处理大规模样本软测量建模问题时出现的模型结构复杂、失去支持向量稀疏性且正规化参数和核参数难以确定等问题.对样本集进行预处理,通过计算样本间欧氏距离进行样本相似程度分析,去除样本集中1/3的样本以简化支持向量机模型结构并提高计算速度.定义了一种混沌映射构成混沌系统并分析了其遍历性.应用改进的混沌优化算法优化最小二乘支持向量机模型参数以提高模型的拟合精度和泛化能力.将改进算法用于丙烯腈收率软测量建模中,仿真实验结果表明:模型精度较高,泛化性能好,满足现场测量要求.     

优化支持向量机核参数的核矩阵方法研究

参数选取问题一直是支持向量机研究的热点.虽然核校准(KTA)方法广泛应用于支持向量机参数优化问题中,但是它仍存在不足.以核矩阵为研究出发点,深入分析了采用核校准方法优化核参数对分类性能的影响,然后综合核校准方法和特征空间中样本集的分布提出了一种核校准改进方法.对比实验表明该算法是有效可行的.     

双最小二乘支持向量数据描述

为了提高标准支持向量数据描述的分类精度和分类时间,构造双最小二乘支持向量数据描述,并对比分析在不同样本集上的分类性能以及分类性能随参数和样本规模的变化。在训练阶段,双最小二乘支持向量数据描述应用等式约束代替标准算法中的不等式约束,通过求解线性方程组而非凸二次规划得到正负2类样本的超球形描述边界,进而设计一个分段函数作为分类规则;在测试阶段,计算待测样本到正负2类样本的最小包围超球球心的距离,并根据距离的最小值选取相应的分类规则。数值试验结果表明双最小二乘支持向量数据描述的有效性和优越性。在基准数据集上,双最小二乘支持向量数据描述的分类精度比标准算法高1.68%,而分类时间仅为标准算法的16.51%;在正态分布数据集上,双最小二乘支持向量数据描述具有比标准算法高的分类精度和短的分类时间,而分类时间上的优势在大规模样本集上更加明显,其在2 000个和10 000个样本集上的分类时间为标准算法的78.06%和18.69%。     

基于SVM的高维不平衡数据集分类算法

由于数据量的不断增长,出现了大量的不平衡高维数据,传统的数据挖掘分类算法在处理这些数据时,易受到样本分布和维数的影响,存在分类性能不佳的问题.提出一种针对不平衡高维数据集的改进支持向量机(Supported Vector Machine,SVM)分类算法,首先通过核函数将数据集映射到特征空间中,再引入改进的核SMOTE(Kernel Synthetic Minority Over-sampling Technique)算法而得到正类样本,使两类样本数目平衡化;然后将维数高的数据集通过稀疏表示的方法投影到低维的空间中,实现降维;最后根据空间的距离关系来确定在输入空间中合成样本的原像,再对得到的平衡样本集通过SVM来分类,通过仿真实验验证了该算法对于高维不平衡数据集有较优的分类性能.     

一种基于聚类分布的支持向量数据描述

在基于解决单类问题的支持向量数据描述算法基础上提出了基于聚类分布信息的c-SVDD算法.该算法对带野值的SVDD算法中的C值重新定义.通过增加核空间下测试样本的聚类分布信息。为每个样本定义一个特定的c值.c-SVDD算法适应于解决类别不平衡学习问题.该算法在保证少类样本高分类精度前提下,还有效提高了全样本的分类精度,更符合现实不平衡问题中对少类样本的处理要求.对UCI数据集和人工样本集进行实验.改进后的c-SVDD算法比带野值的SVDD算法AUC值平均提高0.14以上;比AdaBoost算法在正类查全率上平均提高40%,精确度也提高了至少5%.     

基于快速支持向量机算法的灌浆地层识别

针对灌浆地层裂隙存在不确定性变化的特点,提出基于支持向量机(SVM)的灌浆地层智能识别方法,以提高地层识别能力.为了提高支持向量机模型的运算速度,采用几何方法求取支持向量,避免了二次规划算法求解.该算法根据支持向量的几何分布特点,从距离最近的样本点开始,通过不断地寻找违反KKT条件的样本点来找出支持向量.最后,选取大理岩石(较完整地层)和砂质板岩地层的部分灌浆实验数据样本建立灌浆地层的分类模型,用其他未训练的同分布的新数据进行地层识别验证.仿真结果表明,改进支持向量机分类方法简单有效,与神经网络方法相比有更强的泛化能力和更快的运算速度.     

基于自适应核函数的支持向量数据描述算法

为进一步提高支持向量分类器的分类精度和运行速度,提出了基于自适应核函数的支持向量数据描述分类算法。该算法的核心思想为：根据信息几何中保角映射的方法构造数据驱动的核函数修正算法,然后再利用修正的核函数训练支持向量数据描述分类算法。试验结果表明,该方法具有较好的分类精度和较快的运行速度。     

基于核空间优化支持向量机的合作频谱感知算法

在认知无线电网络中,由于噪声不确定性引起的聚类重叠,导致能量检测的性能明显降低.针对噪声 不确定对频谱感知的影响,提出了一种基于核空间优化支持向量机的合作频谱感知算法.该算法融合了支持向 量机和核空间优化相关理论,将感知用户收集的数据统计量组合成向量,使用Fisher准则对该向量集进行相关运 算,得出使各类数据在高维空间中分离度最高的核函数参数.之后使用支持向量机算法对训练向量进行训练,得 到最优的频谱感知分类器.仿真结果表明,基于核空间优化支持向量机的合作频谱感知算法在噪声不确定情况 下优于传统的合作频谱感知算法.