支持向量机的一个边界样本修剪方法

支持向量机仅仅由支持向量所决定,而支持向量来自于边界的样本,如果样本集中存在较多的噪音或孤立点,特别是两类样本过分交叉,都会降低支持向量机的推广能力。为了改善支持向量机的推广性能,文章提出一个支持向量机的边界样本修剪方法:首先对边界样本进行抽取,然后用RemoveOnly算法对边界样本进行修剪,修剪后的边界样本就是最终的支持向量机训练样本。实验结果表明,修剪方法可以让支持向量机的推广能力有不同程度的提高。     

一种新的支持向量分类算法ACNN-SVM

针对NN-SVM算法的不足,提出了一种新的支持向量分类算法--ACNN-SVM.先对训练样本集进行最近邻修剪,用SVM训练得到一个SVM模型,然后,计算最近邻修剪后的训练样本集中样本到超平面的距离,如果距离差大于给定的阈值则将其从最近邻修剪后的训练样本集中删除,最后对冉修剪后的样本集用SVM训练得到一个最终的SVM模型.实验表明,ACNN-SVM算法的效果优于NN-SVM算法.     

基于核可能性c-均值算法的支持向量机

提出一种基于核可能性c-均值算法的支持向量机分类算法,该算法改进了SVM训练过程中噪声和孤立点的敏感问题.其基本思想是:用核可能性c-均值算法对每个模式类训练样本进行聚类,得到不同的可能性度量值,根据得到的可能性度量值对训练样本进行修剪,删除具有较低可能性度量值的训练样本,最后用生成的新训练样本训练支持向量机.实验结果表明,该算法可以有效地解决由噪声和孤立点引发的分类错误问题以及重要样本的错分问题.     

一种提高SVM分类速度的新方法

提出一种改进的支持向量机分类方法.通过引入分类圆心、分类半径、分类圆心距等概念,从而更加快速准确地删除非支持向量点,引入混淆度的概念,解决如何在样本严重混淆时进行剔除混淆点,保证算法的泛化性.实验证明,采用这种改进的算法能够在严重混淆的训练样本中保证准确度的同时提高支持向量机分类速度.     

一种改进的数据挖掘模糊支持向量机分类算法

针对模糊支持向量机(FSVM)应用于数据挖掘分类中存在对大样本集训练速度及分类速度慢的缺点,提出一种改进的数据挖掘模糊支持向量机分类算法.该算法首先预选有效的候选支持向量缩减训练样本集的规模提高训练速度;其次提出一种新的模糊隶属度函数,增强支持向量对构建模糊支持向量机最优分类超平面的作用,并用经过预选的训练样本集进行训练FSVM得到支持向量集;最后,运用粒子群优化算法选择最优支持向量子集,使用平均分类误差作为适应度函数,最终粒子输出时,将样本隶属度与设定阈值相比较,选择出支持向量集中相对较大隶属度的样本作为新的支持向量,提高分类速度.实验结果表明,该算法在不损失分类精度的情况下,提高了模糊支持向量机的训练速度和分类速度.     

基于改进FSVM的数据挖掘分类算法

针对模糊支持向量机(FSVM)应用于数据挖掘分类中存在对大样本集训练速度慢以及对噪声点敏感影响分类正确率的问题,提出一种基于改进FSVM的数据挖掘分类算法.该算法首先预选有效的候选支持向量,减小训练样本数目,提高训练速度;其次定义一种新的隶属度函数,增强支持向量对构建模糊支持向量机的作用;最后将近邻样本密度应用于隶属度函数设计,降低噪声点或野值点对分类的影响提高分类正确率.实验结果表明,该算法在训练样本数目较大时训练速度和分类正确率都有提高.     

加权支持向量机求解路径算法研究

针对不同训练样本重要性的差异对模型推广能力的影响,提出了对各个样本的误差惩罚参数赋予不同权重的加权支持向量机求解路径算法.根据样本重要性的不同,利用分段线性插值得到加权系数,并通过加权系数调整求解路径,从而改变不同样本在回归模型中的作用.采用支持向量机加权求解路径算法对圆柱壳结构在不同边界条件下的时、频域响应数据进行预测,训练样本的重要性通过与测试样本的欧式距离来表达,结果显示所提算法可减小位移响应在多个评价指标下的预测误差,提高支持向量回归机的推广能力.该方法同样适用于其他求解路径算法,如λ-路径算法和ν-支持向量回归路径算法.     

基于密度的稀疏最小二乘支持向量机

针对最小二乘支持向量机对训练样本内噪声比较敏感和其稀疏性差的问题,提出基于密度k-近邻向量的训练样本裁剪算法。对训练样本的各个样本类进行聚类,删除噪声数据,提高支持向量机的训练精度。通过计算出每个样本类的平均相似度和平均密度,得到样本的类相似度阈值;根据相似度阈值,将小于类相似度阈值的样本进行合并,减少训练样本总数。实验结果表明,该算法在保证训练精度的情况下,减少了支持向量数目。     

一种多率采样的在线支持向量回归及应用

针对应用支持向量回归对不确定控制系统在线建模时精度受异常数据影响的问题,通过分析不同样本分布情况下异常数据的影响,指出增加异常数据邻域的样本密度可以有效地提高建模精度.提出了多率采样的支持向量回归在线建模方法,通过多率采样增加局部样本密度,并利用支持向量回归在小样本学习时的良好性能,构建一种局部样本密集的滚动时间窗,用以减少训练样本数和在线剔除异常数据.将该方法应用于多通道电液力伺服同步加载系统的负荷输出预测,结果表明,与传统单率采样的方法相比,在训练样本只增加2个的情况下,该方法具有更好的鲁棒性和预测精度,预测平均绝对误差达到了0.66%.     

基于正反馈的支持向量机

在分析现有的基于高斯核的支持向量机(包括基于K-邻域法的支持向量机)的优缺点的基础上,通过对支持向量机之所以能够描述数据集的分布特征的本质进行分析,突破目前在构造支持向量机中存在的"所有支持向量与样本之间的在特征空间中的内积所对应的核函数参数一定要相等"的这一苛刻要求,提出了用于模式识别的基于正反馈的支持向量机.给出了基于正反馈的支持向量机的算法.通过对人工数据和现实数据的仿真实验,表明基于正反馈的支持向量机在推广性能方面明显优于现有的支持向量机.     

基于最小完美哈希函数的数据挖掘算法

提出了一种基于最小完美哈希函数的关联规则的挖掘算法.这一基于Apriori的算法在综合了传统哈希剪枝技术的同时,充分利用了最小完美哈希函数的优点,从而在保证静态数据库关联规则挖掘的同时,使对关联规则的哈希结构数据进行动态调整成为可能.这一算法不仅提高了挖掘效率,而且通过抑制哈希地址冲突提高了算法的稳定性和可用性.     

稀疏最小二乘支持向量机及其应用

提出基于特征向量选择(feature vector selection,FVS)的稀疏最小二乘支持向量机(sparse least squares support vector machine,SLS-SVM)模型,解决最小二乘支持向量机(least squares support vector machine,LS-SVM)稀疏化问题。采用FVS在特征空间构建特征向量子集,对训练样本进行稀疏线性重构;将稀疏化的特征向量作为支持向量,从而实现对LS-SVM稀疏化建模。将SLS-SVM模型进行弓网系统的仿真对比实验,结果表明SLS-SVM模型在取得高预报精度的同时,可实现支持向量的高度稀疏化,从而加快模型预报速度。     

关于支持向量机DirectSVM算法的探讨

DirectSVM算法是求解支持向量机的一种简单快速迭代算法,具有最好的几何直观性.算法将线性可分的两类样本中距离最近的两个异类样本点作为支持向量,以该两点连线的垂直平分面作为初始分类超平面,然后根据分类情况逐步确定新的支持向量,即逐步优化出最优分类超平面.对该算法进行了测试,发现该算法具有局限性,并对算法局限性产生的根源进行了分析,对如何合理使用DirectSVM算法进行了讨论.结论是:用DirectSVM算法直接求解最优分类面是不可靠的,但可以作为支持向量机的一种近似算法,也可以作为求解候选支持向量集的方法,再与其他经典算法结合使用.     

基于奇异值特征和支持向量机的人脸识别

针对人脸识别中经常遇到的"小样本"和"过学习"等问题,同时为了进一步改善人脸图像的奇异值特征在人脸识别中的识别性能,提出了一种基于奇异值分解和支持向量机的人脸识别新方法.在特征提取阶段,首先对训练样本集中的每一个人脸图像矩阵进行奇异值分解,得到训练样本的奇异值特征,然后对每个样本的奇异值特征向量进行降维、归一化、奇异值向量的分量重新排列等处理.在识别阶段,运用支持向量机作为分类工具,为了提高分类能力,选取径向基函数作为支持向量机的核函数.最后在ORL人脸数据库上验证了该方法.实验结果表明,通过对奇异值特征的相关处理,提高了识别速度和正确识别率.从而证明了所提出方法的有效性,具有一定的应用价值.     

基于EEMD能量熵和支持向量机的齿轮故障诊断方法

针对齿轮振动信号的非平稳特征和现实中难以获得大量典型故障样本的实际情况,提出基于总体平均经验模态分解(EEMD)和支持向量机的齿轮故障诊断方法.通过EEMD方法将非平稳的原始加速度振动信号分解成若干个平稳的本征模函数(IMF);齿轮发生不同的故障时,在不同频带内的信号能量值会发生改变,故可通过计算不同振动信号的EEMD能量熵判断是否发生故障;从包含有主要故障信息的IMF分量中提取出来的能量特征作为输入建立支持向量机,判断齿轮的工作状态和故障类型.实验结果表明:文中提出的方法能有效地应用于齿轮的故障诊断.     

基于支持向量机的露天转地下开采边坡变形模型

提出了一种基于支持向量机的露天转地下开采边坡变形模型,有效表达了地下开采扰动引起露天矿边坡变形的非线性变化关系.采用RBF核函数学习现场监测数据,利用交叉验证选择模型参数,通过学习捕捉支持向量,建立模型预测未来变化趋势.将该模型应用于露天转地下开采的杏山铁矿.结果表明,支持向量机对学习样本的拟合精度极高,其预测精度也很高.采用捕捉的支持向量进行预测,便捷快速且有较强泛化能力.     

基于模糊熵的支撑矢量预选取方法

在基于支撑矢量机的分类器学习算法中,预先选择支撑矢量是非常重要的．依据模糊熵理论,提出一种启发式的支撑矢量预选取方法——模糊熵方法．该方法针对支撑矢量数目较小的情况,可以有效地预选取出包含支撑矢量的边界集．利用边界集作为训练集可以大大简化支撑矢量机的训练而不影响分类性能．与其它方法相比,该方法的主要优点是不需要参数来确定边界集的阈值．仿真实验结果表明该方法是有效和可行的．     

基于模糊支持向量机的一维距离像识别

在毫米波雷达一维距离像识别中,为达到消除噪声与孤立点影响的目的,在研究了基于距离和样本紧密度的隶属度函数的基础上,提出了一种能反映雷达回波信号在特征空间分布的隶属度函数.用一个紧凑的超椭球体将样本包围起来,并使用超椭球体的方向半径度量样本之间的紧密度.将改进的基于样本紧密度的隶属度函数应用于模糊支持向量机中,可较好地区分开支持向量与含噪声或野值的样本.实验结果显示:随着雷达回波信号信噪比的降低,支持向量机的目标识别率迅速下降,而模糊支持向量机的目标识别率只下降了1%,有效地减小了噪声对一维距离像识别结果的影响.