支持向量机中核函数及其参数选择研究

将SVM应用于解决实际问题中时,选择核函数及其参数是一个关键,核函数及其参数选择的好坏直接影响SVM分类器性能的优劣,因此如何选择核函数及其参数就成为研究SVM的一个重要分支。本文分析了常用核函数性质,为核函数选择提供指导。对近年来新的核参数选择算法进行了归纳,并分析了它们的优缺点,最后对其进行总结与展望。     

支持向量机中核参数选择的Max-Min方法

通过核函数技巧,定义了高维空间中两样本点之间的距离.引入异类距离平方阵,提出了一种新的选择SVM核参数准则,并给出算法,即max-min方法.该方法利用不同类的训练样本之间的距离,而不通过SVM标准样本训练寻求最优的(或有效的)核参数,避免了传统SVM在模型选择上经验性强和计算量大的不足.同时又分别以径向基核函数(RBF)和多项式函数为例进行试验,显示采用该方法的算法步骤.结合试验结果,得出关于核参数的选择问题一般在一个开集内只有有效值,不存在最优值,即是一个多目标优化问题的结论.并引用已有的实验结果充分支持我们的结论.max-min方法不仅在理论上提供了一种选择最优核参数的方法,而且对试验性选择具有指导作用.     

一种用于支持向量机分类器的组合核优化方法

针对支持向量机(SVM)分类器的模型选择问题,提出了一种基于特征空间的类别可分性度量(FCSM)准则,并将该准则用于优化多个高斯函数的线性组合系数.与核矩阵度量(FSM)准则相比,FCSM准则在核函数优化应用中的适用性更广,并且在优化效果上有更好的理论支持.实验结果表明,与交叉验证法、半径间隔误差(RM)界法以及基于FSM准则的优化方法相比,FCSM准则能从更大函数集范围优选出核函数,使SVM分类器获得更好的分类能力.     

支持向量机核函数选择的研究

支持向量机是近年来发展的以统计学习理论为基础的新型学习机。该学习机用结构风险代替经验风险,因而具有传统的神经网络无法相比的优势。在该学习机的各各研究方向中,核函数的选择无疑是极其重要的核心问题。通过对核矩阵的计算和研究,从理论上为核函数的选择提供了参考。     

支持向量机及核函数研究

对核函数进行了初步探讨,从理论上研究了多项式核函数参数的选择问题,从实验角度对多项式核函数与径向基核函数进行了比较分析,并阐述了Sigmoid核函数的特点,可作为一般SVM分类问题选择核函数及核函数参数范围的依据.     

基于支持向量机故障分类器的参数优化研究

针对基于支持向量机故障分类器的参数优化问题，讨论了以半径-间距上界(RM界)最小化为目标的支持向量机参数优化的原理，提出了一种简化算法．针对梯度下降算法计算复杂和在梯度无法求出时不能实现优化的不足，简化算法不需计算梯度，而是利用固定的迭代步长来实现核函数一个参数的优化．依据简化算法实现了二分类故障分类器的参数优化，并应用于汽轮发电机组的蒸汽激励和轴瓦松动故障的分类器中．测试结果表明，通过参数优化可提高故障分类器的分类能力．     

基于GEP的支持向量机参数优化

支持向量机(SVM)具有优良的学习能力和推广能力,然而其性能依赖于参数的选取.本文对影响模型分类能力的相关参数(C、σ2)进行了研究,提出了一种基于基因表达式编程(Gene Expression Programming,GEP)的支持向量机参数选择算法,即根据参数在分类器中的作用,利用GEP优化参数的两种编码方案分别对C与σ2进行编码,期望改进支持向量机的分类精度和泛化能力.最后实验表明了本文算法的有效性.     

基于遗传算法优化参数的支持向量机短期负荷预测方法

通过研究参数选择和支持向量机预测能力的影响,建立利用遗传算法优化参数的支持向量机负荷预测系统.通过遗传算法对支持向量机(SVM)预测模型的各项参数进行寻优预处理,找到最优的参数取值,然后,代入支持向量机SVM预测模型中,得基于遗传算法的支持向量机(GA-SVM)模型,利用此模型对短期电力负荷进行预测研究.通过实例验证,选择河北某地区2005-03-02至2007-05-22每天各个时点的数据进行分析,并且选择SVM模型与BP(Back propagation)神经网络进行对比.研究结果表明:用GA-SVM算法得到的均方根相对误差仅为2.25%,比用SVM模型和BP神经网络所得的均方根相对误差比分别低0.58%和1.93%.所提出的测试方法克服了传统参数选择方法存在的缺点(如研究者往往凭经验和有限的实验给定一组参数,而不讨论参数制定的合理性),提高了支持向量机的预测精度.     

基于蚁群算法的支持向量机参数优化

针对支持向量机的参数对分类性能的影响,探讨了基于蚁群算法的支持向量机参数优化方法,建立了支持向量机参数优化模型,给出了基于网格划分策略的连续蚁群算法,并将其用于优化模型求解,通过对支持向量机的惩罚因子和径向基核函数进行优化,使支持向量机的分类性能最优.通过仿真和应用实例,验证了方法的有效性,得到了95%以上的分类正确率.     

基于小波变换和优化核参数支持向量机的电能质量扰动分类

针对短时电能质量变化和暂态扰动现象的不同特点,建立常见电能质量扰动的数学模型。运用小波变换对暂态电能质量扰动现象的内在特征进行提取,将扰动电压变化率绝对值、扰动能量变化量作为暂态电能质量扰动的特征向量。根据支持向量机的基本原理,给出一种推广误差上界估计判据,利用此判据进行最优核参数的自动选取,利用支持向量机进行训练和测试。结果表明,优化核参数的支持向量机分类器准确率高,实时性好。     

说话人识别中SVM核函数参数优化研究

在基于SVM的说话人识别系统研究中,如何获得理想的识别率是亟待解决的问题。SVM核函数是众多影响识别率因素中最明显的。该系统提高识别率的技术关键是SVM核函数的选取及其参数优化。为此,在对三种常用核函数的特点进行研究的基础上,利用网格搜索法来分别进行参数优选,通过实际语音的训练和识别验证识别效果。目前优选参数可以实现识别率≥99.9%且识别时间<0.1 s。     

基于内核技术的网格优化方法

用归一化的 Jacobian矩阵在结点的行列式的值作为衡量该结点质量的方法 ,给出了网格结点的外围多边形和外围多面体内核的生成算法 ,并将内核生成技术应用于网格结点位置优化 ,实现了四边形网格和六面体网格的优化 .算例表明 ,该方法适用于形状复杂区域的网格优化 ,尤其适用于含有凹域的网格优化 ,同时内核生成技术及网格优化也容易编程实现     

基于改进PSO算法的混合核SVM算法

提出一种基于改进粒子群优化（PSO）算法的优化混合核支持向量机（SVM）算法（ILPSO）, 解决了一般混合核SVM算法很难评定参数选择的问题. 该算法通过限定粒子的速度、 搜索空间和交叉算子等多种寻优策略加强其收敛特性, 得到了参数的最佳组合. 仿真实验表明, 该算法能更快速、 有效地获得参数的最优值.     

一种新安江模型参数的全局优化方法

将全局优化方法SCE-UA用于新安江模型的参数优化中,以月潭流域1978—1991年共14年的实测降雨、径流资料以及1982—1988年实测洪水资料为例,对新安江模型参数全局优化方法进行研究.研究结果表明,单纯利用SCE-UA方法得到的最优参数组会随着资料长度的变化而变化,体现出了优化结果的不稳定性.进而引入赵人俊的新安江模型参数客观优化理论,将SCE-UA方法与该理论相结合.研究结果表明,该方法可避免因参数之间的相关性导致参数优化结果的不稳定现象,可大大降低模型的不确定性.通过检验,该方案可以较好地用于新安江模型参数优化中.     

控制系统的优化设计——多性能指标下的参数优化方法

本文提出一种多性能指标下控制系统参数的优化方法。利用本方法可以得到控制系统在满足所给定的时域性能指标下使积分性能指标最小的优化参数,也可以得到在满足超调量等指标的前提下,使调节时间最短的优化参数以及解决其它一些特殊要求的参数寻优问题。经仿真研究,结果是满意的。     

技术进步测算中一个新的参数估计方法

提出了一个新的技术进步参数估计的最优化方法．利用该方法实际计算了天津市的技术进步水平,证明了该方法的有效性．     

广义混合型Lyapunov矩阵方程多参数迭代校正方法

讨论广义混合型Lyapunov矩阵方程AX+XB+CXD=F的多参数迭代校正方法.给出了迭代收敛的充要条件和参数的选取方法,同时运用一个整体校正模型改善了迭代的收敛性.当方程相容时,该算法对方程的系数矩阵无特殊限制.     

基于果蝇优化算法的支持向量机参数优化在船舶操纵预报中的应用

应用果蝇优化算法对船舶操纵运动预报的ε-支持向量机(ε-SVM)的参数进行优化,建立船舶操纵运动预报黑箱模型,并用所建立的模型对Z形试验进行预报.通过预报结果与仿真试验结果对比,验证了该优化算法的有效性.研究结果表明,所设计的参数寻优方法具有算法设置简单、调整参数少以及不易陷入局部极小值等优点.     

基于矩阵运算的改进单纯形寻优方法

为解决单纯形法优化容易陷入局部极值的问题,通过随机设置若干初始点,利用矩阵进行多点并行搜索方法,可搜索到全部极大(极小)值点,达到全局最优化目的. 与常规的重复设置单初始点循环搜索的方法相比,该方法明显减小了初始值设置对单纯形法寻优的影响,提高了搜索速度并获得全局最优值,优化效率大幅提高. 仿真结果表明:该改进的寻优方法不仅可应用于函数极值搜索,而且应用在控制系统PID参数寻优中,能获得满意的调节效果.