基于混合核函数的PSO-SVM分类算法

在数据挖掘中,支持向量机是被广泛应用的一种分类算法,其核函数的选择及参数的设定没有有效的标准。本文采用混合核函数构造兼顾学习能力和泛化性能的支持向量机算法,并利用粒子群算法来确定支持向量机的参数。应用基于混合核函数的PSO-SVM算法对一个经典的分类测试数据集进行分类,将该算法与单一核函数支持向量机算法的分类结果进行比较,结果表明所提出的算法的分类性能有明显提升。     

支持向量机Mercer核的若干性质

目前支持向量机在模式分类中得到了很好的应用.对于线性不可分的样本空间,需要寻找核函数,将线性不可分的样本集映射到另一个高维线性空间.在理论上,怎样选择核函数,还是一个未解决的问题.因此研究支持向量机的核函数性质,对于寻找核函数有重要意义.为此,在研究支持向量机的基础上,给出了核函数的若干重要性质.     

一种改进的数据挖掘模糊支持向量机分类算法

针对模糊支持向量机(FSVM)应用于数据挖掘分类中存在对大样本集训练速度及分类速度慢的缺点,提出一种改进的数据挖掘模糊支持向量机分类算法.该算法首先预选有效的候选支持向量缩减训练样本集的规模提高训练速度;其次提出一种新的模糊隶属度函数,增强支持向量对构建模糊支持向量机最优分类超平面的作用,并用经过预选的训练样本集进行训练FSVM得到支持向量集;最后,运用粒子群优化算法选择最优支持向量子集,使用平均分类误差作为适应度函数,最终粒子输出时,将样本隶属度与设定阈值相比较,选择出支持向量集中相对较大隶属度的样本作为新的支持向量,提高分类速度.实验结果表明,该算法在不损失分类精度的情况下,提高了模糊支持向量机的训练速度和分类速度.     

低阶数据映射和特征加权的线性SVM

针对传统线性支持向量机在训练数据集时均等对待每一维输入特征,以及在原始空间直接分类造成预测准确率低的问题,提出低阶多项式数据映射和特征加权相结合的方法,来提高线性支持向量机的分类性能。该方法首先将每个样本映射到多项式核对应的2 阶显式特征空间,从而增加样本的隐性信息,然后使用模糊熵特征加权算法计算每一维特征的权重,通过权重衡量特征对分类结果的贡献大小。从不同数据库选取7个数据集进行测试,在训练时间和预测准确率2个方面将该方法与核支持向量机、线性支持向量机的其他改进算法进行比较。结果显示,随着数据集规模的扩大,训练时间降低一个数量级,预测准确率在一些数据集上取得与核支持向量机相接近的效果。结果表明：所提方法可以有效提高线性支持向量机的整体性能。     

基于混合核函数支持向量机的回归模型

基于支持向量机核函数的条件,将Sobolev Hilbert空间的再生核函数和Sig核函数进行有效的线性混合,给出一种新的支持向量机的混合核函数,并提出一种基于再生核的混合核函数支持向量机回归模型,该回归模型兼具了全局核函数与局部核函数的优点,且算法的复杂度被降低.仿真实验结果表明:最小二乘支持向量机的核函数采用基于再生核的混合核函数是可行的,回归的效果比单核函数可以更为细腻.     

基于1-分类支持向量机的机器视觉缺陷分类方法

文章针对机器视觉表面缺陷检测中不同类缺陷样本数量少和不均衡的情况,提出了用1-分类分别对单独类缺陷进行真/假分类判断的分类方法,首先对每类训练样本计算具有尺度和旋转不变的不变矩特征,再使用基于1分类的支持向量机和RBF核函数对每一类缺陷样本生成一个超球面,然后通过二重网格搜索的方法对核函数的参数寻优,最后对实际采集的缺陷图像自动寻找缺陷位置并进行分类.实验表明,1-分类支持向量机进行缺陷分类能克服分类样本不均衡的限制,具有分类准确率高及易实现在线检测等优点.     

组合核支持向量机个人信用评估模型

针对支持向量机模型在分类问题中的广泛应用,提出了一种新的基于支持向量机的个人信用评估模型,通过对支持向量机直方图交叉核、热核特征核、杰卡德距离核和余弦广义距离核4种核函数的组合处理,构造了投票矩阵;通过实际数据实验,获得了良好的分类结果,同时证明了支持向量机自适应组合核加权模型在信用评分系统中具有良好的性能;因此,这种基于支持向量机的个人信用评估模型可以帮助银行或贷款人做出正确的决策。     

基于动态核函数的模糊支持向量机

针对传统的支持向量机(SVM)对训练样本中的噪声和野值特别敏感而导致的过学习问题,文中提出了一种新的基于动态核函数的模糊支持向量机(FSVM).该方法不仅考虑了样本点到类中心的距离,而且还考虑了样本间的密切度,结合这两种思想在特征空间中构造了一种新的基于动态核函数的模糊隶属度.仿真实验表明,该方法有较好的分类精度和推广能力并且在理论上具有一般性和能够有效地减弱野值的影响.     

基于傅立叶核与径向基核的支持向量机性能之比较

支持向量机（SVMs）是由Vapnik提出的一种建立在统计学习理论上的新方法：这种方法被深入地研究并广泛应用在诸如分类和回归问题上。由于其基于结构风险最小化的机理，因此相对于其他的经典方法有着更好的泛化特性，其中核函数的选择对支持向量机的性能有着很大的影响。深入地研究了基于傅立叶核函数的支持向量机的特性，得出在某些特殊的情况下，基于傅立叶核函数的支持向量机的性能要好于基于RBF核的支持向量机。最后的仿真对其进行了比较验证。     

基于傅立叶核与径向基核的支持向量机性能之比较

支持向量机（SVMs）是由Vapnik提出的一种建立在统计学习理论上的新方法。这种方法被深入地研究并广泛应用在诸如分类和回归问题上。由于其基于结构风险最小化的机理,因此相对于其他的经典方法有着更好的泛化特性,其中核函数的选择对支持向量机的性能有着很大的影响。深入地研究了基于傅立叶核函数的支持向量机的特性,得出在某些特殊的情况下,基于傅立叶核函数的支持向量机的性能要好于基于RBF核的支持向量机。最后的仿真对其进行了比较验证。      

基于核Fisher判别的复杂储层岩性识别研究

复杂储层中多种岩性均可作为储层,不同岩性的物性特征差异较大,分岩性解释复杂储层物性是求准物性较为有效的一种方法,但是不同岩性的测井特征相近,常规线性分类方法识别效果不理想,因为复杂储层的岩石识别中非线性分类特征占较大比例。针对这一问题,本文将Fisher判别分析(FDA)做核推广,形成核Fisher判别分析(KFDA),进一步利用Fisher判别中未提取的非线性信息,通过升维获得更多的非线性分类特征,然后再通过降维来提取利于岩性分类的特征。文章通过实验对核Fisher在数据预处理、关键参数的选取等方面进行了详细介绍,并将核Fisher方法与其它分类方法进行比较,验证了核Fisher方法的岩性识别能力,而对于不同岩性间的差异相似关系,造成岩性识别精度低的情况,提出了分级核Fisher判别分析的思路,研究证明利用分级核Fisher判别分析的思路可进一步提高岩性的识别精度。     

基于Grassmann流形距离的动作识别

利用时空兴趣点间的位置及局部特征相似度信息,提出一种局部邻域特征以描述局部数据结构,然后引入核主角度及Grassmann流形距离以度量2个邻域特征距离,通过构造随机流形森林学习数据样本在Grassman流形上的类条件概率密度函数,最后使用多核学习算法实现对随机流形树的剪辑及动作分类.在KTH及UCF-CIL动作数据库的实验证明:所提动作表示方法能有效描述人体运动信息,且该动作识别算法的识别率优于近年提出的典型动作识别系统.     

基于核主成分分析和支持向量机的飞机舱音信号识别

为了提高飞机事故原因的调查准确性与实时性,提出了一种基于核主成分分析和支持向量机的舱音背景声识别方法.首先提取和分析了飞机驾驶舱话音记录器中所记录背景声信号的特征参数,然后分别以多项式核函数、sigmoid核函数和高斯核函数3种核函数作为内积,对3种核函数的降维特性进行了对比分析,最后将核方法与支持向量机结合,实现对舱音背景声的分类识别.实验结果表明:通过基于不同核函数的主成分分析方法与支持向量机的结合比较,确定以高斯核函数为内积的SVM分类方法具有较好的分类效果.     

基于核Fisher判别分析的粮虫特征压缩方法

针对粮仓害虫种类多、类别之间相似度比较高的特点,提出基于核Fisher判别分析的粮虫特征压缩方法.利用高斯径向基核函数,对特征选择后的10维原始数字特征进行核Fisher判别分析,即通过非线性变换将样本数据从输入空间映射到高维特征空间,然后在高维特征空间进行特征提取.从粮虫分类效果方面,将KFDA法与FDA法、PCA法和KPCA法3种方法进行了比较分析.应用KFDA法提取的前4个特征,由最近邻分类器对粮仓中常见的9类粮虫进行分类,验证集的识别率为93.33%.结果表明:KFDA法对粮虫特征的非线性比较敏感,在有效降低特征维数的同时,还提高了类别之间的可分性.     

基于双空间金字塔匹配核的图像目标分类

提出一种基于局部特征的双空间金字塔匹配核(bi-space pyramid match kernel,BSPM)用于图像目标分类.利用局部特征在特征空间和图像空间建立统一的多分辨率框架,以便较好地表达图像的语义内容.该方法同时在特征空间和图像空间建立金字塔型结构,通过适当匹配可以得到正定核函数,该函数具有线性计算复杂度,可以运用于基于核的学习算法.将BSPM嵌入支持向量机对公共数据库中图像目标进行分类,实验结果表明该方法对图像具有良好的分类能力,优于词汇导向的金字塔匹配核和空间金字塔匹配核.     

Feature Rescaling of Support Vector Machines

Support vector machines (SVMs) have widespread use in various classification problems. Although SVMs are often used as an off-the-shelf tool, there are still some important issues which require improvement, such as feature rescaling. Standardization is the most commonly used feature rescaling method. However, standardization does not always improve classification accuracy. This paper describes two feature rescaling methods: multiple kernel learning-based rescaling (MKL-SVM) and kernel-target alignment-based rescaling (KTA-SVM). MKL-SVM makes use of the framework of multiple kernel learning (MKL) and KTA-SVM is built upon the concept of kernel alignment, which measures the similarity between kernels. The proposed methods were compared with three other methods: an SVM method without rescaling, an SVM method with standardization, and SCADSVM. Test results demonstrate that different rescaling methods apply to different situations and that the proposed methods outperform the others in general.     

问答系统中基于语义核函数的问题分类算法

提出一种基于语义核函数的问题分类算法,该算法基于问题的语法结构构建支持向量机(SVM)核函数.首先,将给定的问题解析为语法树结构,用语法树的子树表示该问题;然后,从词法、语法、语义三个层面提取问题的特征,构成更加丰富的特征空间;接着,基于问题的语法树构建核函数;最后,使用潜在语义索引方法并结合问题的词法、语法以及语义特征,通过语义核函数将特征空间映射到更有效的空间中进行问题分类.TREC数据集上的实验结果表明,通过词法、语法以及语义增强的问题特征空间可以提高分类准确率.     

基于合成核支持向量机的高光谱土地覆盖分类

提出一种基于合成核支持向量机的高光谱数据分类方法。该方法首先对高光谱数据进行分组, 对得到的不同数据组分别运用支持向量机方法进行分类参数的优化, 然后组合不同的核函数来综合不同的数据组, 得到最终的分类结果。利用华盛顿地区 HYDICE 高光谱数据对所提出的方法进行评价和验证, 结果表明, 基于合成核支持向量机的高光谱图像分类, 可获得比传统支持向量机更高的分类精度。     

视觉核感知器

将Mercer核思想和视觉理论相结合，提出了视觉核感知器算法(VKP)。相对于单纯的核感知器，视觉核感知器能更有效地解决了学习的收敛性问题。同时也有效地提高了核感知器学习的精度。大量的实验结果表明了本算法的有效性和某些情况下的优越性。     

基于一种自适应核学习的KECA子空间故障特征提取

核属性约简方法对于去除冗余信息,调整数据非线性结构具有独特的优势.针对航空电子设备故障诊断中有效特征提取困难,核属性约简方法中核函数与核参数选择繁琐等问题,提出了一种基于自适应核函数优化学习的核熵元分析（kernel entropy component analysis,KECA）特征提取方法.首先针对一种自适应核函数基于改进的Fisher核矩阵测量准则建立了一种面向多分类任务的核函数优化框架,然后将优化结果与KECA相结合,通过在KECA特征子空间中选择对输入数据Renyi熵估计有较大贡献的核矩阵特征向量来实现故障特征提取.实验结果表明,本文方法不仅提升了分类精度,而且对噪声具有一定的抑制作用,具有良好的泛化性能.