一种基于数据分布的SVM核选择方法

针对目前支撑向量机(SVM)核函数的选择没有统一规则的现状,提出一种结合数据分布特征进行SVM核选择的方法.首先,采用多维尺度(MDS)分析方法对高维数据集合理降维,提出判断数据集是否呈圆球分布的算法;然后,在得到数据集分布特征的基础上进行SVM核选择,以达到结合数据分布特征合理选择SVM核函数的目的.实验结果表明:呈圆球分布的数据集采用球面坐标核进行分类,识别率达到100%,训练时间最短,优于采用高斯核SVM及多项式核SVM的分类效果.     

基于组合核函数SVM的说话人识别方法

 鉴于应用支持向量机进行说话人识别过度依赖于选择核函数的问题,提出一种基于组合核函数支持向量机(SVM)的说话人识别方法.对多项式核函数、径向基核函数进行线性加权,构建既具有全局核函数优点又具有局部核函数优点的组合核函数,并通过多重网格搜索调节权重系数使组合核函数适用于当前数据分布,确定组合核函数SVM 的最优参数,实现对说话人的有效识别.对TIMIT 数据集和含噪声数据集的仿真实验显示,基于组合核函数SVM 的说话人识别性能明显优于单一的多项式核函数、径向基核函数和线性核函数.     

基于TLSmote-SVM的非均衡用户窃漏电诊断算法

针对支持向量机（support vector machines, SVM）检测异常用电用户精度受样本非均衡性和核函数选择影响的问题, 提出一种基于TLSmote-SVM（tomekLink-smote-SVM）的窃漏电诊断模型. 首先基于用电用户数据分布, 利用Smote方法扩充少数类样本, 同时采用Tomek-link剔除噪声; 然后对用户用电特征指标降维后优选SVM核函数; 最后将该算法应用于非均衡用户窃漏电诊断实验, 并与传统SVM和Smote-SVM进行对比, 实验结果表明, 该算法可显著提高窃漏电用户的检测精度.     

一种多核加权支持向量机的水质预测方法

提出一种基于多核加权支持向量机的水质预测方法.核函数及其参数选择与数据分布的情况密切相关,采用单一的核函数应对水资源质量评价指标的整个数据分布难以达到很好的预测结果.采用多核加权学习的核函数避免了核函数设计的盲目性和局部最优等非线性优化问题.实例表明,该方法的预测结果是合理可行的,且与以往同类预测方法相比,有着更为客观...     

一种基于混合核函数SVM的人脸识别方法

SVM是人脸识别中最常使用的一种机器学习领域算法,它通过距离概念得到对数据分布的结构化描述,降低了对数据规模的要求,适合处理人脸图像这种小样本训练集的分类问题。其中SVM的核函数的选择对分类精度影响很大,全局核函数的预测函数对输出进行正确预测的能力较高,而局部核函数具有较强的学习能力,兼顾两者特点,使用结合RBF核和Sigmoid核的混合核来设计SVM分类器进行识别。针对ORL库进行PCA特征提取,然后使用基于混合核的SVM分类器进行识别分类。实验结果表明,在识别率上,基于该混合核函数的SVM分类器比基于普通核函数SVM分类器要更占优势。     

分形理论下支持向量机核函数选择

支持向量机(support vector machine,SVM)是一种基于核的机器学习方法,不同的核函数对SVM的性能影响显著,如何针对具体问题获得一种有效的核函数选择方法成为SVM研究领域的一个重要问题。目前核函数选取仍是一个开放性的问题,存在着一系列的偶然性和局限性。而针对相对复杂问题时,使用何种类型的单一基核函数难以反映出其分布特征。因此,提出一种基于分形理论的核函数选择方法,在考虑不同核函数度量特征的同时,结合具体问题样本分布特征合理构造或选择核函数类型,并通过数据仿真以及相似性对比验证了算法的合理性。     

极坐标核在样本分类问题中的应用研究

核函数选择是支撑向量机(Support Vector Machine,SVM)研究的热点和难点.针对目前SVM核函数的选择没有统一规则的现状,探讨极坐标核在样本分类问题中的应用,提出一种结合样本分布特征进行SVM核选择的方法.首先分析极坐标核的映射原理,采用主成分分析方法(Principle Component Analysis,PCA)对高维数据集合理降维,在得到样本集分布特征的基础上进行SVM核选择,在Matlab环境中,采用四组数据集进行分类实验,验证结合样本分布特征选择SVM核函数的分类效果.实验结果表明,呈类圆形分布的样本集采用极坐标核进行分类,识别率达到100%,训练时间最短,优于采用高斯核SVM的分类效果.该方法提高了SVM的泛化能力,方案具有可行性和有效性.     

一种基于关联规则的核粒度支持向量机

提出一种基于关联规则的核粒度支持向量机(association rules based kernel granular SVM,AR-KGSVM)学习算法.AR-KGSVM首先将输入空间中的样本用核函数映射到高维特征空间,然后在核特征空间挖掘基于距离度量的关联规则以划分粒.算法的粒划分和数据训练都是在高维核空间中进行,避免了一般的粒度支持向量(granular SVM,GSVM)在低维空间作粒划分而在高维空间中训练,使数据分布不一致而导致泛化能力不高的问题.在标准数据集上的实验结果表明AR-KGSVM的泛化能力优于传统的SVM和GSVM方法.     

关于支持向量机参数选择方法分析

在分析支持向量机(SVM)原理基础上,分析了SVM中核函数、核参数及惩罚参数C的影响。介绍了两种SVM参数选择方法,作了深入比较,并提出了一种改进的最优化方法。     

支持向量机中核参数选择的Max-Min方法

通过核函数技巧,定义了高维空间中两样本点之间的距离.引入异类距离平方阵,提出了一种新的选择SVM核参数准则,并给出算法,即max-min方法.该方法利用不同类的训练样本之间的距离,而不通过SVM标准样本训练寻求最优的(或有效的)核参数,避免了传统SVM在模型选择上经验性强和计算量大的不足.同时又分别以径向基核函数(RBF)和多项式函数为例进行试验,显示采用该方法的算法步骤.结合试验结果,得出关于核参数的选择问题一般在一个开集内只有有效值,不存在最优值,即是一个多目标优化问题的结论.并引用已有的实验结果充分支持我们的结论.max-min方法不仅在理论上提供了一种选择最优核参数的方法,而且对试验性选择具有指导作用.     

基于一种自适应核学习的KECA子空间故障特征提取

核属性约简方法对于去除冗余信息,调整数据非线性结构具有独特的优势.针对航空电子设备故障诊断中有效特征提取困难,核属性约简方法中核函数与核参数选择繁琐等问题,提出了一种基于自适应核函数优化学习的核熵元分析（kernel entropy component analysis,KECA）特征提取方法.首先针对一种自适应核函数基于改进的Fisher核矩阵测量准则建立了一种面向多分类任务的核函数优化框架,然后将优化结果与KECA相结合,通过在KECA特征子空间中选择对输入数据Renyi熵估计有较大贡献的核矩阵特征向量来实现故障特征提取.实验结果表明,本文方法不仅提升了分类精度,而且对噪声具有一定的抑制作用,具有良好的泛化性能.      

核PCA支持向量机算法研究

在核函数基础上,提出了一种融合支持向量机和核主元分析的核PCA支持向量机综合集成分类方法,给出了算法实现步骤。仿真实验表明了该算法具有很好的分类性能,特别适合于消除噪声情形的模式识别问题。     

利用相似度分割特征集的混合核构造方法

核函数作为样本相似性的衡量尺度是影响支持向量机分类效果的重要因素。为了使相似性衡量尺度与样本特征的分布特点相适应,提出利用相似度分割特征集的混合核函数构造方法。通过研究每维特征在不同相似性函数下的区分能力,将特征集分割成相应的特征子集,并根据特征子集在分类中的重要性程度,对相应的样本相似度矩阵进行线性加权,得到最终的分类结果。实验结果表明,文中提出的混合核可以同时具有多种不同特性核函数的优点,改善了支持向量机分类器性能。     

密度核估计中窗宽选择的一种新方法

提出了密度核估计中窗宽选择的一种新方法,并通过选取适当的核函数,推导出决定窗宽选择的数学表达式,最后在均方误差(MSE)意义下,通过与交叉验证法(cross-validation)进行比较,说明在未知总体分布的情形下,用此方法选择最优窗宽是很有效的一个途径.     

模式分析的核函数设计方法及应用

利用卷积算子和H1(R)核函数给出了一种设计Hn(R)核函数的新方法,该方法简便易行。运用该方法设计的核函数,应用在轴承正常振动信号数据、轴承内圈、外圈以及滚动体故障振动信号数据进行核主成分分析(KPCA)中,仿真结果表明:该方法可以有效地识别轴承正常和内圈、外圈以及滚动体故障。     

基于混合核函数支持向量机的回归模型

基于支持向量机核函数的条件,将Sobolev Hilbert空间的再生核函数和Sig核函数进行有效的线性混合,给出一种新的支持向量机的混合核函数,并提出一种基于再生核的混合核函数支持向量机回归模型,该回归模型兼具了全局核函数与局部核函数的优点,且算法的复杂度被降低.仿真实验结果表明:最小二乘支持向量机的核函数采用基于再生核的混合核函数是可行的,回归的效果比单核函数可以更为细腻.     

基于不同核函数的非参数利率期限结构模型的估计

给出了用非参数方法估计利率期限结构的过程,并以上海证券交易所的国债回购利率数据为样本,采用4种不同核函数：高斯核、抛物线核、四次方核和六次方核对利率期限结构模型进行估计。结果显示：当利率小于4%时,4种核函数估计结果相近;当利率大于4%时,高斯核和抛物线核的估计结果相近,四次方核和六次方核的估计结果相近;从利率均值回复的角度来说,后两者要优于前两者。所有结果表明：短期利率的密度函数是非正态的,扩散过程的漂移函数和扩散函数是非线性的,印证了非参数利率期限结构模型在刻画利率行为方面的优越性。     

视觉核感知器

将Mercer核思想和视觉理论相结合，提出了视觉核感知器算法(VKP)。相对于单纯的核感知器，视觉核感知器能更有效地解决了学习的收敛性问题。同时也有效地提高了核感知器学习的精度。大量的实验结果表明了本算法的有效性和某些情况下的优越性。     

递归方法在窗宽选择上的应用

在未知总体分布的情形下,给出密度核估计中选择窗宽的一个新方法,并在选取高斯核的情形下,推导出计算窗宽的递归公式。最后通过与理论窗宽值比较,说明使用该递归方法选择最优窗宽是非常有效的一个途径。     

常用核函数的几何度量与几何性质

研究核函数的几何度量和几何性质,并给出核函数选择(核选择)的建议.首先通过对核函数所蕴含的几何度量的深入分析,导出了常用的高斯径向基核函数和多项式核函数的黎曼度量、距离度量和角度度量;然后总结了这些几何度量的性质,并进行了数学证明;最后在几何性质的基础上,给出了核选择的一些建议.