基于最小二乘支持向量机的人脸识别算法

通过计算机对人脸进行分析,从而确定身份的技术统称为人脸识别,其具体内容包括图像预处理、特征选择和提取、分类。首先介绍了支持向量机和最小二乘支持向量机的基本思想和数学模型,推导了最小二乘支持向量机的算法步骤,在对人脸图像进行预处理的基础上,采用奇异值分解扩展算法提取人脸特征,然后再采用上述算法对人脸图像进行分类。通过实验可知本文中的算法可以对人脸图像进行有效分类,对解决小样本分类问题是有效的、可行的。     

最小二乘支持向量机鲁棒回归算法研究

最小二乘支持向量机因模型学习过程中以二次损失函数为经验风险,造成学习结果对噪声特别敏感。鉴于实际问题中噪声不可避免、不可预测,且分布规律难寻,该文主要研究最小二乘支持向量机的鲁棒性增强算法,以提高其抵抗噪声与异常值的能力。通过分析得知,样本的局部异常因子与噪声大小间具有很大的相关性,因此提出了用于非线性回归问题的局部异常因子概念;并将其应用于最小二乘支持向量机模型学习时最优损失函数的确定中,提出了基于样本局部异常因子的直接加权最小二乘支持向量机鲁棒回归算法。为验证所提出算法的性能,该文最后以2个典型非线性对象为例,将其与原最小二乘支持向量机、文献中已有的基于预估噪声分布的加权最小二乘支持向量机进行了对比。对比结果表明,所提出的直接加权最小二乘支持向量机算法具有更好的鲁棒性。     

一种改进的最小二乘支持向量机算法

最小二乘支持向量机是标准支持向量机的一种扩展,它是支持向量机在二次损失函数下的一种形式.它用等式约束代替不等式约束,求解过程变为解一组等式方程,避免了求解耗时的二次规划问题,但同时也丧失了标准支持向量机的稀疏性,影响了二次学习的效率.针对上述问题,本文提出了一种改进的最小二乘支持向量机增量学习方法.改进的最小二乘支持向量机算法采用自适应剪枝方法对解进行稀疏,根据每次训练得到的分类器性能来设定剪枝阚值和样本增量的大小,如果得到的分类器性能好,剪枝阈值和样本增量就大,反之,剪枝阚值和样本增量就小,从而提高了最小二乘支持向量机训练效率,解决了稀疏性问题.最后,仿真实验表明该算法方案可行.     

直觉模糊最小二乘支持向量机

将直觉模糊集的相关理论引入到最小二乘支持向量机中, 建立了直觉模糊最小二乘支持向量机的数学模型, 并对模型的求解过程进行推导. 为验证该算法的有效性, 在人工数据集和标准数据集上进行仿真实验. 实验结果表明, 直觉模糊最小二乘支持向量机算法可降低分类时样本中噪声和野点对分类效果的影响.     

固定尺度最小二乘支持向量机

针对最小二乘支持向量机(LS-SVM)在进行回归预测时存在的稀疏性缺陷问题,采用固定尺度最小二乘支持向量机,即固定支持向量数量进行改进。仿真结果表明:固定尺度最小二乘支持向量机在训练各种样本数据集时,有效地避开了LS-SVM中的稀疏性问题,且训练速度快,同时具有良好的预测精度。     

最小二乘支持向量机的研究与应用

支持向量机是近年来机器学习领域出现的新的分类方法。在介绍支持向量机的基本原理及基于最小二乘支持向量机算法的基础上,结合一个实例阐述了最小二乘支持向量机在预测方面的应用,通过MATLAB仿真实验,结果表明该方法是有效的。     

最小二乘双胞支持向量回归机的研究

 利用最小二乘方法和临近支持向量机(PSVM)算法,并结合双胞支持向量机(TSVR),提出了最小二乘双胞支持向量回归机(LSTSVR).作为对照,TSVR需要求解2个二次规划问题,而LSTSVR仅需求解2个线性方程组.最后利用不同的实例验证了所提算法的可行性和有效性.     

加权最小二乘支持向量机与最小二乘问题的关系

研究了加权最小二乘支持向量机与最小二乘法的关系．证明了用加权最小二乘支持向量机作函数估计与在特征空间中用最小二乘法得到的解是一致的．加权最小二乘支持向量机选择核相当于最小二乘法选择基函数组．由此提出了采用加权最小二乘支持向量机解决最小二乘法问题的思想,保证解具有良好的推广性、鲁棒性与稀疏性．     

基于最小二乘的孪生有界支持向量机分类算法

基于经典的孪生有界支持向量机(TBSVM),构造了一个既简单又快速的基于最小二乘的孪生有界支持向量机(LSTBSVM)的二分类算法.该算法简单地将TBSVM模型中的两个目标函数中不等式约束问题修改为等式约束,问题最终归结为求解两个最小二乘问题,以至于两个最优不平行平面可通过求解一对线性方程组获取.与TBSVM相比,LSTBSVM具有更低的时间复杂度,以至于可以有效地处理大数据集.通过理论分析和在传统的UCI和人工数据集上的实验显示,LSTBSVM不仅具较快的计算速度,且能得到与TBSVM相当的性能.     

基于优化最小二乘支持向量机的室内定位算法

室内定位是普适计算应用中的关键技术,针对最小二乘支持向量机参数优化的难题,提出一种优化最小二乘支持向量机的室内定位算法。首先采用主成分分析提取重要定位特征,然后采用最小二乘支持向量机建立室内定位模型,并采用粒子群优化算法对最小二乘支持向量机参数进行优化,最后采用仿真实验测试定位性能。结果表明,文中算法提高了室内定位的精度且定位时间少于其它室内定位算法,具有一定的实际应用价值。     

基于改进克隆选择算法的最小二乘支持向量机

针对最小二乘支持向量机的参数选取问题,引入了克隆选择算法,提出了一种基于改进克隆选择算法的最小二乘支持向量机。同时根据最小二乘支持向量机的学习能力和泛化能力,在克隆选择算法的目标函数中加入两者的动态调节机制,这样改进的克隆选择算法在寻优过程中能够准确、快速地搜索到最小二乘支持向量机的最优参数。将本文模型用于乙烯裂解炉裂解深度值的学习和预测,经仿真实验表明：该预测模型的训练速度快,预测精度高。     

稀疏最小二乘支持向量机及其应用

提出基于特征向量选择(feature vector selection,FVS)的稀疏最小二乘支持向量机(sparse least squares support vector machine,SLS-SVM)模型,解决最小二乘支持向量机(least squares support vector machine,LS-SVM)稀疏化问题。采用FVS在特征空间构建特征向量子集,对训练样本进行稀疏线性重构;将稀疏化的特征向量作为支持向量,从而实现对LS-SVM稀疏化建模。将SLS-SVM模型进行弓网系统的仿真对比实验,结果表明SLS-SVM模型在取得高预报精度的同时,可实现支持向量的高度稀疏化,从而加快模型预报速度。     

最小二乘支持向量机的理论及应用研究

介绍了支持向量机(SVM)的数学原理和最小二乘支持向量机(Least Squares Support Vector Machines,LSSVM)的数学原理与应用研究。在支持向量机中采用的是二次规划方法,而最小二乘支持向量机则用最小二乘线性系统作为损失函数从而取代它,这样就利用等式约束的方法取代了不等式约束,最终演变为对线性方程组的求解,使求解的速度得到提高,求解的收敛精度得到提升。将最小二乘支持向量机与偏最小二乘法、标准支持向量机进行了对比。最终表明,LS-SVM计算结果更准确,更简单,内存的占有量也较少,计算时间短,耗时少,是一个很有应用价值的研究方向。     

支持向量机与最小二乘法的关系研究

研究了支持向量机 (SVM)在二次损失函数下的优化问题解的形式 ,并与普通的最小二乘 (L S)估计问题进行了比较 ,得到了几乎完全一致的优化问题形式。由于 SVM在二次损失函数下的优化问题对应于一个欠定问题 ,该问题在最小二乘估计中有最小范数解。如果 SVM的参数选择合适 ,从理论上可以证明采用二次损失函数的 SVM函数拟合问题实际为约束最小二乘估计问题 ,并且该问题的解对应于最小范数最小二乘解。由于最小化范数解实际是 SVM在取某些参数时的一个特例 ,如果能够自动调整这些参数 ,则得到一类最小化范数解。由此提出了采用 SVM解决最小二乘法问题的思想 ,由于 SVM的优点 ,使解更加符合实际情况     

基于密度的稀疏最小二乘支持向量机

针对最小二乘支持向量机对训练样本内噪声比较敏感和其稀疏性差的问题,提出基于密度k-近邻向量的训练样本裁剪算法。对训练样本的各个样本类进行聚类,删除噪声数据,提高支持向量机的训练精度。通过计算出每个样本类的平均相似度和平均密度,得到样本的类相似度阈值;根据相似度阈值,将小于类相似度阈值的样本进行合并,减少训练样本总数。实验结果表明,该算法在保证训练精度的情况下,减少了支持向量数目。     

遗传算法优化最小二乘支持向量机的故障诊断

提出一种基于遗传算法分层优化多类最小二乘支持向量机(least squares supportveotor machine,LS-SVM)的故障诊断模型。首先将故障信号经验模态分解(empirical mode decomposition,EMD)为平稳本征模态(intrinsic mode function,I MF)分量,再选择表征故障调制特征的I MF分量并提取瞬时幅值能量作为故障特征输入到遗传算法分层优化好的采用多项式核的多类LS-SVM中进行故障识别。EMD分解可自适应分离故障调制信号;瞬时幅值能量矢量的不同表征各类故障的可分性;遗传算法分层优化惩罚因子和多项式核参数可以使LS-SVM摆脱对故障类型与模式编号映射关系先验知识的依赖,提高LS-SVM的故障预测精度和自适应诊断能力,并可以推广应用于线性、径向基、Sigmoid等核条件下的LS-SVM优化。一个深沟球轴承故障诊断实例说明该模型的有效性。     

基于最小二乘支持向量机的滤波器设计

为了改善传统方法设计滤波器的幅频响应性能,提出了基于最小二乘支持向量机的滤波器设计方法．优化选择最小二乘支持向量机参数,以理想滤波器的幅度响应作为学习样本,通过最小二乘支持向量机训练,使得实际滤波器的幅度响应逼近理想滤波器的幅度响应．仿真结果表明,由该方法设计的一维和二维滤波器性能接近于理想滤波器．     

基于最小二乘支持向量机的网络流量预测

为了提高网络流量预测准确性,将最小二乘支持向量机应用于网络流量预测。介绍了最小二乘支持向量机的原理与方法,并将该模型应用于实际网络流量预测计算。结果表明,该方法能有效地进行流量预测,相对于BP神经网络和ARMA模型方法,该方法具有更好的预测精度。     

最小二乘支持向量机的一个快速近似算法

最小二乘支持向量机(Least Squares Support Vector Machine,LS-SVM)已成功地应用于许多分类问题上,但由于其解不具有稀疏性,该方法无法应用到大数据集的学习与测试上.提出了LS-SVM的一个快速近似HBILS-SVM算法.该算法结合Backfitting与Invfitting法则迭代增加或减少一个支持向量,这一过程重复直到满足给定的停止条件,从而构建出最终的分类决策函数.对比已有的稀疏化算法,HBILS-SVM算法的计算复杂度低,解更加稀疏,且支持向量更具有全局最优性.数值模拟试验表明:HBILS-SVM算法能在取得同样的泛化性能的前提下使得分类器更加稀疏.     

基于最小二乘支持向量机的信号回归

基于支持向量机核函数的条件和Sobolev Hilbert空间H1(R;a,b)的再生核,提出了一种称为最小二乘支持向量机的新的回归模型,并将该回归模型应用于信号回归的仿真实验中.实验表明,最小二乘支持向量机的核函数采用再生核是可行的,它优于常用的高斯核函数.