改进的稀疏孪生支持向量回归算法

相比传统支持向量机,尽管孪生支持向量机具有较快的计算速度,然而不具备结构风险最小化和稀疏性,易产生过拟合现象。针对这一问题,提出了一种具有稀疏性的改进的孪生支持向量回归算法。通过在目标函数中加入正则项将结构风险最小化原则引入到孪生支持向量回归算法中,改善了算法的回归性能|同时选择训练样本的一个子集代替全部的训练样本,使核函数由方阵转变成矩形阵,从而使算法具有稀疏性,有效减少运算时间。仿真结果证明了该算法的有效性。     

基于压缩感知的多核稀疏最小二乘支持向量机

为了提高稀疏最小二乘支持向量机对高维、异构数据的泛化性能,提出新型的基于压缩感知的稀疏多核最小二乘支持向量机算法。首先根据压缩感知理论,用正交匹配追踪算法对最小二乘支持向量机的支持向量进行稀疏化,再利用线性多核扩展法求出新的核函数矩阵。将新的核矩阵应用到最小二乘支持向量机,得到稀疏多核最小二乘支持向量机的解,用稀疏的支持向量实现函数回归。理论分析与数据实验对比结果表明该模型对于高维、异构数据能够更快更准确地进行训练,大大提高了模型的泛化能力和运算速度。     

改进的渐进直推式支持向量机算法

针对半监督学习中渐进直推支持向量机(Progressive Transductive Support Vector Machines, PTSVM)算法存在训练速度慢, 回溯式学习多,学习性能不稳定的问题,提出一种改进的渐进直推支持向量机算法---IPTSVM.该算法利用支持向量的信息选择新标注的无标签的样本点,结合增量支持向量机的迭代更新算法, 继承渐进直推支持向量机渐进赋值和动态调整的规则, 与PTSVM相比,不仅在一般情况下提高了分类的精度,而且大大提高了算法的速度.在人工模拟数据和真实数据上的实验结果表明了该算法的有效性.     

基于稀疏型支持向量回归的时间序列预测

为提高支持向量回归在时间序列预测应用中的学习速度和泛化性能,提出了稀疏型支持向量回归方法.通过牛顿优化法,直接优化支持向量回归的原始问题.然后利用Cholesky分解更新原始优化中的Hessian矩阵实现稀疏型支持向量回归算法.最后将该算法运用到Mackey-Glass,Lorenz和Logistic混沌时间序列预测,仿真结果表明本文提出的方法能够在确保预测精度的前提下,有效地降低支持向量的个数.     

半监督稀疏近邻保持投影

提出了改进的稀疏子空间学习方法。首先,提出了稀疏近邻相关性重构模型,该模型通过提取样本间的局部信息和标记样本的标签信息,解决了稀疏子空间学习的全局特征导致数据描述不充分的问题;其次,利用半监督技术,引入正则化参数对无标签判别特征和标签判别特征进行特征融合,提高了基于稀疏近邻相关性重构的子空间学习算法的性能。实验结果表明,该方法具有较高的分类性能和识别率,此外,稀疏近邻相关性重构在提取判别信息时具有良好的稳定性。     

基于空间约束加权条件稀疏表示高光谱图像分类

为了充分利用稀疏表示分类信息和高光谱图像的空间信息,提出结合马尔可夫随机场的加权条件稀疏表示高光谱图像分类算法。该算法对稀疏表示分解后的残差向量建立条件稀疏表示模型,在计算残差向量的类别归属时引入频段方差信息;利用光谱信息散度从信息熵的角度挖掘重构光谱中的类别鉴定信息;在期望最大化算法模型中,将条件稀疏模型与光谱信息散度模型相结合,使算法具备迭代自更新的能力;将马尔可夫随机场引入加权条件稀疏表示算法,在算法时间复杂度不变的情况下,对高光谱图像的空间信息予以提取。仿真结果表明,该算法能够有效地提高分类精度,且在不同试验数据下具备良好的稳定性。     

基于多任务支持向量机的健康数据融合方法

针对电子健康服务管理中的多源数据融合难题,利用人工智能技术,结合多任务学习理论与支持向量机理论提出基于多任务支持向量机的数据融合方法(multi-task support vector machine for data fusion,简称mSVMDF).该方法对具有相同数据源的特征向量构造基于支持向量机的融合模型,在多任务学习框架下考虑结构稀疏性与各模型关联性的有机结合,以实现对具有不同数据源个数的多源数据的融合,并以多源影像数据与常规检验数据融合为例,开展数值实验验证方法的有效性.实验结果表明mSVMDF方法可以有效地融合具有不同数据源个数的多源数据,同时该方法具有较好的分类性能与结构稀疏性.     

基于支持向量机的中文文本自动分类研究

提出了一种基于支持向量机的文本自动分类方法,并进行了实验研究。在详细介绍了进行文本分类的实验过程和在实验中使用支持向量机的方法的基础上,通过实验比较了支持向量机算法和传统的KNN算法应用于文本分类的效果,并针对支持向量机算法的缺点,提出了进行文本预处理时的改进方法。实验结果表明了支持向量机在处理文本分类问题上的优越性。     

基于v-支持向量回归机的盲均衡算法

盲均衡可以看作模式分类问题,每一类由信源字符表的可能输出定义.由于支持向量回归机具有优良的泛化性能,提出了一种基于v-支持向量回归机的盲均衡算法,并且利用加权最小二乘方法求解v-支持向量回归机.计算机仿真结果表明提出的盲均衡算法具有计算复杂度低、适于实际应用的特点.     

用样本密度法解决支持向量机拒识区域

拒识区域是传统多分类支持向量机中存在的主要缺陷之一。为克服这一不足,提高多分类支持向量机的分类性能和泛化能力,提出将样本密度法用于解决支持向量机拒识区域问题。该方法以落入拒识区域中的样本点为中心,某一阈值为半径建立一个超球体,然后计算各类样本集在该超球体内的样本密度,最后选择最大样本密度对应的类为样本的所属类。数据实验结果表明,样本密度法实现了零拒识,有效提高了传统多分类支持向量机的分类性能。     

基于核主元分析和最小二乘支持向量机的软测量建模

软测量技术是工业过程控制和分析的有力工具，它的核心问题是如何建立学习速度快且泛化性能优良的软测量模型。提出了一种基于棱主元分析（KPCA）和最小二乘支持向量机（LSSVM）的软测量建模方法，利用核主元分析提取软测量输入数据空间中的非线性主元，然后用最小二乘支持向量机进行建模，不但降低模型复杂性，而且提高了模型泛化能力。最后将上述方法用于PTA结晶过程的软测量建模，仿真结果表明：与SVM、PCA-SVM建模方法相比，该KPCA-LSSVM方法具有学习速度快、跟踪性能好、泛化能力强等优点，是一种有效的软测量建模方法。     

基于二级字典的联合稀疏表示高光谱图像分类

针对多数传统分类算法应用于高光谱分类存在的分类精度较低、光谱信息利用不充分的问题,在基于核函数的联合稀疏表示分类方法的基础上提出了一种基于二级字典的联合稀疏表示的高光谱分类算法。在字典原子前加入待测像元与该原子的引力,以达到更快捷地找到与待测像元相匹配的原子的目的。加入的引力值由万有引力公式改进的适应于高光谱图像的公式计算而来。为了使得稀疏重构后的残差波段中包含的具有一定意义的分类鉴别信息被充分挖掘,本文采用指数平滑公式对残差信息进行再利用。通过在Indian Pine数据集和Salina-A数据集上进行实验,验证了所提算法可以提升分类精度。     

基于核函数的联合稀疏表示高光谱图像分类

为了充分利用高光谱图像邻域像元间的相似性与独特性这一特征信息,提出了一种基于核函数的联合稀疏表示分类方法(kernel joint sparse representation classification, K-JSRC)来提高高光谱图像的分类精度。该方法通过一种改进的核函数对每个待测中心像元的所有邻域像元自适应的予以不同权重来测量待测中心像元与邻域像元的相似度从而得到不规则的最优邻域窗口。在Indian Pines和University of Pavia两个高光谱数据集上的实验结果表明,提出的分类算法对高光谱图像进行了很好的分类并且其分类精度优于同类算法。     

#br# 基于自组合核的增量分类方法

在线极端学习机(online sequential extreme learning machine,OSELM)模型在解决动态数据实时分类问题时,无需批量计算,仅保留前一时刻训练模型,根据当前时刻样本调整原有模型即可。然而,该增量方法在离线训练阶段随机指定隐层神经元使模型鲁棒性差,且求解过程难以拓展于核方法,降低了分类效果。针对上述问题,提出一种基于自组合核的在线极端学习机(self compounding kernel online sequential extreme learning machine,SCK OSELM)模型。首先,提出一种新的自组合核(self compounding kernel,SCK)方法,构建样本不同核空间的非线性特征组合,该方法可被应用于其他监督核方法中。其次,以稀疏贝叶斯为理论基础将训练数据的先验分布作为模型权值引入,并利用超参调整权值后验分布,从而达到对当前时间点参数稀疏的目的。最后,将稀疏得到的参数并入下一时刻运算。对动态数据的实时分类实验表明,该方法是一种有效的增量学习算法。相比于OSELM,该方法在解决动态数据实时分类问题时获得更稳定、准确的分类效果。     

基于稀疏表示分类的雷达欺骗干扰识别方法

为了应对基于数字射频存储的各种欺骗干扰信号, 提出了一种基于稀疏表示分类的欺骗干扰识别算法。通过小波包分解重构把信号划分为不同频段, 然后对信号提取三阶累积量切片特征构造特征矩阵, 并利用奇异值分解对特征进行降维, 提取主要分量。最后利用稀疏表示分类在不同频段上对信号进行分类识别, 利用决策融合的方法对分类结果进行整合。经验证, 该方法具有很好的抗噪性能, 能够有效识别几种常见的欺骗干扰信号, 在信噪比为0 dB时, 欺骗干扰平均识别率达到90%以上, 并与其他欺骗干扰识别方法进行了对比, 显示了所提方法的优越性。     

奇异值特征抽取目标识别法

图像的代数特征是图像的一种固有的特征。每一幅图像都可以认为是一个矩阵,而矩阵的奇异值具有很多适合图像识别的特征。本文不仅研究了矩阵的奇异值的代数特征,而且找到一种将奇异值特征应用到目标识别中的方法,实验结果证明应用奇异值特征可以取得较好的识别效果。     

基于模糊核聚类的SVM多类分类方法

针对SVM在大类别模式分类中存在的问题,提出了一种基于模糊核聚类的SVM多类分类方法,并给出了一种高效的半模糊核聚类算法。该方法基于模糊核聚类方法生成模糊类,并采用树结构将多个SVM组合起来实现多类分类。模糊核聚类方法不但能够实现更为准确的聚类,而且能够挖掘模糊类的外围、不同模糊类之间的交叠情况等信息,利用这些信息能有效提高分类器的性能。实验表明,所提方法比传统方法具有更高的速度和精度。     

基于核参数分时段调节型LSSVM的在线过程辨识方法

利用最小二乘支持向量机(least square support vector machine, LSSVM)在线辨识时变非线性过程时,设定其核参数较困难,设定的核参数不能适应过程变化而进行自动调节。针对此问题,提出了一种基于核参数分时段调节型LSSVM的在线过程辨识方法。该方法利用了三个LSSVM,并将整个建模预测时期分为启动阶段和若干个工作周期。初始阶段末和每个工作周期末选定预测误差和最小的LSSVM,作为后续工作周期的工作LSSVM,同时根据启发式规则为另两个LSSVM设定核参数,它们作为后续工作周期的比较LSSVM。该方法设定核参数相对容易,而且核参数具有一定的自动调节能力。数字仿真显示,从统计角度而言,所提方法比传统方法有更好的适应性。