基于空间降维和多核支持向量机的网络入侵检测

提出空间降维和多核支持向量机算法进行网络入侵检测;从网络中抓取数据包,通过局部线性嵌入数据降维获得属性降维后的数据样本;通过差异化设置参与局部线性嵌入运算的邻居数,验证适合样本集的邻居数,将多项式核函数、高斯核函数和Sigmoid核函数进行两两组合,分别验证多核支持向量机的网络入侵检测性能。结果表明,在合理设置局部线性嵌入邻居数和核函数组合方式的条件下,基于空间降维和多核支持向量机的网络入侵检出率较高,检测时间较短。     

基于半无限规划的弹性多核学习算法

在综合考虑L1和L2多核判别分析的优点基础上,引入弹性正则化.以预定内核函数的线性组合为基础,结合混合范数正则化函数平衡核权重的稀疏性和非稀疏性,提出了一种基于半无限规划的弹性多核判别分析学习算法(EM-KDA),该算法应用半无限规划算法求解弹性多核判别分析,并通过混合正则化来实现核的自学习.在不同数据集上的实验验证了算法的有效性,实验结果表明:该方法能够平衡L1和L2多核判别分析的稀疏性和非稀疏性,可以尽可能地利用基核的信息;与其他多核判别分析方法相比,具有更好的性能.     

结合遗忘特性的多任务多核在线学习算法

对于数据流的处理,多任务多核学习已逐渐成为在线学习算法研究的热点,它在一定程度上可提高数据流预测的准确性。多核方法尽可能使用最少的核函数得到最好的实验效果,当数据量增大、训练模型稳定时,通过阈值限定的方法对核函数进行遗忘,从而减少基本核函数的使用个数,使得计算更加简单;对于算法的优化,通过引入一个遗忘变量,从对偶的角度来进一步优化权重更新过程,这里的权重指多个任务的共有特征权重和每个任务间的特有权重,以提高算法的收敛速度。实验部分对核函数的选取进行了较为详细的分析,通过对UCI数据集和实际的机场客流量数据集进行分析,证明该本算法的合理性和高效性。     

一种新型的自适应多核学习算法

针对样本基数较大、 维数较高、 特征较复杂的数据集训练问题, 将支持向量机与蚁群优化算法相融合, 提出一种自适应多核学习算法. 利用吸引子传播聚类算法自适应地发现相似特征, 并据此利用蚁群算法自适应地选择核函数参数, 从而快速选择最优核函数. 通过UCI数据集的5组数据实验表明, 该算法相比于传统的支持向量机分类准确率和F₁值更高, 验证了该算法的有效性和可行性.     

低秩表示和加权核范数最小化的子空间聚类

为了进一步提升基于核范数和F范数最小化的子空间聚类算法的性能,使用加权核范数扩展上述两种范数.提出的算法中含有一个参数γ,当γ=0时,可得到核范数;当γ=1时,可得到F范数;当0γ1时,可得到介于核范数和F范数之间的范数.采用交替方向乘子方法和线性交替方向乘子方法求解所提算法的目标函数,并由此得到了2个基于加权核范数最小化的低秩子空间聚类算法.利用Extended Yale B人脸数据集、MNIST手写字符数据集和USPS手写字符数据集进行实验.实验结果表明:和现有的子空间聚类方法相比,所提算法可以得到较高的聚类精度.     

去噪空间上的多核学习

回顾了一种多核学习(multiple kernel learning,MKL)方法——lp范数约束的多核Fisher判别分析(lpregu-larized multiple kernel Fisher discriminant analysis,MK-FDA),研究了固定范数和p范数下MKL的性能对比,并针对原始特征空间必然存在噪点的现象,对在特征空间去噪之后的MKL方法的效果进行了探索。在VOC 2007数据集上的实验结果表明,lpMK-FDA无论使用原始核函数或者去噪后核函数的性能都超越了固定范数约束下的对比方法;特征空间的去噪处理能提高单核FDA方法和lpMK-FDA方法的性能;训练得到的核函数的权重与去噪空间中保留的特征数量存在一种正相关性。     

基于主动学习的有监督在线多核学习算法

为了提高大规模数据的分类性能,提出一种基于主动学习的有监督在线多核学习算法SOMK_AL(Supervised online multiple kernel learning algorithm based active learning).首先,采用主动学习的方法缩减数据规模.通过训练生成两个分类器,对读入数据xt进行预测,将两个分类器预测类别不一致的数据作为信息含量高的有标记数据,参与在线学习过程中的核更新;接着,在核集成过程中,通过随机抽样的方法构造核函数集的子集,仅仅在子集中实现核更新,缩减核更新的计算规模.最后,在大规模数据的基准数据集上进行实验,对提出的算法的有效性进行评估,结果表明SOMK_AL能较好地提高数据的分类性能.     

基于改进多核学习的多传感数据分类方法研究

物联网（internet of things,IoT）技术中结合多个数据源互补信息提高数据分类准确率的研究受到了越来越多的关注。针对物联网无线传感器采集到数据的多源异构特性,给出了一种基于改进多核学习支持向量机（improved multi-kernel learning-support vector machine,IMKL-SVM）的IoT数据分类方法。传统的多核学习方法中核函数主要是采用经验法选取核函数类型及参数,本文改进方法在确定核函数类型及参数时分为两步：首先采用交叉验证方法初步确定核函数类型及参数;其次在第一步结果中利用支持向量机（SVM）同时训练样本和优化多核函数的类型及参数。实验中针对温度、湿度、光照、大气压力等4种数据设计了两组数据——第一组数据被标记为上午、中下午、傍晚、夜间4类,第二组数据被标记为白天、傍晚、夜间3类,比较了本文的IMKL-SVM方法、单核SVM方法及传统MKL-SVM方法在两组数据集上的分类准确率。此外,针对UCI公开数据集AReM进行了分类实验,实验结果表明IMKL-SVM方法针对具有多源异构特性的物联网数据实现了较高的分类准确率。     

基于多核支持向量机的句子分类算法

主流句子分类算法采用单一词向量表示模型获得文本表示,导致了对文本的映射能力不足.对此,通过融合多种词向量的文本表示以提高分类的准确率.针对多核学习在融合不同核函数时,常规的核函数系数寻优方法存在的训练时间长、难以求得局部最优解等问题,提出了一种新的核函数系数寻优方法,该方法基于参数空间分割与广度优先搜索不断逼近核系数的最优值.以支持向量机(support vector machine,SVM)为分类器,在7个文本数据集上进行了分类实验.实验结果表明,多核学习分类效果明显优于单核学习,并且所提出的寻优方法在训练次数少于常规方法时也能获得了好的分类效果.     

MKLasso模型的算法与模型选择

在KLasso模型基础之上,引入多核函数与多核参数重新建立的一种更为广发的非线性的多核KLasso模型（MKLasso模型）,采用基于梯度Boosting的思想的算法进行求解,并依据人类观察事物的一个基本特征,即人眼位于数据空间较近时能够看清细节,较远时只能够看清整体结构的特性设计了一种模型选择策略,通过实际的3个数据集设计6组试验,来验证该算法的有效性。模拟试验结果表明：MKLasso模型的预测能力明显优于KLasso模型,其预测均方误差提高了10倍;该算法运行高效,抗噪声能力强,在参数选择方面又有一定自己的优势,可以直接选择核参数,算法大大降低了调试与运算时间。     

基于支持向量机的啤酒企业能源消耗预测模型

为提高啤酒企业包装车间生产耗电的预测精度, 提出了一种基于支持向量机和粒子群优化算法的预测模型构建方法。该方法将radial basis function函数作为支持向量机的核函数构建预测模型, 使用K-fold交叉验证方法, 利用粒子群算法(PSO: Particle Swarm Optimization)对惩罚参数c和g值寻优。以28天的生产耗水和生产耗电数据作为训练集, 以10天的生产耗水数据作为预测集, 分别构建基于radial basis function函数与polynomial函数的生产耗电支持向量机预测模型对生产耗电数据进行预测。实验结果表明, 以radial basis function函数作为核函数与以polynomial函数作为核函数相比, 该支持向量机预测模型对生产耗电的预测精度提高了51.495%,该方法具有一定的实用性。     

基于双核独立元分析的化工过程故障诊断算法研究

由于化工生产过程数据具有强非线性和非高斯性特征,提出了核主元分析与核独立元分析相结合的可用于化工过程故障诊断的双核独立元分析算法,该算法利用核主元分析的非线性核函数把数据从原空间映射到高维特征空间进行白化预处理,再用核独立元分析算法进行独立元分析,在特征空间中获得故障监控统计量,计算控制置信限,达到有效的故障诊断.提出的算法应用在连续搅拌反应釜过程中,结果表明,该算法对化工过程故障诊断能有效提高准确度、降低漏报率和误报率.     

基于混合优化的平滑l0压缩感知重构算法

研究压缩感知的重构算法,分析了平滑l0（smoothed l0,SL0）的理论基础．SLO算法通过利用平滑的高斯函数去逼近l0范数,将重构中的l0范数最小化问题转化为求解光滑函数最小值的最优化问题．针对算法中最速下降法存在“锯齿现象”和收敛速度慢等缺点,引入数值最优化理论中的混合优化算法,提出了一种基于混合优化的SL0重构算法（HOSL0）．该算法结合了最速下降法和修正牛顿法的优点,提高了算法的重构精度和速度．仿真实验表明,HOSL0算法与同类算法相比性能有明显提高,同时在重构速度上比BP算法快了2个数量级．     

函数P-集合

把函数概念引入到P-集合（packetsets）中,改进P-集合,提出函数集合（function packet sets）,给出函数集合的结构。函数P-集合具有动态特性和规律特性。函数P-集合是由函数内P-集合S^F（function internal packet set S^F）与函数外P-集合S^F（function outer packet set S^F）构成的函数集合对;或者,（S^F,S^F）是函数P-集合。P-集合是函数P-集合的特例,函数P-集合是P-集合的一般形式。在一定条件下,函数P-集合能够回到函数集S的“原点”。给出函数P-集合在未知信息规律发现中的应用,这些未知的信息规律潜藏在信息系统中,它们不被人们事先知道。     

核向量机算法研究及应用

对训练样本规模为m的标准支持向量机(Support Vector Machine,SVM)进行训练,时间复杂度为O(m3),空间复杂度为O(m2)。文章研究将其转换成等价的最小包含球(Minimum Enclosing Ball,MEB)形式,使用核心集向量机(Core Vector Machine,CVM)高效获得近似最优解。CVM的优点是时间复杂度与训练样本规模m呈线性关系,空间复杂度与m无关。实验证明,CVM可以对大规模数据集进行高效的分类。     

一种多核加权支持向量机的水质预测方法

提出一种基于多核加权支持向量机的水质预测方法.核函数及其参数选择与数据分布的情况密切相关,采用单一的核函数应对水资源质量评价指标的整个数据分布难以达到很好的预测结果.采用多核加权学习的核函数避免了核函数设计的盲目性和局部最优等非线性优化问题.实例表明,该方法的预测结果是合理可行的,且与以往同类预测方法相比,有着更为客观...     

凸二次规划基于新的核函数的大步校正原始-对偶内点算法

本文对凸二次规划提出了一种基于新的核函数的大步校正原始-对偶内点算法．这种核函数构造新的障碍函数不仅可以定义新的搜索方向，而且可以控制内迭代的过程，使得对凸二次规划提出的大步校正原始-对偶内点算法的多项式复杂性阶改善到O（√n（logn）2log（n／ε）），优于基于经典对数障碍函数的相应算法的复杂性阶．     

支持向量回归机训练集的并行预处理方法

为加快支持向量回归机在求解大样本集问题时的训练速度,提出了并行支持向量回归机。该方法根据核矩阵把数据集分成k个子集,通过并行预处理过滤掉非支持向量,再对剩余的支持向量进行训练得到决策函数。实验表明,本算法不仅预测准确度跟标准的分解算法基本一致,而且大大缩减训练时间,具有很高的加速比,同时需要的训练时间大大少于Graf等人提出的级联结构的算法,另外,算法还可有效地缩减支持向量的数目。     

改进的核极限学习机定位算法

针对神经网络无线定位方法,存在训练耗时长,定位结果易受噪声干扰的问题,提出了一种改进的核极限学习机无线定位算法。采取在同一位置进行多次测量的方法得到训练数据;把同一位置测得的数据划分为一个样本子空间并提取样本子空间的特征,以样本子空间的特征代替原来的训练数据;利用矩阵近似及矩阵扩展的相关理论改进核极限学习机算法;将处理过的训练数据利用改进的核极限学习机进行训练,得到定位预测模型。仿真结果表明,在相同数据集下,改进的核极限学习机训练用时短、定位速度快;在相同噪声干扰情况下,此算法定位预测误差小。经验证,该算法不但能提高网络的训练速度、定位速度,还能有效地降低噪声的干扰,提高定位精度。