SVM-KNN 分类器在异常行为检测中的应用

提出了一种新的异常行为检测方法,将SVM算法和KNN算法结合,在对识别样本判别时,当其与最优分类面的距离大于给定阈值时,采用SVM分类算法,否则采用KNN算法,从而减少了SVM算法的错误率.实验结果表明,SVM-KNN算法对异常行为检测的准确率达到95.86%.     

SVM-KNN分类器在异常行为检测中的应用

提出了一种新的异常行为检测方法,将SVM算法和KNN算法结合,在对识别样本判别时,当其与最优分类面的距离大于给定阈值时,采用SVM分类算法,否则采用KNN算法,从而减少了SVM算法的错误率。实验结果表明,SVM-KNN算法对异常行为检测的准确率达到95.86%。     

基于FLAKNN的雷达一维距离像目标识别

由于传统KNN算法在应用于高分辨一维距离像进行目标识别时，存在全局使用固定k值和未考虑各特征分量对分类的影响等不足，使得目标识别性能较差.提出一种改进的KNN算法:FLAKNN.通过提取目标高分辨率一维距离像的尺寸、熵、中心距、不规则度、去尺度特征、对称度等稳定特征，使用Fisher判别分析将所有特征分量投影至低维空间，使不同类别间具备最大可分性；结合相邻样本局部的分布情况和k取值的调整，最终使用少数服从多数的投票原则决定测试样本的类别.结果表明，相对传统KNN算法，该算法进一步提升了识别性能.      

逃避攻击下恶意PDF文件检测技术

KNN(K近邻)算法以其操作简单、分类效果明显的优点被广泛应用于网络入侵检测、垃圾邮件识别和图像识别等领域。KNN算法通过计算测试集与训练集之间的相似度进行分类。传统的机器学习分类模型通常只考虑分类的精度,没有考虑到攻击者的攻击问题,导致当存在非法攻击时,分类模型的鲁棒性降低。对此首先通过使用逃避攻击方法实现对KNN算法在恶意PDF文件分类上的攻击,然后将攻击产生的对抗样本添加到训练集中训练出新的分类器,最后模拟两种不同攻击方式在不同攻击强度下对改进前后KNN分类器分类效果的影响。实验结果表明,通过将对抗样本添加到训练集中能够有效提高KNN分类器的鲁棒性。     

K-最近邻的改进及其在文本分类中的应用

采用K近邻算法(Knearest neighbors,简称KNN)进行分类时,如果训练样本数量太大,那么搜索测试样本的K个最近邻时,算法的计算量很大.本文针对KNN的不足提出了一种改进方法.改进的KNN算法通过定义样本的延拓类和延拓能力,保留延拓能力强的样本作为它延拓类中其它训练样本的代表,来缩减训练样本数量,达到减少算法计算量的目的.实验证明,改进的KNN算法具有很好的性能.     

基于WT与LSSVM的储层油水识别方法研究

为了依据测井数据迅速而准确地识别油水层性质,提出基于小波变换(WT)与最小二乘支持向量机(LSSVM)相结合的储层油水识别方法.首先,分析了基于测井曲线的常规交会图油水识别方法的不足;其次,以深侧向探测电阻率作为训练样本和测试样本对基于LSSVM的储层油水识别模型的准确性进行分析;最后,将WT与LSSVM相结合建立储层油水识别模型并结合常规测井资料对储层油水进行识别.实验表明,基于WT与LSSVM的储层油水识别模型具有较快的识别速度和较高的识别精度.因此,将WT与LSSVM相结合应用于储层油水识别建模是行之有效的.     

基于黑洞算法的LSSVM的参数优化

采用黑洞(BH)算法对最小二乘支持向量机(LSSVM)的惩罚系数C及径向基核函数参数σ进行搜索优化,提高LSSVM的预测性能.黑洞算法模拟自然界黑洞,吸引一定范围内的星体向其运行并吸收它们;算法在运行过程中,始终保持黑洞为最优解,通过星体的运行搜索整个空间.通过基于黑洞算法的LSSVM和基于粒子群(PSO)算法的LSSVM实现对二维函数的预测,并对二者进行了仿真研究.仿真结果证实,黑洞算法可以更好地实现LSSVM参数的优化搜索,且基于黑洞算法的LSSVM方法具有更高的预测精度.     

基于全局与局部特征的嵌入式人脸识别系统

基于主成分分析人脸识别算法,提出一种基于全局特征和局部特征的加权算法,并且在嵌入式(Tiny6410)上完成系统的设计与实现.利用主成分分析提取人脸全局特征,根据特征值贡献率获取降维后的人脸子空间,采用欧氏距离匹配测试样本;用人眼检测算法、鼻子检测算法等提取每个样本的左眼、右眼、鼻子、嘴,分别建立样本集,采用主成分分析;分别计算全局和局部特征的离散度,根据离散度进行自动加权算法,给出最终的人脸识别结果.实验表明,该系统具有一定的稳定性,识别效果优于单一模块的识别.     

基于超长方体与KNN的分类算法

提出了超长方体与KNN相结合的分类算法.在训练阶段,该算法为训练集中的每一个类别构造多个超长方体,区域分离每一类训练样本.在测试阶段,该算法首先检查测试样本是否被某一个超长方体包围,如是则其类别被识别出,否则用KNN方法确定其类别.实验采用四个真实数据集进行测试.实验结果表明基于超长方体与KNN的分类算法在四个数据集全部优于两个基于多球覆盖的分类方法,是一种有效的分类方法.     

Android平台下人脸识别系统的研究与实现

由于目前Android平台计算能力有限,很难满足大计算量的人脸识别系统的需要,因此探索一种适合于Android平台的人脸识别算法尤为重要.采用主成分分析法(PCA算法)进行人脸检测与识别,结合预先存储样本值大量减少计算量.实验表明该Android平台人脸识别系统准确度较高.     

一种交叉验证和距离加权方法改进的KNN算法研究

传统的KNN算法在大样本的情况下对试验样本有较强的一致性结果.但该算法每一次都是在样本全局的基础上进行归类计算,这在很大程度上消耗了空间,增大了算法空间复杂度;且算法在样本分类不平衡时,预测偏差相对偏高.针对这些问题,提出了基于交叉验证和距离加权的改进KNN算法(Weighted cross-validation KNN,简称WCKNN),经过实验验证,本算法有效减小了算法的空间复杂度;同时,也获得了更好的分类性能.     

基于聚类和密度裁剪的改进KNN算法

经典KNN算法在处理高维数据或样本数繁多的样本集时需要巨大的计算量,这使其在实际应用的过程中存在着一定的局限性;提出一种基于聚类和密度裁剪的改进KNN算法。在训练阶段,首先根据样本密度对整个训练集进行裁剪,然后将裁剪好的训练集进行聚类处理,得到若干个密度比较均匀的类簇并将其转化为超球。在测试阶段,采用两种方法,第一种是找出距离待测样本最近的k个超球,然后将这个k个超球内的训练样本作为新的训练样本集,在这个新的训练样本集上使用经典KNN算法得到待测样本的类别;第二种则是找出距离待测样本最近的1个超球,然后根据该超球的类别得出待测样本的类别。实验采用8个UCI样本集进行测试,实验结果表明,该算法同经典KNN相比具有良好的性能,是一种有效的分类方法。     

基于卡方距离度量的改进KNN算法

K-近邻算法(K-nearest neighbor,KNN)是一种思路简单、易于掌握、分类效果显著的算法。决定K-近邻算法分类效果关键因素之一就是距离的度量,欧氏距离经常作为K-近邻算法中度量函数,欧式距离将样本的不同特征量赋予相同的权重,但是不同特征量对分类结果准确性影响是不同的。采用更能体现特征量之间相对关系的卡方距离度量作为KNN算法的度量函数,并且采用灵敏度法进行特征权重计算,克服欧氏距离的不足。分类实验结果显示,基于卡方距离的改进算法的各项评价指标优于传统的KNN算法。     

基于KNN的船舶轨迹分类算法

提出基于KNN(K-Nearest Neighbor)的船舶轨迹分类算法:对轨迹间平均距离、航速距离及航向距离进行融合,构成船舶轨迹间综合距离;通过船舶轨迹初步聚类,得到KNN分类样本轨迹;将综合距离作为KNN分类中轨迹间的距离,最终实现船舶轨迹分类.以长江航道武汉段2017年5月的船舶AIS数据为基础,开展基于轨迹间平均距离、豪斯托夫(Hausdorff)距离以及综合距离的船舶轨迹分类验证.结果表明:轨迹点较多时,轨迹间平均距离较Hausdorff距离具有更好的适用性,且基于KNN的分类方法具有较好的实验结果,可有效应用于实际船舶轨迹分类中.     

两类相依样本密度函数核估计的相合性

设{X_n,n≥1}为同分布的NOD随机序列或严平稳的m相依序列, f(x)为随机变量X₁的概率密度函数. 基于样本X₁,X₂,…,X_n, 利用Fourier变换及NOD列的性质和相关指数不等式, 研究密度函数f(x)的核估计, 在适当的条件下得到了[KG-*4]f(x)核估计的逐点强相合性、 r阶相合性及依概率一致收敛性.     

基于核的模糊c均值聚类算法的收敛性定理

利用Zangwill收敛性定理, 证明了基于核的模糊c均值聚类算法(KFCM)的收敛性. 结果表明, 当核函数在给定数据集上诱导的距离矩阵满足一定条件时, KFCM算法产生的迭代序列收敛或至少存在一个子序列收敛于KFCM聚类模型目标函数的局部极小值点或鞍点.     

基于小波变换和回归分析的人脸识别

利用小波变换对训练图像和待识别图像进行小波分解,提取低频分量,通过行扫描转化为列向量,作为特征向量;在此基础上,提出利用多元线性回归分析方法,利用最小二乘法获得训练特征与待识别特征之间的线性模型,经由残差分析确定待识别样本的类别．利用ORL人脸库,与支持向量机(SVM)分类器和K-最近邻分类器(KNN)进行了对比实验,实验结果表明本文算法识别精度跟SVM相当,优于KNN．     

改进的集合经验模态分解在人体行为识别中的应用

针对在基于惯性传感器人体行为识别的研究中,集合经验模态分解(ensemble empirical mode decomposition,EEMD)无法自适应地筛选出对不同分类行为更有用的固有模态函数的问题,特别是对步行、上楼、下楼3种易混淆行为的识别,提出一种改进的自适应集合经验模态分解特征提取方法,通过对不同分类行为筛选不同固有模态函数并提取窗口均值差异等新颖特征,有望在不同的分辨率下得到更准确、更有效的原信号特征信息。为了验证该方法的有效性,实验分别用典型时域频域特征与该方法提取的特征集训练K近邻(K-nearest neighbor,KNN)与支持向量机(support vector machine,SVM)分类器,并采用留一法(leave-one-out,LOO)交叉验证算法进行测试。结果表明,当分别采用KNN和SVM进行分类时,相比于原方法,改进的方法对步行、上楼和下楼3种行为的平均识别准确率分别提高了29.22%(KNN)和15.79%(SVM),对分类的7种不同行为的总平均识别准确率分别提高了95.11%(KNN)与93.14%(SVM)。     

基于HTM算法的恶意Android应用检测

随着互联网用户从传统PC端到移动端的转换,移动安全受到越来越多的关注。为了提高对未知恶意移动应用的检测效率,针对传统检测对引入多态和变形技术的恶意应用检测能力较差的问题,提出了一种基于HTM算法的恶意Android移动应用检测方法。该应用检测包含针对Android应用Dalvik指令特点的特征提取、采用信息增益的方式进行特征选择与融合,并利用HTM算法进行序列模式训练和推导,然后将测试样本特征提取与融合后的结果输入到完成训练的HTM网络中,达到检测恶意应用的目的。实验仿真表明,所设计的恶意应用检测方法的检测率接近100%,检测效率高,误报率0.08%。相较于其他算法,提出的恶意检测方法的检测率、误报率、分类准确率均更优,并能应用于不同类型的恶意应用,但训练和测试时间较长。     

基于KNN的Android智能手机微信取证方法

针对微信数据多,无法从中快速找到与案件相关数据的问题,提出了一种基于KNN(k-nearest neighbor)算法的Android智能手机微信取证方法。引入词语相似度计算会话间的距离,将微信会话表示成特征词的向量,用KNN算法对会话进行分类,迅速找到与犯罪有关的聊天内容,并通过实验验证了该方法的可行性与准确性。