嵌入误分类代价和拒识代价的二元分类算法

传统分类算法隐含的假设(每个样本的误差都具有相同的代价,且接受每个样本的分类结果)并不适用于医疗诊断、故障诊断、欺诈检测等领域的实际需求。在定义拒识代价的基础上,本文提出一种嵌入非对称误分类代价和非对称拒识代价的二元分类算法(CSVM-CM C2RC),包括以下4个步骤:学习代价敏感支持向量机、估计每个样本的后验概率、计算每个样本的分类可靠性、确定每类样本的最优拒识阈值。基于标准数据集的试验研究表明,CSVM-CM C2RC能有效地降低误分类率和平均代价,提高分类结果的可靠性。     

代价敏感核主元分析及其在故障诊断中的应用

针对传统核主元分析没有考虑误分类代价的差别、对故障工况不敏感等问题,提出代价敏感核主元分析方法.该方法将代价敏感机制引入核主元分析,以误分类代价最小化为目标,设计最佳阈值调整方法获取最佳阈值,并采用混沌粒子群算法对核参数进行优化,最后利用SPE(squared prediction error)统计量诊断新样本类别.研究结果表明:该方法能有效地降低误分类代价,具有故障敏感性和诊断准确率高以及泛化能力强等特点.     

基于代价敏感LightGBM的网购意愿预测研究

[目的]由于购买商品的消费者数量远小于未购买商品的消费者数量,网购意愿预测研究是典型的不平衡数据分类问题.研究不平衡数据的分类问题以提升网购意愿预测的分类准确率,该问题主要存在少数类样本识别准确率远小于多数类样本的问题.[方法]提出一种基于贝叶斯优化的代价敏感轻量梯度提升机(Light Gradient Boosting Machine, LightGBM)模型.首先引入误分类代价作为惩罚因子修正LightGBM的损失函数,其次通过阈值移动降低模型的分类阈值以提高针对少数类样本的预测准确率,最后利用贝叶斯优化算法优化误分类代价参数、分类阈值及其他参数.[结果]从KEEL数据库中选取5个典型的不平衡数据集进行对比实验,相较于标准LightGBM模型,改进LightGBM模型的AUC值和G-mean值均提升了10%左右;相较于遗传算法优化代价敏感LightGBM模型和粒子群优化代价敏感LightGBM模型,改进LightGBM模型的AUC值和G-mean值普遍提升了4%左右;相较于ADASYN-LightGBM模型和BorderlineSMOTE-LightGBM模型,改进LightGBM...     

基于拒识的误差编码车辆分类

基于支持向量机的误差编码分类已经成功应用到多类分类问题中,但通常是以错误率来衡量误差编码分类器的优劣,具有较大的局限性。在实际应用中,错分结果往往会带来一定的风险代价,为了在一定程度上减少这种代价,本文提出了一种带有拒识功能的误差编码分类方法。文中利用纠错编码把多类分类问题转换成多个两类分类,再将拒识的方法应用到每个分类器中,最后结合编码矩阵投票表决得到分类结果,从而提高分类可靠性。     

一种简单有效的说话人身份认证方法

采用生物的特征识别技术,对说话人识别中说话人确认与说话人辨认的传统方法与分类进行了讨论,对现在使用的各种说话人识别算法进行了综合分析。以LPCC(Linear Prediction coding Coefficient)和MFCC(MEL Frequency Cestrum Coefficient)两种特征参数提取为基础,对GMM(Gaussian MixtureModels),VQ(vector Quantization),DHMM(Discrete Hidden Markov Model),CHMM(Concatenation HiddenMarkov Model)等几种识别方法进行了实现,做到了真正的与文本无关。特别以GMM识别方法的部分实验结果为例进行分析,解决了系统中的阈值设置问题,改进了该方法的决策手段。根据实验数据,在各种方法中,说话人确认的错误拒识率和误识率相对说话人辨认总是较高,本文把说话人辨认的阈值选择方法应用于说话人确认,以多模板匹配方式为辅助,使得说话人确认的错误拒识率和误识率大大降低,并通过实验证明了该种改进方法的有效性。     

一种新的基于HRRP的雷达目标识别算法

雷达目标高分辨距离像(HRRP)包含目标结构信息,是目标重要的分类特征.提出基于独立分量分析(ICA)的雷达目标特征提取方法,将雷达目标高分辨距离像(HRRP)在"基信号"域中分解,提取相应的基系数组成向量,作为目标特征向量.采用反向传播(BP)神经网络作为识别系统的分类器,对神经网络的输出进行编码,为了克服分类器对非库属目标的误判问题,引入拒识门限设计一种新的分类器.采用电磁场时域有限差分(FDTD)算法仿真了飞机的宽带回波,并用所提的方法进行实验.结果表明,基于以上算法的雷达目标识别系统在最大拒识率前提下具有较高的正确识别概率.     

基于SVDD和SVM的赤潮藻类识别

提出了一种基于支持向量机(SVM)和支持向量域描述(SVDD)的赤潮藻类分类系统.该系统是赤潮藻类流式监测系统的子系统.设计这套系统的主要难点在于:1)同一种藻类的形态由于个体差异和生长期不同而不同;2)藻类图像是任意位置三维目标在成像平面的投影,投影存在任意性并可能产生局部遮挡;3)藻类图像包含非目标藻类和杂质.在特征提取算法的基础上,首先对输入的藻类采用SVDD进行拒识或接受处理,最后针对接受的藻类再利用基于超平面分割的SVM分类器进行分类判决.实验证明:基于SVM和SVDD的赤潮藻类分类系统分类精度更高并具有较好的拒识性能,是一种较好的藻类自动分类方法.     

针对入侵检测的代价敏感主动学习算法

入侵检测系统通过提供可能由恶意攻击导致的告警信息来保护计算机系统.为了能够利用历史数据自动提升入侵检测的性能,机器学习方法被引入入侵检测.但是,高质量训练数据的获取往往需要繁重的劳动或代价昂贵的监控过程.同时,不同类型的误分类导致的代价也是不一样的,入侵检测需要使误分类代价最小.针对这两种需要综合考虑的问题,提出一种基于代价敏感主动学习的入侵检测分类器构造方法ACS.该方法结合代价敏感学习和主动学习方法,其目标为减少学习代价敏感分类器的标注次数,使代价敏感分类器的误分类代价最小.该方法在主动学习的学习引擎中使用代价敏感学习算法替代传统的错误最小学习算法,同时在采样引擎中使用最大误分类代价的采样标准.ACS方法在主动学习中版本空间的构造、更新过程都针对代价敏感环境作了对应的改进,使该算法能够以较高的收敛速度收敛到误分类代价最小的目标函数.在入侵检测数据集KDDCUP99上的的实验表明,ACS方法能够有效地减少学习代价敏感分类器的标注次数.     

基于结构风险最小化的TS模糊模型辨识研究

针对TS模糊模型的后件参数辨识,为了避免传统意义上以经验风险最小化来求解参数,同时考虑到如何控制模型结构复杂性以及经验风险又要最小,提出了一种基于最小二乘支持向量回归(LSSVR)结构风险分解建立新的代价函数来辨识TS模糊模型。紧接着,以该代价函数作为优化目标,TS模糊模型为约束条件,通过引入拉格朗日方法对其求解,最终得到模型的后件参数。该方法有如下显著特征:1)引出的代价函数是基于结构风险而非经验风险;2)计算过程不仅避免了核函数的选择,而且仅对原输入数据空间做内积;3)全局与局部性能得到保证。最后,论证了该方法的有效性和优越性。     

基于认知功能的精神分裂症特征的分类研究

通过任务转换实验(task-switching task,TST)与机器学习相结合的方法对精神分裂症患者进行客观辨别。本实验中,45例精神分裂症患者和55例正常被试参与了实验,原始特征为反应时间、准确率、转换代价、干扰、年龄和性别等17个特征,利用Relief算法进行特征选择,并利用支持向量机(SVM)对不同的特征组合进行分类。研究结果表明短提示一致有转换、短提示一致无转换、短提示不一致无转换、长提示一致有转换、长提示一致无转换、转换代价、剩余转换代价和反应转换代价8个特征创建的SVM分类模型达到了90%的分类准确率,ROC曲线下面积(AUC)大小为0.89.该方法能够客观、有效地鉴别精神分裂症患者,能运用于精神分裂症的辅助诊断,以提高医生诊断结果的准确率。