基于离群点检测的鲁棒局部切空间排列方法

研究局部切空间排列方法(LTSA)对离群点的敏感性,提出一种基于离群点检测的鲁棒局部切空间排列方法(RLTSA).该方法用样本点到切空间的投影距离检测离群点.在构造样本点局部邻域时,RLTSA尽可能排除离群点,以构造稳定的局部邻域,而对离群点,RLTSA把它们投影到更高维的切空间,以减少离群点的投影距离. 模拟实验和实际例子说明,新方法能提高局部切空间排列方法处理离群样本点的能力.     

基于鲁棒学习的鲁棒RBF神经网络

提出了一种基于鲁棒学习的鲁棒RBF神经网络。使用聚类方法选择RBF网络隐结点的中心,以鲁棒代价函数为目标函数,采用梯度下降法调整隐层结点的宽度和网络权值,从而使RBF网络的学习过程不受离群点的影响,并且能够快速收敛。仿真实验结果表明了RBF神经网络的鲁棒优越性。     

基于改进APG的鲁棒光谱回归在人脸识别中的应用

针对人脸识别中传统的光谱回归方法对于由类标签错误和面部遮挡产生的误差很敏感的问题,提出了基于加速近似梯度的鲁棒光谱回归方法。首先将鲁棒判别子空间的学习问题转化成最大相关熵问题,得出光谱目标和预测之间的最大相关解;然后对相关熵采用总变分正则化,进而学习空间平滑的人脸结构;最后基于半二次化优化的附加形式,将最大相关熵问题投影到混合正则化模型,并通过加速近似梯度算法进行有效优化。在FRGC人脸数据库上的实验结果表明,所提方法对于类标签错误和面部遮挡具有鲁棒性和有效性,与其它几种常用的线性回归、光谱回归方法相比,不仅提高了识别率,而且大大地降低了计算开销。     

鲁棒递推偏最小二乘法

针对时变模型建模或大数据量情况下建模过程中的野点检测问题,提出了鲁棒递推偏最小二乘法(RRPLS).通过将递推偏最小二乘法(RPLS)与鲁棒主分量回归算法(RPPSV)相结合,实现分块野点检测算法,有效地解决了一般野点检测算法的计算量大的问题.仿真说明鲁棒递推偏最小二乘法不但能检测出数据中的野点还能大量减少建模时间,最后给出了在交流异步电力测功机系统的应用实例.     

线性离散系统间歇故障的鲁棒检测方法

针对一类存在未知扰动、过程噪声和测量噪声的离散线性随机动态系统,研究了其鲁棒间歇故障检测问题.设计了降维未知输入观测器的输出,通过引入滑动时间窗口构造了截断残差信号,使得该残差信号对未知扰动解耦而对间歇故障敏感;针对间歇故障的发生时刻和消失时刻,分别提出了2个假设检验,在给定误报率和漏报率的情况下,分别定量确定了间歇故障发生时刻和消失时刻的检测阈值以满足检测性能要求,并在概率框架下分析了间歇故障的可检测性.同时,在某卫星模型上对所提出的方法进行了仿真验证.结果表明,所提出的方法能够快速、准确地检测出间歇故障的发生时刻和消失时刻.     

回归函数的小波支持向量机鲁棒估计法

小波网络具有小波的多尺度特性和神经网络的自学习功能,在回归估计中得到广泛的应用,但其性能受到样本中粗差的严重影响.虽然以M-估计作为目标函数可以解决这个问题,但由于其对应的影响函数由残差绝对值决定,因此如何选择初始参数值成为一个关键问题.为此,提出回归函数的小波支持向量机鲁棒估计方法(小波支持向量回归,WSVR,Wavelet Support Vector Regression).该方法中首先提出并证明了一种新的小波支持向量机(WSVM,Wavelet Support Vector Machine),用于确定初始参数值方法,这种方法能够确定合理的网络结构和合适的初始参数值,保证含有粗差的样本点的残差绝对值较大;然后使用一种构造的M-估计作为目标函数,并提出了自适应确定阈值方法.仿真结果表明,使用这种方法得到的回归模型不仅具有良好的多尺度逼近特性,而且有较好的鲁棒性和较高的推广性能,具有较高的理论和应用价值.     

基于鲁棒主元分析的故障诊断方法

针对工业过程的建模数据中含有离群点的情况,提出了一种基于鲁棒主元分析(PCA)的故障诊断方法.该方法使用广义极大似然估计(M估计)代替最小二乘估计,将传统的主元分析问题转化为一个加权的重构误差优化问题,然后通过改进的非线性迭代部分最小二乘(NIPALS)算法来求得问题的最优解,在此基础上建立主元模型并构造监控统计量检测过程故障.在连续搅拌反应器(CSTR)仿真系统上的应用结果表明,鲁棒PCA方法能够消除离群点对主元模型的影响,比PCA方法分析过程数据更为准确,能更有效地诊断过程故障.     

考虑数据噪声的鲁棒回归建模方法综述

在开放环境下,数据中包含很多不确定性,如数据噪声等,这给传统的机器学习方法带来了巨大的挑战。该文综述了当前考虑数据噪声的鲁棒回归建模方法,具体可分为两大类:基于数据预处理的鲁棒回归建模方法和基于鲁棒策略的鲁棒回归建模方法。前者根据数据预处理方法的不同又分为基于异常点检测和基于信号处理的鲁棒回归建模方法。后者所采用的鲁棒策略主要有3种:加权函数、鲁棒损失函数以及噪声分布先验。文中详细地描述了鲁棒回归建模各个方向的研究工作,并对比了两类鲁棒回归建模方法的优劣。最后,根据当前鲁棒回归建模存在的一些问题,也提出了构建鲁棒模型的几种可行的策略。     

回归分析中离群点的作用与搜寻

离群点在回归分析中往往起着至关重要的作用，特别在探矿、地震、天气预报等实际应用领域中。有时离群点正是最应特别关注的地方．本文从近代回归分析的角度探讨这种离群点的作用和搜寻问题。     

基于有权重超图的离群点检测

基于有权重支持度框架的关联规则挖掘算法和超图分割算法, 给出一种新的基于有权重超图模型的离群点检测算法WHOT(Weighted Hypergraph based Outlier Test). WHOT算法根据有权重支持度的定义, 重新设计了基于有权重支持度框架的关联规则挖掘算法, 并挖掘出数据集中的重要关联规则, 形成超图. 在超图上应用超图分割算法, 得到聚类集合, 再结合项权重和事务权重的定义, 判断一条记录是否为离群数据.     

基于支持向量回归模型的间歇过程优化

针对间歇过程的优化问题,提出了一种基于支持向量回归模型的批次到批次的优化控制策略。通过对支持向量回归模型在当前控制轨迹处的线性化,构造了一种批次到批次的优化控制方法。在苯乙烯聚合反应器的仿真实验中,该方法能够在存在模型失配与过程扰动的情况下,逐批次地改善过程性能。     

基于稳健回归技术的软件成本估计方法

随着软件系统规模的不断扩大和复杂程度的日益加大,从20世纪60年代末期开始,出现了以大量软件项目进度延期、预算超支和质量缺陷为典型特征的软件危机。在对软件项目进行估算时,通常情况下能得到相关软件组织或软件产品的某些历史数据,充分利用这些历史数据对预测与估算软件项目是很有帮助的。稳健回归分析（RRA）,就是这样一种相当常用与有效的数据驱动方法。在比较、回顾一些稳健回归分析研究成果的基础上,重点解决了软件成本估算数据用传统回归分析存在的问题,并有效地解决了由于异常数据存在而产生的掩蔽效应。同时尝试提出在软件成本数据估算中运用稳健回归方法进行系统而全面的仿真实验分析,发现该方法能有效地解决异常数据的掩蔽效应,得到比较满意的结果。     

基于MNNPLS的间歇过程的故障诊断

针对间歇生产过程的特点及多向部分最小二乘在故障诊断中存在的问题,提出了一种多向神经网络部分最小二乘方法,实现对间歇过程的在线监控和故障诊断。该方法结合了部分最小二乘的鲁棒性和神经网络表现输入输出非线性关系的能力,提高了模型的预测精度。将此方法应用于监测青霉素发酵过程中,仿真结果表明,它比传统多向部分最小二乘方法能更及时、准确地检测到故障。     

多响应模型下异常观测的稳健设计

研究了多响应回归模型下含有异常观测值的试验设计问题,导出了衡量设计稳健性的准则．以中心组合设计为例,给出了角点和中心点次数不同时,使得稳健性准则达到最小的星点臂长,从而找到了相应的稳健设计．     

基于邻域和密度的异常点检测算法

为了减少基于密度的异常点检测算法邻域查询操作的次数,同时避免ODBSN(Outlier Detection Based onSquare Neighborhood)中有意义异常点的丢失和稀疏聚类中的对象靠近稠密聚类时导致错误的异常点判断,提出了一种基于邻域和密度的异常点检测算法NDOD(Neighborhood and Density based Outlier Detection)。NDOD吸收基于网格方法的思想,以广度优先扩张方形邻域,成倍地减少了邻域查询的次数,从而快速排除聚类点并克服基于网格方法中的"维灾"。新引入的基于邻域的局部异常因子代表候选异常点的异常程度,用于对候选异常点的精选,可避免ODBSN的缺陷,发现更多有意义的异常点。大规模和任意形状的二维空间数据的测试结果表明,该算法是可行有效的。     

基于图的情境离群点检测方法

针对异常模式挖掘中的情境离群点检测问题,提出一种基于图的检测方法.首先对数据实例构建一个实例图,然后采用一个滑动窗口穿越数据实例,对处于滑动窗口内的数据实例,计算结点之间的闵可夫斯基距离作为边权值,然后采用最小生成树聚类算法对实例图进行聚类,再采用第二个滑动窗口穿越数据实例,根据窗口内的数据实例是否属于主趋势聚类赋予不同的离群值评分,不属于主趋势聚类的数据实例被认为是潜在的离群点.仿真实验和实际数据分析表明该方法在一元序列数据检测中是切实可行的,该方法具有较好的适用性和扩展性.     

M2M业务批量到达排队系统性能分析

针对M2M(Machine to Machine)业务的大规模应用给当前移动通信网络的QoS带来的冲击和影响问题,采用IBP(Interrupt Bernoulli Process)建模M2M业务的到达过程,业
务以批量的形式到达,建立并求解了离散时间系统排队模型IBP/Geom/1/K。区别于传统的IBP模型,该模型每次到达的不是一个,而是一批。采用具有不同突发度的数学模型表征M2M业务每批到达的数量,在概率空间上求解队长的稳态概率,进而得到系统的吞吐量和丢包率等性能指标,并与相同排队强度下M2M业务单个到达时的性能进行对比。实验结果表明,每批到达包数的突发度越大,系统的性能越差;在相同排队强度下,批量到达排队模型的性能对比单个到达情况下的系统性能差;对时延容忍的M2M小数据业务,以时延增加为代价增大缓存可以有效提高吞吐量、降低阻塞率。     

基于偏最小二乘回归的飞机维修保障费用预测

分析了影响飞机维修保障费用的参数,提出用偏最小二乘回归方法来预测飞机维修保障费用。该方法对变量进行主成分分析、典型相关分析和多元线性回归,在处理存在多重线性相关的小样本多元数据方面效果很好。实例证明,与传统普通多元线性回归方法相比,偏最小二乘回归在飞机维修保障费用预测中精度更高。     

基于变系数非参数回归的稳健性参数设计

利用变系数的非参数回归理论讨论多因子试验过程中因子间相互性对质量特性的影响,通过调节系数变量改变其他因子对过程的影响,找到最优的因子水平组合,进行稳健试验.提出了在稳健性参数设计中应用变系数的非参数回归模型理论,建立质量特性的均值和方差模型,得到最优的因子水平组合进行试验分析.最后,通过油墨打印机的实例说明此理论的可行性.     

基于粗糙集的偏最小二乘回归方法

针对变量之间多重相关性导致最小二乘估计失效的问题,提出基于粗糙集改进偏最小二乘回归建模方法.首先,利用粗糙集对数据进行一般约简,去除冗余信息,再进行偏最小二乘回归分析,建立回归模型.通过实例计算,并与PLSR、PCR进行比较分析.结果表明：用粗糙集改进的PLSR建模精度为3.65%,分别高于PLSR(4.07%)和PCR(4.45%),从而验证了所提出方法的通用性及实用价值.