基于非高斯信息的JITL软测量模型

为了有效监控具有非高斯数据特性的工业过程,提出了一种新的基于非高斯信息的JITL(Just-In-Time Learning)软测量模型.首先通过非高斯非相似度测量选择JITL局部建模样本;然后建立局部ICA-PLS回归模型实现工业过程质量变量监控.该方法从局部建模样本选择到局部回归模型建立能够有效处理工业过程数据的非高斯特性,并且保留了JITL建模的优点,能够有效地处理工业过程时变特性以及非线性.通过硫回收处理过程的应用,验证了方法的有效性.     

基于Jackknife互信息的高维非线性回归模型研究

确定独立筛选(SIS)方法在处理超高维稀疏线性回归模型的变量选择问题上已得到了广泛的应用,且已被推广到处理广义线性回归模型的变量选择问题.但SIS不能很好地解决非线性回归模型的变量选择问题,关于该问题的现有研究也较少,因此,如何有效地对超高维稀疏非线性回归模型进行变量选择是一个具有研究价值的问题.本文在经典的SIS方法...     

复合导电纤维沥青混凝土导电机制

实际系统中通过采样得到的数据的噪声、干扰和变量之间耦合等不确定因素,使得描述系统的模糊关系矩阵列间可能存在严重的相关性.为了解决输入空间重构的模糊建模问题,提出利用目标函数确定非线性系统的结构和参数,实现对模糊模型结构简化,删除冗余规则.结构确定过程中采用了UD矩阵分解方法,大大降低了计算量.最后,证明了算法的收敛性,仿真结果表明了方法的有效性.     

基于条件生成对抗网络的稀疏样本回归预测模型

自生成对抗网络提出以来，基于生成对抗网络的拓展模型在图像处理等领域均有显著成效，但其在回归预测问题上的应用较少.在概率回归过程中，通过构建条件概率分布模拟特征与实际目标之间的潜在关系是一种常用方法，但在实际问题中条件概率分布过于复杂，似然估计难以捕捉.为此，首先分析高斯过程回归在稀疏样本回归预测中的预测精度，将其作为稀疏样本回归预测的基准线.通过分析条件生成对抗网络的构造，提出利用条件生成对抗网络解决稀疏样本回归预测问题.最终通过对比分析4种非线性模拟数据回归预测结果，发现提出的条件生成对抗网络模型相较基于Matern32核函数的高斯过程回归具有更好的预测精度.     

基于对数变换和最大信息系数PCA的过程监测

主元分析(principal component analysis,PCA)被广泛应用于工业生产过程监测。PCA假设数据服从高斯分布且协方差矩阵仅能评估变量间的线性关系,无法衡量变量间非线性依赖程度。基于此,提出了一种基于对数变换和最大信息系数(maximal information coefficient,MIC)PCA的过程监测方法。首先,应用对数变换对过程数据进行变换,在一定程度上改善数据分布。然后,采用可以度量变量间的非线性相关性的MIC矩阵替换协方差矩阵,从而改善对非线性非高斯过程的监测效果。最后通过在田纳西-伊斯曼过程(tennessee eastman process,TE)仿真研究验证了该方法的可行性和有效性。     

基于高斯模型的工业过程数据的故障预测

针对工业过程中采集到的监控变量的时间问题序列数据,提出一种新的基于高斯过程模型的预测建模方法来实现故障预测。针对特定数据集重新构建高斯过程核函数,将工业过程的先验信息加入到数据驱动预测模型中,使模型具有更好的性能。与现有的预测模型相比,高斯过程回归模型可以在给出预测值的同时给出一个置信区间,用作故障预测的不确定性度量。在田纳西-伊斯(TE)曼过程模拟数据集上进行性能对比实验,实验结果表明,提出的故障预测方法具有更好的预测精度。     

基于样本稀疏化高斯过程的发酵过程软测量建模方法

提出了一种基于样本稀疏化高斯过程(GP)的发酵过程软测量建模方法。该方法将聚类和灰色关联度分析相融合，综合考虑样本点间欧式距离和各个特征向量对样本点间相似度的影响，通过剔除相似度比较大的样本点，实现训练样本集的稀疏化，降低了模型的计算复杂度。利用基于样本稀疏化的高斯过程构建青霉素发酵过程的软测量模型，同时得到青霉素浓度的预估值和表征预估值的不确定度，实验结果表明，本文所提方法与标准GP方法相比，在保证模型预测精度的前提下，减少了模型的训练时间。     

非线性计量经济建模变量选择

提出了非线性计量经济建模变量选择的一种方法。采用非参数回归方法确定最佳函数,通过主成分分析方法进行变量筛选,给出了相应的CE算法。仿真实验和计算实例验证了该方法的有效性。     

基于坐标下降邻域选择的高斯图模型结构并行估计

在许多机器学习问题中,往往需要研究高维数据中各个特征之间的统计相关性.稀疏高斯图模型作为解决这一问题的有效方法之一,广泛应用于数据挖掘、生物信息、金融分析等应用问题中.由于模型参数量是数据维度的平方量级,基于高维数据的稀疏高斯图模型的参数估计一直是统计机器学习研究中的挑战性问题之一.提出了一种新颖的基于坐标下降优化的稀疏高斯图模型并行估计算法,其核心思想是根据高斯图模型结构估计等价于每个变量的稀疏近邻选择这一基本结论,采用坐标下降来求解每个近邻选择子问题.通过将样本矩阵进行分布式存储,在MPI(Message-Passing Interface)框架下实现了这些子问题的并行求解.实验结果表明,该算法具有良好的并行运算性能,在保证结构估计精度的同时,能够大幅度提升运算速度.     

基于预测变量图结构的高维逻辑回归模型

针对高维数据集,提出一种利用预测变量之间的图结构信息来改进稀疏逻辑回归模型的方法。该方法通过利用高维图结构数据或者重叠组结构来进行逻辑回归建模,即使预测变量的图结构未知,该方法仍适用,当图结构为某些特殊形式时,目前流行的方法,如Adaptive Lasso,(Overlapping) Group Lasso和岭回归都可以看作是该模型方法的特例。数值模拟和实例分析应用表明:该方法能有效地利用预测变量图结构信息,提高模型在估计、预测以及变量选择等方面的表现,并且该模型在有限样本情形下是有效的;该模型方法克服了数据集的维数问题,利用高维数据的图结构提高了稀疏逻辑回归模型的性能,可广泛应用于高通量基因数据集的疾病分类研究中。     

基于Horseshoe+先验的惩罚置信区域变量选择方法

针对高维稀疏线性回归问题,相关变量的数量远远少于不相关变量.相关变量的变量选择问题对于传统的频率论正则化方法是一大挑战.现有的贝叶斯惩罚置信区域法通过将模型拟合与变量选择分离,在联合后验置信区域内搜索最稀疏解,从而得到稀疏模型解.且该方法在高维变量选择效果上优于常用的变量选择方法.在此基础上,针对高维稀疏模型,将原方法中依赖的共轭正态先验替换成针对"稀疏信号勘测问题"提出的Horseshoe+先验,利用Horseshoe+先验对小系数"重"压缩与大系数几乎零压缩的理论特性,实现对稀疏回归系数的稳健估计.通过数据仿真模拟不同稀疏程度下的高维稀疏线性回归,并将基于Horseshoe+先验的惩罚置信区域法分别与基于正态先验以及Laplace先验的该方法进行比较,结果表明基于Horseshoe+先验的惩罚置信区域法在高维稀疏线性回归问题具有更好的变量选择效果与预测效果.     

机械故障稀疏特征相似性度量优化研究

针对当前机械故障诊断研究忽略了对其参数的选取与优化,导致准确性较差等问题,提出基于量子遗传 算法优化的机械故障稀疏特征相似性度量方法。基于先进行信号非线性混合,再进行去混合。将峭度作为目 标函数,利用量子遗传算法,对盲源分离过程的分离矩阵参数与非线性去混合参数进行优化,实现机械故障盲 源分离。基于故障信号处理,利用量子遗传算法与最小二乘支持向量机(LSSVM: Least Squares Support Vector Machine)相结合实现机械故障稀疏特征相似性度量。当LSSVM在机械故障诊断时对模型参数选取,利用量子遗 传算法针对 LSSVM 模型参数进行优化。将 LSSVM 参数选取问题转换为优化问题,利用优化后的 LSSVM 分类 模型实现机械故障稀疏特征相似模式分类。实验结果表明,该方法可以实现高效盲源分离,机械故障诊断准确 率高,运行性能良好。     

KPCA-KPLS方法在pH中和过程建模中的应用

针对化工过程中的具有严重非线性、不确定性、时变性的复杂pH中和过程系统建模问题,提出一种基于核主元分析(KPCA)与核偏最小二乘(KPLS)相结合的建模方法.在高维特征空间内,该方法通过KPCA有效地提取输入数据的非线性主元,利用KPLS方法将输入变量投影在潜在变量上,再用输入与输出变量之间的协方差信息提取潜在特征建立pH中和过程模型.为验证其有效性,将KPCA-KPLS方法应用到弱酸强碱中和过程、强酸强碱中和过程实例中,并与核偏最小二乘、核主元分析_支持向量机(KPCA-SVM)、核极限学习机(KELM)、极限学习机(ELM)、最小二乘支持向量机(LSSVM)、SVM等方法进行比较.实验结果表明:KPCA-KPLS方法具有很高的动态建模精度.     

基于DW-ICA-SVM的工业过程故障检测算法

为了有效提高支持向量机(SVM)算法的故障检测和监视性能,提出一种新的基于DW-ICA-SVM的工业过程故障检测算法。首先,对训练数据进行标准化,运用独立元分析(ICA)获取数据的独立元矩阵,提取隐藏的非高斯信息。其次,运用杜宾-瓦特森(Durbin-Watson, DW)准则计算独立元(ICs)的DW值,通过DW方法有效提取重要噪声信息,选取重要的ICs。再次,将包含重要信息的ICs作为SVM模型的输入,获得判别分类函数,将测试数据的ICs输入该模型,对其进行故障检测和监视。最后,将新算法运用于非线性数值例子和田纳西-伊斯曼工业过程,并与PCA,LPP,ICA,SVM和ICA-SVM方法进行比较。结果表明,所提方法降低了样本间的自相关性,有效提高了故障检测率。因此,新算法在一定程度上加强了对隐藏非高斯信息的提取与识别,为提高SVM算法在工业过程故障检测中的应用性能提供了参考。     

基于动态结构保持主元分析的故障检测方法

为充分利用表征过程运行工况的数据特征信息,提高化工过程的故障检测性能,提出一种基于动态结构保持主元分析(DSPPCA)的过程故障检测方法。首先对原始数据采用变量相关性分析建立自回归模型,构建包含动态特征的数据集,进一步综合考虑主元分析法(PCA)和局部线性嵌入(LLE)流形学习算法中数据点之间的近邻关系,融合得出新的目标函数,同时,运用局部线性回归的方法获得高维样本的嵌入映射,特征提取后在特征空间和残差空间分别构造监控统计量进行故障检测。Swiss-roll数据集的降维结果及TE过程的仿真研究结果表明,DSPPCA算法可以取得较好的特征提取效果,具有较高的故障检测性能。     

基于动态独立成分的单类支持向量机方法及其在故障诊断中的应用

针对工业过程故障诊断中数据的动态性、非高斯性和非线性特点,提出一种基于动态独立成分的单类支持向量机(OCSVM)方法。为了分析数据的动态特性和非高斯性,应用动态独立成分分析(DICA)方法提取数据变量中的动态独立成分作为特征信息,基于特征信息建立OCSVM模型并构造非线性监控统计量。检测到故障后,计算故障数据与故障模式数据决策超平面的相似度,通过相似度分析识别故障模式。在Tennessee Eastman基准过程上的仿真结果表明,提出的方法能够比单类支持向量机更有效地检测过程故障,并且能够正确识别故障模式。     

基于Morphing方法的断层面重构

为提高稀疏数据条件下断层面形态重构的准确性和光滑性,通过对断层面建模数据分析与优选,提出基于Morphing方法构建相邻稀疏断层线的过渡曲线,同时基于CD-TIN重构平稳光滑断层面的方法。以Morphing方法基础理论,分析了断层线数据特征点对应关系,采用距离二分法实现了特征点匹配;参照有限外推法,确定了断层尖灭位置;采用拉格朗日插值方法对断层线节点曲线进行趋势外推,实现相交断层面切削;最终实现了稀疏数据下断层面的光滑构建。通过对比Kriging插值方法和Morphing方法生成的断层面模型形态,结果表明:Morphing方法生成的断层面形态平滑自然,可以更好地还原断层弯曲细节。