基于非线性PLS回归的军用软件成本估算

当变量间存在多重相关性时,常采用偏最小二乘（partial least squares, PLS）回归进行建模。但是,传统PLS回归采用线性关系式来建立内部成分与外部成分之间的关系,已有的非线性PLS在模型可解释性方面存在不足。针对军用软件成本估算问题的非线性特点,建立了一种基于内部机理的非线性PLS回归模型,给出了模型的推导过程和实现算法。实例分析表明,该方法的估算精度优于多元线性回归,线性PLS回归和基于多项式内部映射的非线性回归。     

基于双正交小波混合核KPCA-SVM财务危机预警研究

目前基于核主成分分析方法(KPCA)以及支持向量机(SVM)的财务危机预警模型中,所使用的核函数基本都是单核函数。混合核函数能够充分利用不同核函数的特征映射能力,在处理非线性关系时较单核函数具有更优越的性能。基于双正交小波在非线性信号处理方面的良好性能,构造了一类新的双正交小波核函数并证明其满足正定核的容许性条件,在此基础上,构造了新的双正交小波混合核函数。提出了基于双正交小波混合核函数的KPCA-SVM财务危机预警模型,并以我国证券市场上市公司为对象进行实证研究。结果表明,所构造的双正交小波混合核函数能够有效改进KPCA的特征提取性能并提高SVM模型的预测精度,显著改善了财务危机预警精度。     

基于样条变换的非线性PLSR方法及应用

针对样本数据多呈现非线性和小样本的特点,为提高此类样本数据回归预测的有效性和精度,根据偏最小二乘回归(PLSR)方法原理、样务插值原理和拟线性化思想,提出基于三次B样条变换的非线性PLSR模型及其实现方法.分析了进行有效变换和成分提取的条件,给出了应用该方法的具体步骤.最后通过对非线性函数回归预测仿真和军用运输机采购价格回归预测实例,以及与BP神经网络模型结果的比较,表明了该方法的有效性和实用性.     

基于均匀试验设计的支持向量回归参数选择方法

支持向量机通过引入核函数将低维空间的非线性问题转化为高维空间的线性问题,克服了维数灾难,并展现了极好的学习能力.但是在支持向量回归分析中,核函数的选取和模型参数的选择目前都没有十分有效的方法.针对高斯核函数的情况,首先通过理论分析和数值仿真,给出了模型参数的选取范围,然后结合均匀试验设计和偏最小二乘回归,提出了一种快速有效的模型参数选择方法.理论分析和实例计算表明该方法选取的模型参数确实能够得到泛化能力较好的回归模型.     

尺度核支持向量回归的非线性系统辨识

提出一种新的尺度核支持向量回归方法,并应用于非线性系统辨识问题。通过线性规划技术和采用尺度函数作为核函数来实现支持向量回归模型。该支持向量回归的核函数不必满足Mercer条件,为实际应用更广泛地选择尺度核提供更大的灵活性。仿真实验结果表明该尺度核支持向量回归方法可以成为非线性系统辨识的有力工具。     

非线性随机最佳变换模型及其应用

本文讨论了非线性随机最佳变换模型．采用稳健的非参数回归方法求解最佳变换函数，提出了相应的ＲＡＣＥ算法．仿真实验验证了该算法的有效性．     

复杂曲面拟合的相关向量机模型及其泛化能力

介绍相关向量机回归(RVM,Relevance Vector Machine)的基本原理。分析采用高斯径向基核函数时,核函数参数与模型性能之间的关系,并给出核函数参数选择建议。针对一个复杂非线性函数,采用均匀网格取样,并分别增加正态分布噪声和均匀分布噪声,分析RVM回归分析的拟合和泛化能力并与支持向量机(SVM,Support Vector Machine)回归模型作了比较。结果表明,SVM对样本数据的拟合能力优于RVM。但对于非训练样本,RVM的泛化能力要优于SVM,而且RVM模型更加稀疏,且在给出预测值的同时能够给出预测值的置信区间。     

基于PSO优化LS-SVM的小样本非线性协整检验与建模研究

针对小样本非线性时间序列，根据非线性协整的定义，利用基于粒子群优化最小二乘支持向量机的方法，对小样本非线性协整关系检验与非线性误差修正模型建模进行研究，设计了方法的 逻辑流程. 对舰船维修费指数与物价指数进行实证研究，在协整关系类型判断的基础上，实现了小样本非线性协整关系的检验，建立了预测舰船维修费指数的非线性误差修正模型，并与线 性向量自回归模型进行分析比较. 研究表明：基于粒子群优化最小二乘支持向量机的小样本非线性协整检验与建模方法，刻画了小样本系统的非线性协整关系，所建立的非线性误差修正模 型具有较好的预测效果，能够有效地预测小样本非线性系统.     

基于核自构建-高斯过程回归的锂离子电池剩余使用寿命预测

高斯过程回归是锂离子电池剩余使用寿命的有效预测方法之一，其中核函数的选择对预测结果有着重要影响。对此，提出了一种自回归核自构建高斯过程回归的锂离子电池剩余寿命预测框架，可结合同型号电池的历史容量退化规律，自动构建出合适的组合核函数。通过与不同的机器学习方法及不同核函数比较，所提方法可在电池退化早期做出长期且准确的电池健康状态退化趋势预测，预测寿命均方根误差小于1%,相对误差小于6%,置信区间也更为集中，证明了所提方法能够有效提高电池剩余使用寿命的长期预测精度。     

基于径向基函数的非线性岭回归方法及仿真研究

提出了一种基于径向基函数的非线性岭回归建模方法（RBF-RR），该方法的核心是先通过RBF的转换实现输入样本的非线性映射，然后用岭回归方法进行线性建模，并采用了—种效果较好的基于广义交叉有效性（GCV）的逐步估计法来确定岭参数k；该建模方法的优点在于：径向基函数的引入赋予岭回归方法非线性功能，同时岭回归方法又可以消除使用RBF进行非线性处理后RBF输出之间潜在的复共线性。通过仿真研究表明：使用RBF—RR建立的模型具有较好的稳定性和预测精度。     

Feature Screening for High-Dimensional Survival Data via Censored Quantile Correlation

This paper proposes a new sure independence screening procedure for high-dimensional survival data based on censored quantile correlation (CQC). This framework has two distinctive features: 1) Via incorporating a weighting scheme, our metric is a natural extension of quantile correlation (QC), considered by Li (2015), to handle high-dimensional survival data; 2) The proposed method not only is robust against outliers, but also can discover the nonlinear relationship between independent variables and censored dependent variable. Additionally, the proposed method enjoys the sure screening property under certain technical conditions. Simulation results demonstrate that the proposed method performs competitively on survival datasets of high-dimensional predictors.

     

偏最小二乘回归在刀具磨损试验建模中的应用

应用灰色关联度筛选变量，将样本变量筛选为部分样本变量和全部样本变量组合用于建模的自变量，以刀具后刀面磨损量作为因变量，对不同切削条件下铣削加工过程刀具后刀面磨损的多组实验数据，采用偏最小二乘回归分析方法，建立对所选自变量的偏最小二乘回归模型。结果表明，该方法提取的成分具有线性无关的特点，对刀具磨损有较好的解释能力，且利于建模和预测，同时可以消除输入因素的多重共线性。刀具磨损的回归模型计算出不同切削条件下刀具后刀面的磨损量，以全部样本变量所建立的模型预测效果更为理想。     

非线性系统基于HM模型的变结构控制

对非线性系统的稳定控制问题进行了研究，基于HM模型对非线性系统进行描述，并将全局HM模型表示成含不确定项的形式，在满足匹配条件下，采用稳定性理论设计出确保HM模型全局渐近稳定的滑模变结构控制器，用一级倒立摆进行仿真验证，控制器结构简单，只用较少的模糊规则，就能得到满意的控制效果，成功地将变结构控制应用于非线性系统，有推广应用价值。     

分段逆回归与神经网络组合建模方法

通过将人工神经网络技术和分段逆回归技术相结合，提出一种针对多因素非线性时间序列数据的预测建模方法。这种方法在保证原有函数形式不变的前提下，简化了输入变量，缩小了神经网络的规模，增强了模型的泛化能力。同时利用此方法建立北京市就业人口需求总量的预测模型，证实该方法的预测效果，并且为该方法运用于实际预测建模提供参考。     

阶梯式有约束非线性预测控制及其应用

非线性预测控制需要在每个采样周期内求解非凸非线性规划。针对在线求解的计算复杂性,提出基于阶梯控制的非线性预测控制算法,在每个采样周期,采用阶梯式控制策略,精确求解当前控制量,减少非线性规划决策变量的维数,降低了在线计算量,减少计算时间,提高了算法的快速性。仿真和实控结果表明,本算法具有良好的可行性和控制效果。     

基于神经网络动态非线性非平稳经济系统预测

考虑实际经济系统中广泛存在着非线性和时变性因素，以及大部分变量的序列具有增增长特性，提出了用网络方法，建立实际经济系统的时变非线性模型，采用增广卡尔曼滤波算法训练神经网络，并根据先验信息（序列的时间增长特性）构造参数转移矩阵，对实际经济的预测分析结果证明，与传统定常非线性预测模型相比，该方法不仅可以在线递推预测，而且由于参数转移矩阵的引入，预测精度得到很大的提高。     

北京市用水结构与产业结构的成分数据回归分析

城市经济发展带来了产业结构和用水结构的明显变化,本文分析了用水结构受产业结构变化影响的变动规律.用水结构和产业结构是一系列按照时间顺序排列的成分数据,运用软件SIMCA-P 11.5建立了基于偏最小二乘回归的成分数据线性回归模型,证明了用水结构组分变动与产业结构变动有一致性.为城市水资源管理提供了合理有效的定量方法,并可作为对未来用水结构预测的基础.     

MINLP问题全局优化算法的研究

提出了一种求解混合整数非线性规划MINLP问题的混合优化算法GASimplex，由遗传算法模块GAsolver和单纯形算法模块SimplexSolver两部分组成。该算法首先确定MINLP模型的整数变量和复杂变量，使得固定这些变量后可以将原问题转化为一线性规划子问题，在此基础上应用GASolver实现对整数变量和复杂变量的优化，而其适应函数则可以通过求解编码对应的线性规划子问题SimplexSolver来得到。这样，一方面由于在遗传算法中引入了局部搜索过程，极大增加了GASimplex整体收敛速度，而且对于非凸的MINLP问题，可以在理论上保证得到解的全局最优性；另一方面，模型约束条件是通过SimplexSolver求解得到，故约束条件的存在—般不会增加遗传算法处理的复杂度，可有效的处理约束的MINLP问题。通过对一MINLP模型仿真分析，证明该算法不仅具有很决的收敛速度，而且能得到全局的次最优解，更适合处理一类复杂的MINLP问题。     

Test for Heteroscedasticity in Partially Linear Regression Models

Testing heteroscedasticity determines whether the regression model can predict the dependent variable consistently across all values of the explanatory variables. Since the proposed tests could not detect heteroscedasticity in all cases, more precisely in heavy-tailed distributions, the authors established new comprehensive test statistic based on Levene's test. The authors built the asymptotic normality of the test statistic under the null hypothesis of homoscedasticity based on the recent theory of analysis of variance for the infinite factors level. The proposed test uses the residuals from a regression model fit of the mean function with Levene's test to assess homogeneity of variance. Simulation studies show that our test yields better than other methods in almost all cases even if the variance is a nonlinear function. Finally, the proposed method is implemented through a real data-set.