基于黎曼度量的最小二乘支持向量机模型选择

针对最小二乘支持向量机(LS-SVM)模型选择效果不稳定、易于过学习的问题,提出了一种基于黎曼度量的模型选择方法.首先,基于信息几何理论,证明了LS-SVM模型泛化能力受样本点二阶协变张量的影响;其次,进一步证明了同时最小化所有样本点的黎曼度量之和与权重向量的L2范数即可提高模型泛化能力;在此基础上,将LS-SVM模型选择转换为一个多目标优化问题,引入多目标粒子群算法选取最优超参数.采用仿真与真实UCI数据集对所提方法进行了对比实验,结果表明,与传统LS-SVM与基于留一法模型选择的LS-SVM相比,所提方法可以取得更小的泛化误差,同时数值稳定性更好.     

基于Pareto定律参数优化的径向基近似建模

针对传统留一交叉验证法计算量大不适用于大规模复杂系统的问题,借鉴经济学中的Pareto定律,选择对全局误差大小起决定性作用的样本点作为关键点,对留一交叉验证法进行了改进,提出了基于Pareto定律的留一交叉验证方法。针对径向基模型形状参数的优化选择问题,将基于Pareto定律的留一交叉验证方法应用于形状参数的优化,提出了基于Pareto定律参数优化的径向基模型构造方法。测试表明,该方法构造的径向基模型具有良好的近似精度和较高的计算效率,具有推广的价值。     

Improved adaptive pruning algorithm for least squares support vector regression

As the solutions of the least squares support vector regression machine(LS-SVRM) are not sparse,it leads to slow prediction speed and limits its applications.The defects of the existing adaptive pruning algorithm for LS-SVRM are that the training speed is slow,and the generalization performance is not satisfactory,especially for large scale problems.Hence an improved algorithm is proposed.In order to accelerate the training speed,the pruned data point and fast leave-one-out error are employed to validate the temporary model obtained after decremental learning.The novel objective function in the termination condition which involves the whole constraints generated by all training data points and three pruning strategies are employed to improve the generalization performance.The effectiveness of the proposed algorithm is tested on six benchmark datasets.The sparse LS-SVRM model has a faster training speed and better generalization performance.     

近红外光谱法在燕麦和苦荞膳食纤维含量分析中的应用

应用近红外光谱漫反射技术,采用偏最小二乘法和留一全交叉验证方法对燕麦和苦荞样品中膳食纤维的含量进行预测.对光谱波长和信号预处理方法进行了优化.剔除异常值后得到实验值和本方法预测值的相关系数达到0.9272.结果表明,采用近红外光谱漫反射方法能够对燕麦、苦荞其它食品中膳食纤维含量进行快速定量或半定量分析.     

极限学习机的快速留一交叉验证算法

针对回归和分类问题,提出一种极限学习机(Extreme Learning Machine, ELM)的快速留一交叉验证算法,并从理论和数值仿真两方面说明其有效性.结果表明,该算法避免了以训练样本数量N次的ELM模型的显式训练,其计算复杂度与N仅呈线性趋势增长,即O(N).即使在处理大型数据集建模问题时,该算法仍然可以快速地进行ELM模型的选择和评价.通过人工和实际数据集上的仿真实验,验证了该快速留一交叉验证算法的有效性.     

(Zr0.7Sn0.3)TiO4陶瓷性能预报的支持向量回归模型

将支持向量回归方法用于(Zr0.7Sn0.3)TiO4陶瓷的配方性能关系研究中,分别建立了(Zr0.7Sn0.3)TiO4陶瓷介电常数和损耗角正切的支持向量回归模型,并与逆传播人工神经网络、多元线性回归模型进行了比较.用留一法分别检验了支持向量回归、逆传播人工神经网络和多元线性回归3种不同模型的预报能力,结果表明:上述3种模型对于(Zr0.7Sn0.3)TiO4陶瓷介电常数的留一法预报的平均相对误差分别为1.083%、1.632%、1.931%,对于损耗角正切的留一法预报的平均相对误差分别为0.999%、1.746%、1.414%.因此,支持向量回归模型的预报能力较好,可望在陶瓷配方设计中的多变量、非线性问题和小样本体系中发挥较好的作用,为新型介电陶瓷的性能预报和配方优化提供一条全新可靠的途径.     

2001-2010年青藏高原草地生长状况遥感动态监测

基于1 970个地面实测数据,结合MODIS EVI和NDVI数据,利用留一法交叉验证方法确定了适合青藏高原地区草地生长状况的遥感反演模型,估算了2001-2010年草地生物量干重空间分布格局,分析了近10年草地生物量变化动态.结果表明:青藏高原地区MODIS的NDVI较EVI能更好地估算草地生长状况,指数模型反演的草...     

基于角度分布的高维数据流异常点检测算法

为了有效检测高维数据流中的异常点,提出一种基于角度分布的高维数据流异常点检测(DSOD)算法.运用基于角度分布的方法准确识别高维数据集中的正常点、边界点以及异常点;构造了基于正常集、边界集的小规模数据流型计算集,以降低算法在空间以及时间上的开销;建立了正常集、边界集的更新机制,以解决大数据流的概念转移问题.在真实数据集上的实验结果表明,所提出的DSOD算法的效率高于Simple VOA算法与ABOD算法,并且适用于大数据流上的异常点检测.     

排一分析法的简要证明及误差分析

基于排一分析法的最小二乘正则化算法，采用去除其中一个样本值的方法，给出 Zhang Tong 在“Leave one outbounds for kernel methods ”一文中提出的排一分析法的一个简要证明，并进一步研究容量无关的最小二乘回归学习算法的误差分析，得到误差界及学习速率 o m β2β + 1。     

基于交叉验证法探究砾岩储集层特征及对化学驱油剂损耗的影响

以克拉玛依油田七东1区克下组砾岩储集层为研究对象,通过X射线衍射、薄片鉴定、孔渗分析等实验,系统开展储集层纵向岩石学特征、孔隙结构特征及宏观物性变化的研究。结合驱油剂动态损耗实验,采用基于交叉验证的逐步回归法,探究储集层特征对驱油剂损耗规律的影响;并应用Petrel建模计算油藏范围内驱油剂损耗量。结果表明:研究区储集层矿物成分成熟度低,结构成熟度低,储集层呈现中-低孔隙度,渗透率纵向变化大,非均质性显著;驱油剂动态损耗量受储集层特征控制,与储集层渗透率、孔隙度、黏土矿物含量等地质特征有较好的相关关系;应用Petrel建模可以实现快速、准确、可视化的油藏范围内驱油剂损耗量计算。在地质条件复杂、驱油剂损耗机理未完全探究清楚的情况下,通过逐步回归法直接从数据中建立模型;并用交叉验证法对模型进行筛选和优化,是驱油剂损耗量计算领域的一个创新应用。