Gamma回归模型中岭估计的几种改进岭参数

针对Gamma回归模型的复共线性问题,基于HOERL和KENNARD等人的工作,提出了岭估计的几种新的岭参数.在最小均方误差的准则下,采用蒙特卡罗模拟法验证了岭估计和所提出的岭参数的优良性.     

岭估计下数据的交叉影响

本文研究岭回归中数据的交叉影响问题,得到了一些有意义的结果.并给出了矩阵X(X′X kl)~(-1)X~1的非对角元素h_(ij)~(k)的统计解释.     

岭回归参数选择的主成分方法

当线性回归模型中自变量出现共线时,最小二乘估计不再是良好估计。岭回归估计和主成分估计是新提出的两种估计方法,本文讨论了在某些条件下,这两种估计是很接近的,同时提供了一种选择岭回归参数K的方法,称为主成分选择法。文章还列举了两个典型例子来说明。     

岭回归中K值的探讨

以多元线性回归模型的典则形式为研究对象,从减小均方误差的角度出发,在一定的范围内分析了岭参数K的存在性.岭参数K的确定依赖于未知参数,但是若只凭样本推断,就会使大量的经验和信息作用无从发挥.岭迹法确定K值存在着一定的人为主观因素,这种主观性正好能使定性分析和定量分析结合起来,并改进Hoerl和Kennard的方法.本文通过分析均方误差函数的单调性,将K的范围缩小到一个相对较小的区间.关于K值的逼近,怎样才能达到极值点,尚需进一步研究.     

最小学习机

针对极端学习机(ELM)不能用于多层前向神经网络学习的问题,通过揭示单层前向神经网络(SLFN)的ELM与岭回归以及中心化的岭回归之间的关系,提出了SLFN的最小学习机.通过证明核化的中心化岭回归与核化的PCA之间的关系.提出以无限可微的核函数为激励函数的多层前向神经网络(MLFN)的最小学习机LLM.SLFN/MLFN的最小学习机能够保持ELM的上述优势.     

大数据岭回归的最优子抽样

针对大数据岭回归问题,研究了提升计算效率的子抽样方法.现有子抽样方法的研究主要集中于没有惩罚项的模型框架,而相较于普通最小二乘估计,岭回归中惩罚项的引入权衡了估计的偏差和方差.通过子样本所得估计的渐近性质研究,本文提出了以渐近均方误差为优化准则的岭回归最优子抽样估计,并计算得到包含岭杠杆值和L2范数的子抽样概率,对岭杠...     

基于卷积神经网络的监控视频人数统计算法

监控视频中人数统计是现代安防的重要任务之一,具有较高的研究意义和应用价值.虽然近年来取得较大的进展,但仍无法很好地解决监控场景人数统计精度、高清图像耗时问题.为此,作者提出一种基于卷积神经网络与岭回归联合的人数统计方法.通过卷积神经网络回归图像中人头中心点获得人群密度分布特征图,然后使用岭回归模型分析人群密度分布特征图得到该帧图像对应的人数.作者提出的算法通过在多组视频图像上进行了测试,并与经典算法做了比较.实验结果验证了作者方法的有效性.     

基于岭回归和LASSO回归的安徽省财政收入影响因素分析

基于1988—2019年安徽省财政收入及相关经济指标数据,运用岭回归和LASSO回归方法,探究安徽省财政收入的影响因素.考虑到较多的自变量会造成严重的多重共线性,首先应用岭回归及LASSO回归模型降低变量间共线性的影响,然后再进行变量选择,最后对两模型进行比较分析.结果显示:相较于岭回归模型,LASSO回归模型更优.第...     

一般正态线性回归模型岭估计的贝叶斯推广

本文讨论了一般正态线性回归模型的参数岭估计问题，从贝叶斯方法出发给出了岭估计在解决相关问题时的一种合理性的解释，并且将贝叶斯方法在特殊正态线性模型中的应用推广至更一般的正态线性回归模型．     

岭回归算法在臭氧浓度集合预报中的应用

基于机器学习方法,利用已有的预报模式构造一种全新的集合预报模型,对于提升预报的准确度和稳定性都有重要意义.以臭氧浓度预报为例子,讨论一种基于机器学习的集合预报技术——岭回归(ridge regression,简称RR)算法.首先,对RR算法的特点和实现流程进行描述.在实现RR算法之后,对我国近两年的环境空气质量真实数据进行大量的数值实验.然后,对最优化集合预测(operational consensus forecasts,简称OCF)和RR算法的预测结果在均方根误差和时间序列对比等方面进行详尽分析.实验结果表明,RR算法比OCF算法具有更好的预测精度和稳定性.最后,对算法可能的误差来源进行探讨,提出了进一步改进的方向.     

分布式环境中基于核函数的极限学习机

针对海量数据规模下的集中式核函数极限学习机的性能问题,将基于核函数的极限学习机扩展到云计算技术框架下,提出了基于MapReduce的分布式核函数极限学习机MR-KELM.该算法将分布式径向基核函数计算出的核函数矩阵进行分布式矩阵分解,并通过分布式矩阵向量乘法得到分类器输出权重,减小了网络通讯和数据交换代价.实验结果表明,MR-KELM算法能够在不影响基于核函数的极限学习机的计算理论的前提下,具有较好的可扩展性和分类训练性能.     

基于流形正则化的在线半监督极限学习机

在基于流形正则化的半监督极限学习机(SS-ELM)的基础上,利用分块矩阵的运算法则,提出了在线半监督极限学习机(OSS-ELM)方法.为避免在实时学习的过程中由于数据累积引起的内存不足,通过对SS-ELM的目标函数的流形正则项的近似,给出了OSS-ELM的近似算法OSSELM(buffer).在Abalone数据集上的实验显示,OSS-ELM(buffer)在线学习的累计时间与所处理的样本个数呈线性关系,同时,9个公共数据集上的实验表明,OSS-ELM(buffer)的泛化能力与SS-ELM的泛化能力的相对偏差在1%以下.这些实验结果说明,OSS-ELM(buffer)不仅解决了内存问题,还在基本保持SS-ELM泛化能力的基础上大幅度提高了在线学习速度,可以有效应用于在线半监督学习当中.     

基于抽样方法的不确定极限学习机

实际应用中的大量数据具有不确定属性,而传统的挖掘算法无法直接应用在不确定数据集上.针对不确定数据的分类问题,提出一种基于抽样方法的不确定极限学习机.该算法通过抽样的方法,对不确定数据集中样本的抽样实例进行学习和分类,得到该不确定样本的所属类别的概率,从而实现了传统极限学习机分类算法对不确定数据的分类,并极大降低了不确定对象实例的枚举代价.实验结果表明,该算法在不确定数据的分类问题中具有较好的有效性和高效性.     

基于ELM的蛋白质二级结构预测及其后处理

将ELM应用到蛋白质二级结构模型的训练中,在此基础上提出了基于概率的合并算法(probability-based combining,PBC),用该算法预测结果的合并.根据生物学中关于蛋白质二级结构的特征提出了预测结果的Helix-后处理(Helix-post-processing,HPP)算法,对合并后的预测结果进行有效的后处理,从而进一步提高预测结果的准确率.分别在CB513和RS126两个数据集上进行了实验,实验结果表明,预测结果的准确率是令人满意的,尤其是实现了训练时间上的显著缩短.     

最小学习机

针对极端学习机（ELM）不能用于多层前向神经网络学习的问题,通过揭示单层前向神经网络（SLFN）的ELM与岭回归以及中心化的岭回归之间的关系,提出了SLFN的最小学习机。通过证明核化的中心化岭回归与核化的PCA之间的关系,提出以无限可微的核函数为激励函数的多层前向神经网络（MLFN）的最小学习机LLM.SLFN/MLFN的最小学习机能够保持ELM的上述优势。     

基于粒子群优化极限学习机的排水管结构状况评价

基于极限学习机(ELM)和粒子群优化(PSO)算法,建立一个新型排水管道结构性状况评价模型。采用PSO算法优化ELM中的输入权值矩阵和隐含层偏置,改善网络参数随机生成带来的分类精度偏低的问题。以上海市洋山保税港区排水管网为例,对分类器模型进行训练测试,并与ELM分类结果进行对比分析。结果表明,PSO-ELM算法以较少的隐含层神经元节点获得更高的分类精度,参数优化提高了模型拟合能力,对于城市排水管道结构性状况分类、判断具有可行性和有效性。     

基于ELM新方法的LF终点温度软测量混合模型

针对LF精炼炉冶炼过程中物理化学反应过程及传热过程的复杂性,采用混合模型对钢水温度进行软测量,将传统的机理模型与ELM新方法相结合,利用ELM智能算法校正机理模型中难以准确获得的参数,再用机理模型进行预测.这种混合模型既克服了传统机理模型难以准确实现的不足也避免了"黑箱"模型过分依赖数据的缺陷.同时ELM新方法也克服了传统BP算法的不足,使预测精度得到了提高.仿真结果表明,此混合模型具有较好的预测结果,终点温度预测误差不大于±5℃的炉次大于90%.     

序列图像运动自适应V1-MT光流估计算法

针对传统算法在抗光照变化影响、大位移光流和异质点滤除等方面的不足,从人类视觉认知机理出发,提出了一种基于机器学习和生物模型的运动自适应V1-MT(motion-adaptive V1-MT,MAV1MT)序列图像光流估计算法.首先,引入基于ROF模型的结构纹理分解(structure-texture decomposition,STD)技术,有效解决了光照和色彩变化的影响.其次,利用多V1细胞加权组合及非线性正则化模拟MT细胞模型,并结合岭回归训练学习得到运动自适应的权重,解决对目标的运动速度感知问题.最后,引入由粗到精的增强方法和图像金字塔局部运动估计采样,将V1-MT运动估计模型应用于实际大位移视频序列.理论分析和实验结果表明,新方法能更加拟合人眼视觉信息处理特性,对视频序列具有普适、有效、鲁棒的运动感知性能.     

基于MATLAB的岭归分析程序设计及其应用

岭归分析是多元线性回归分析中的一种方法,在实际应用中经常遇到。本文通过设计MATLAB中Ridgel函数程序,介绍如何利用MATLAB进行岭回归分析。