最小学习机

针对极端学习机（ELM）不能用于多层前向神经网络学习的问题,通过揭示单层前向神经网络（SLFN）的ELM与岭回归以及中心化的岭回归之间的关系,提出了SLFN的最小学习机。通过证明核化的中心化岭回归与核化的PCA之间的关系,提出以无限可微的核函数为激励函数的多层前向神经网络（MLFN）的最小学习机LLM.SLFN/MLFN的最小学习机能够保持ELM的上述优势。     

优化极限学习机的序列最小优化方法

针对传统二次规划求解方法训练优化极限学习机(OMELM)存在速度慢和效率低的问题,提出了单变量迭代序列最小优化(SSMO)算法.该算法通过在框式约束中优化拉格朗日乘子来实现目标函数的最小化:首先在初始化拉格朗日乘子中选择使目标函数值下降最大的拉格朗日乘子,将该拉格朗日乘子作为目标函数的唯一变量;然后求解目标函数的最小值并更新该变量的值;重复这个过程直到所有的拉格朗日乘子都满足二次规划问题的Karush-Kuhn-Tucker条件为止.实验结果表明:SSMO算法只需调节很少的参数值便可得到足够好的泛化性能;采用SSMO算法的OMELM方法在泛化性能上要好于采用序列最小优化算法的支持向量机方法;在随机数据集测试中,SSMO算法具有较好的鲁棒性.     

故障诊断专家系统神经网络学习机研究

根据故障诊断专家系统的特点，设计了一种面向故障诊断问题的机器学习系统。在参数修正自学习模型中，引入了变结构的参数修正人工神经网络模型，采用B-P学习算法及后验学习方式，实现了故障诊断专家系统参数修正学习机设计。在汽车故障诊断问题中的应用结果表明。学习效果良好。     

基于控件技术的前向神经网络实现研究

在分析前向神经网络应用特点的基础上，将其与ＡｃｔｉｖｅＸ技术相结合，提出了一种基于控件技术的前向神经网络体系结构，并用Ｖｉｓｕａｌ Ｃ＾＋＋的ＭＦＣ给出了该系统结构的实现方案。该方案具有实现简单，使用方便，宜于扩充，移植性强，界面友好等优点。     

基于极端学习机的胶囊缺陷检测

针对胶囊常见的凹陷缺陷进行不变矩分析,提取胶囊的偏心率和圆形度为特征变量,提出一种基于极端学习机的胶囊缺陷检测与识别的方法,对胶囊进行检测分类.仿真结果表明基于极端学习机的胶囊分类算法能很好地区分出具有缺陷的胶囊,分辨正确率接近100%,运算速度比BP神经网络更快,训练过程稳定,也说明所提取的特征能很好区分有凹陷与无凹陷胶囊.     

寻找图的最小割集的神经网络方法

针对问题的特点,建立了Ｈｏｐｆｉｅｌｄ网络的能量函数,提出并构造了一种寻找任意图最小割集的神经网络算法－ＮＮＭＣ（Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ Ｍｉｎｉｍａｌ Ｃｕｔ）算法。该算法充分利用了Ｈｏｐｆｉｅｌｄ网络快速收敛的特性,并具有跳出局部极小点的方法。     

短期负荷预测的集成改进极端学习机方法

首次将极端学习机(ELM)理论引入短期负荷预测领域,并以BFGS拟牛顿法对ELM网络左侧权值进行优化训练调整,形成基于迭代-解析的改进ELM预测模型.同时,采用集成技术Boosting算法,生成多个差异度大的改进ELM子网络,对其进行加权组合,构建了集成改进极端学习机预测模型.该模型不仅有效避免了极端学习机左侧权值随机给定的输出稳定性问题,而且克服了单一网络预测模型泛化能力较差等缺陷.     

无控制DEM匹配的最小法向距离算法

最小高差算法(LZD)是无控制DEM匹配的典型算法，在LZD算法的基础上，提出根据法线方向寻找对应点的最小法向距离算法(LND)，使DEM匹配更精确，它不仅拓宽了算法对2个DEM姿态差异的初始值要求，而且加快算法的收敛速度.模拟试验表明LND算法较LZD算法的匹配精度高，旋转角参数和平移量参数的拉入范围可分别增大113%和157%，迭代收敛性指标可提高30%.     

基于差分进化极限学习机的电力系统暂态稳定评估方法

电力系统暂态稳定性的破坏可以对电力系统的安全稳定运行产生严重冲击,准确、快速地暂稳评估方法能够提高电力系统的安全防御能力。极限学习机由于其速度快、泛化性能好被应用到电力系统暂态稳定评估中。为了提高极限学习机的评估性能,利用基于差分进化算法的优化方法和序列浮动后向特征选择算法对极限学习机暂态稳定评估性能进行提升。首先对输入特征通过主元分析降维并利用序列浮动后向算法进行特征选择,再将最优特征集输入差分进化极限学习机进行暂态稳定评估,最后在新英格兰10机39节点系统中进行验证分析,结果表明,所提模型与其他极限学习机模型相比,大大提升了其在暂态稳定分类评估中的性能。     

论人工智能科学中的机器学习

本文首先提出机器学习是人工智能科学中提高机器智能水平的唯一途径。只有不断完善机器的学习功能，才能使机器接近或超过人类和智能水平，提出了机器的学习方法和分类，指出机器学习的发展必须依靠思维科学的发展。最后，提出了研究机器学习的目标及意义。     

直觉模糊最小二乘支持向量机

将直觉模糊集的相关理论引入到最小二乘支持向量机中, 建立了直觉模糊最小二乘支持向量机的数学模型, 并对模型的求解过程进行推导. 为验证该算法的有效性, 在人工数据集和标准数据集上进行仿真实验. 实验结果表明, 直觉模糊最小二乘支持向量机算法可降低分类时样本中噪声和野点对分类效果的影响.     

统计机器学习研究

通过将正则化框架引入到统计学习中来,介绍了几种当前流行的统计学习机器,分析了他们的性能,并探讨了快速求解算法.     

论贝叶斯学习机的学习过程

贝叶斯学习是机器学习研究的一个重要方向,它是以贝叶斯定理为基础,基于已知的概率分布和观察到的数据,并结合先验知识进行推理,作出最优决策的一种概率手段. 本文首先针对参数和变量的不同类型分别给出四种情形的贝叶斯公式,然后结合一个指数分布的特例,研究了贝叶斯学习过程中有关信息的转换过程,指出了如何合理正确地利用先验信息、模型信息和样本信息.     

机器学习的研究

本文对机器学习进行了深入研究,从机器学习的发展历程、研究领域、系统构成及其在分类上的应用四个方面论述了机器学习的发展和应用。     

基于最小二乘支持向量机的脑电信号分类

研究了基于运动想象脑电信号对大脑的想象运动状态进行分类识别的问题.根据事件相关同步和事件相关去同步现象识别出被试的想象运动状态,通过频带能量特征提取方法获得了想象左右手运动时的脑电信号特征,使用最小二乘支持向量机对提取到的频带能量特征进行分类.结果表明,使用最小二乘支持向量机可以对运动想象脑电信号的频带能量特征进行有效分类,分类正确率达到92%,其分类效果与使用标准支持向量机相当,但在计算速度上更有优势.     

适用于大数据的最小二乘半监督支持向量机

为了有效地利用大数据中的无类别标签样本,将最小二乘支持向量机的思想和方法运用到半监督学习中,利用有类别标签和无类别标签样本构造支持向量机模型,通过Lagrange数乘法将其转化为一个线性规划问题,得到了一种适用于大数据的最小二乘半监督支持向量机.该算法有效地提高了支持向量机的测试准确率,具有较好的推广能力.     

小样本机器学习理论：统计学习理论

统计学习理论是由Vapnik等人提出的一种有限样本统计理论,是模式识别邻域新近发展的一种新理论,着重研究在小样本情况下的统计规律及学习方法性质,它为小样本机器学习问题建立了一个较好的理论框架,也发展了一种的通用学习算法－－支持向量机,较好地解决了小样本机器学习问题。该文旨在介绍统计学习理论的基本思想、特点、研究现状和一些思考。     

基于最小二乘支持向量机的信号回归

基于支持向量机核函数的条件和Sobolev Hilbert空间H1(R;a,b)的再生核,提出了一种称为最小二乘支持向量机的新的回归模型,并将该回归模型应用于信号回归的仿真实验中.实验表明,最小二乘支持向量机的核函数采用再生核是可行的,它优于常用的高斯核函数.