基于受限玻尔兹曼机的神经元群体响应的贝叶斯解码

神经元通过尖峰模式传递有关刺激的信息,多个神经元通过突触相互联系,构成了复杂的神经回路。在过去的一个世纪中,多电极记录技术的进步使科学家们能够获取一个完整神经回路的细胞响应。这些记录表明,神经元的活动之间存在显著相关性。因此,本文提出利用受限玻尔兹曼机模型描述神经元响应活动之间的相关性,建立神经元群体响应的编码模型,并利用贝叶斯定理构建了基于受限玻尔兹曼机模型的解码器,将它应用于模拟的小鼠视觉皮层神经元的响应序列中。实验结果表明,此解码器在准确率方面优于不考虑神经元之间相关性的独立模型解码器。     

基于生成型深信度网络的回归算法鲁棒性分析

目前,深度学习在分类问题中取得了很多很好的效果,并开始在部分回归任务得到应用。然而,绝大部分研究重点都集中在相对其他回归算法的预报精度上,而忽视了有实际应用需求的回归算法预报鲁棒性问题。首先基于受限的玻尔兹曼机建立了一个具有3个隐含层的生成型深信度网络多步预测模型;然后,建立了基于单隐含层神经网络、三个隐含层的神经网络以及单核支持向量的典型多步预测模型,并利用4组宁夏地区不同季节的风速数据进行回归算法的稳定性对比实验。实验结果显示,基于受限玻尔兹曼机建立的具有三个隐含层的深信度网络模型的多步预报误差的均值和方差都是最小的。因此,基于生成型深信度网络的回归模型不仅预报精度高,而且此预报算法的鲁棒性也比较好;相对其他三种典型回归算法来说,可以更好地满足风电场风速预报问题的实际工程应用需求。     

基于限制玻尔兹曼机的无极性标注情感分类研究

已有的网络评论情感分类算法都需要手工标注词汇情感倾向,然而网络评论具有表达形式自由、模式多变、词汇更新速度快等特点,手工标注的方式适应能力较低。为解决上述问题,结合限制玻尔兹曼机和相似差异向量运算,通过降低向量相似度,强调其差异性的方式,提出基于限制玻尔兹曼机的无词汇标注情感分类算法。实验表明,该算法虽褒义精确度稍低于支持向量机,但是在贬义精确度上优于支持向量机,并且不需要进行词汇情感倾向标注,降低了算法的复杂度,提高了泛化能力。     

基于深度置信网络的语义相关度计算模型

语义相关度是问答系统等领域的关键技术之一,目前的相关度计算方法往往对语义因素考虑不全,造成计算结果的准确度不足。由受限玻尔兹曼机构造的深度置信网是一种深度学习模型,能模仿人类大脑抽象语义特征,由此提出了一种基于深度置信网络的语义相关度计算模型。首先,对组成模型的受限玻尔兹曼机进行介绍;然后,详细阐述了模型的构建及其训练和微调过程;最后,通过对比实验验证了提出的计算模型相对基准方法在评价指标上获得了更好的效果。     

基于受限玻尔兹曼机的中文文档分类

最近,许多不同类型的人工神经网络（Artificial Neural Network）已经应用于文档分类,并且得到了较好的结果。但是,大多数的模型仅使用了少量特征作为输入,因此可能没有足够的信息来对文档进行准确分类。如果输入更多的特征,将可能发生所谓的维数灾难,导致模型的训练时间大幅度增加,其泛化能力也可能会恶化。因此,在原始高维的输入特征中抽取出高度可区分的低维特征,并将其作为相应模型的输入对改善模型的泛化性能会有很大的帮助。受限玻尔兹曼机（Restricted Boltzmann Machine）是一种新型的机器学习工具,因为其强大的学习能力,受限玻尔兹曼机已经被广泛应用于各种机器学习问题。在本文中,我们使用受限玻尔兹曼机从原始输入特征中抽取低维高度可区分的低维特征,并且使用支持向量机（Support Vector Machine）作为回归模型。     

受限玻尔兹曼机的步态特征提取及其识别

针对步态识别问题,研究了受限玻尔兹曼机的步态特征提取及其识别.主要基于行人图像序列,通过背景分割、归一化以及步态周期的计算,采用叠加方法生成步态能量图,以此作为步态的特征图像,利用受限玻尔兹曼机自动获取步态特征.选取中科院CASIA步态数据库以及支持向量机、孪生支持向量机、神经网络与K-近邻方法对使用受限玻尔兹曼机方法的特征提取进行了研究,同时与主成分分析PCA、线性判别分析LDA、卷积神经网络CNN特征提取与识别方法进行了比较.     

用聚类支持向量机模型监测环保设备运行状态

针对环保设备多状态监测与识别问题,提出了一种基于多分类聚类支持向量机的分类算法模型.该算法模型充分利用多个相关联被监测设备及其状态属性特征,采用神经网络聚类分析获得关联特征的聚类子空间,再对聚类子空间构造二叉树支持向量机进行多分类识别.该算法模型避免了盲目分类,与单纯的支持向量机算法比较具有更好的分类性能.通过对日本大晃船用污水处理装置实测样本的训练、检验表明,该算法具有98%以上的分类识别率.     

利用深度玻尔兹曼机与典型相关分析的自动图像标注算法

提出一种基于深度玻尔兹曼机与典型相关分析的自动图像标注算法(DBM-CCA)。该算法利用深度玻尔兹曼机实现图像与文本的低层次特征向稀疏高层次抽象概念的转变,并通过典型相关分析建立子空间映射关系以实现标注词汇的生成。首先在深度玻尔兹曼机提取图像与文本高层特征过程中,选用伯努利分布和高斯分布分别拟合标注词汇和图像特征,然后在图像与标注词汇高层特征形成的典型变量空间内计算待标注图像与训练集图像的马氏距离并据此加权计算得到高层标注词汇特征,最后由平均场估计生成图像标注词汇。实验结果表明,所提算法对图像的标注准确率改善较好,与经典的基于监督的多类标签方法和多重伯努利相关模型相比,在Corel5K实验中平均查准率和查全查准均率分别提高了10%和5%。     

用于孤立数字语音识别的一种组合降维方法

针对孤立数字语音识别的噪声鲁棒性问题,提出了一个组合降维方法。该方法由梅尔频率倒谱系数(MFCC)特征提取、线性降维、受限玻尔兹曼机(RBM)、Softmax分类器4个功能模块依次组成;基于主成分分析(PCA)基本原理对MFCC特征向量实现了降维并且统一维度的目的;通过RBM对降维后的特征向量进行学习,改善了后端Softmax分类器的分类性能,RBM的预训练由对比散度算法完成,微调过程使用共轭梯度算法。采用TI-46孤立数字语音库和NOISEX-92典型噪声数据库对方法进行了测试,实验结果表明,该方法可以获得96.09%的正确识别率,相对于常规神经网络识别方法,噪声鲁棒性得到了提高。     

基于子空间方法的非均匀多采样率系统辨识

针对非均匀多采样率系统的建模问题,根据因果关系,建立了非均匀多采样率系统的状态空间模型.对于含有提升变量的状态空间模型,提出基于子空间技术的辨识方法.首先,由系统的输入输出数据建立由Hankel矩阵组成的扩展状态空间方程;其次,利用斜交投影的原理,以及奇异值分解,通过子空间辨识算法确定增广观测矩阵和状态向量;最后,通过最小二乘方法确定模型的参数矩阵.该方法简单有效且对初值具有鲁棒性.仿真实例验证了方法的有效性.     

基于pinball损失的一对一加权孪生支持向量机

孪生支持向量机通过求解2个较小二次规划问题得到一对非平行超平面,从时间和准确率方面提高了分类器的性能.由于此方法使用Hinge损失函数,造成孪生支持向量机对噪声较为敏感以及重采样的不稳定.为此,针对多分类问题,将pinball损失函数与样本权重引入到孪生支持向量机中,采用一对一方法组合二分类器,提出了基于pinball损失的一对一加权孪生支持向量机,较好地解决了孪生支持向量机对噪声的敏感性以及重采样的不稳定性.另外,对于样本的不同影响,给出了多种求取样本权重的方法.实验中选取标准数据集和人工合成数据集对提出的算法进行了验证,并与一对一孪生支持向量机(OVO-TWSVM)、一对多孪生支持向量机(OVA-TWSVM)以及基于pinball损失的一对一加权孪生支持向量机(Pin-OVO-TWSVM)进行了比较,表明了提出方法的有效性.     

基于模糊支持向量机的夏季雨型的预报方法研究

本文提出了基于一对一模糊支持向量机多分类方法的非线性夏季雨型预报模型.该模型在一对一支持向量机多分类算法的基础上引入模糊隶属度函数,其构造的分类超平面可以忽略噪声样本对分类结果的影响.实验结果表明,该模型较传统的支持向量机多分类方法和线性物理统计方法,具有更好的预报能力和更强的抗干扰能力,可以较好地弥补基于统计理论的相关分析和回归方法在处理非线性问题时具有较大的局限性     

基于迁移学习和支持向量机的白细胞分类

针对人工镜检分类白细胞准确率和效率低的问题,基于深度学习和机器学习算法,提出了一种基于迁移学习和支持向量机的白细胞分类方法.首先对迁移模型进行微调训练,其次用微调训练后的迁移模型进行特征提取,然后将特征输入至神经网络和支持向量机中进行训练,最后通过神经网络和支持向量机的组合分类器对白细胞进行分类.实验结果表明,白细胞分类准确率由最初微调训练的83.26％,随着迁移模型的优化提升为90.43％,最后通过组合分类器再次提升为93.52％,可以在临床实践中帮助医生提高诊断的准确率和效率.     

基于多分类支持向量机的网络流量预测方法

 针对支持向量机网络流量预测误差较大的问题,提出一种基于多分类支持向量机的网络流量预测方法。该方法在网络流量数据训练阶段通过数据编码,使多分类支持向量机的输出逼近编码值,在预测阶段通过数据解码,将多分类支持向量机的输出转换为实际的网络流量预测结果,从而有效地降低了预测误差。实验结果显示,该方法的预测结果与实际采集的网络流量数据具有相同的变化趋势;在同等实验条件下,该方法预测结果的均方根误差为0.487,而单一支持向量机方法、BP 神经网络方法预测结果的均方根误差分别为1.0954 和2.3642,表明基于多分类支持向量机的网络流量预测方法具有更高的准确性。     

基于支持向量机算法的网站分类器构造方法

首先研究了基于向量空间模型的网站文本特征建模技术，同时根据实际网络的复杂程度和分类特点，采用支持向量机（support vector machine，SVM）来构造分类器。网站分类实验结果表明这种基于SVM的分类器具有模型简单、分类准确性较高等优点，具有较好的网站分类适用性。     

基于SVM的空间数据库的层次聚类分析

支持向量机用于两类问题的识别研究.本算法引入了SVM,构造二叉树对多类问题进行层次聚类分析.该算法采用SVM对两类问题进行识别,通过合并逐步由底向上构造二叉树,最终二叉树的数目即为聚类数.它适合任意形状的聚类问题,而且可以确定最优聚类的结果,并适于高维数据的分析.     

MMSE准则下基于玻尔兹曼机的快速重构算法

全连接的玻尔兹曼机模型可全面描述稀疏系数间统计依赖关系,但时间复杂度较高.为了提高基于玻尔兹曼机的贝叶斯匹配追踪算法(BM-BMP)的重构速度和质量,本文提出一种改进算法.第一,将BM-BMP算法的最大后验概率(MAP)估计评估值分解为上一次迭代的评估值与增量,使得每次迭代仅需计算增量,极大缩短了计算耗时.第二,利用显著最大后验概率估计值平均的方式,有效近似最小均方误差(MMSE)估计,获得了更小的重构误差.实验结果表明,本文算法比BM-BMP算法的运行时间平均缩短了73.66%,峰值信噪比(PSNR)值平均提高了0.57 dB.     

利用蜂群算法优化的区域高程拟合精度分析

针对最小二乘支持向量机拟合法的拟合参数难以选取的问题,提出将人工蜂群算法引入最小二乘支持向量机建立高精度区域拟合模型的方法。人工蜂群算法可对最小二乘支持向量机中的参数进行全局性追踪搜索,模仿蜜蜂的采蜜过程,将参数的初选值作为蜜源,最小二乘支持向量机预测的平均平方误差作为目标函数,在一定范围内经过迭代更新确定最佳参数,最终建立精度较高的全球定位系统(GPS)高程拟合模型。实验结果表明,相比常规最小二乘支持向量机拟合法,ABC-LSSVM组合方法构建的拟合模型精度提高了28%,在此同时,该组合方法比BP神经网络拟合法的收敛效果更高、稳定性更佳,证明了ABC-LSSVM组合方法在GPS高程拟合模型构建中的有效可行性,为GPS高程拟合模型的建立提供一定的参考价值。