利用Fisher信息矩阵确定伽玛分布的无信息先验

先验分布的选取一直以来是贝叶斯学派研究的重点,尤其是在无先验信息的情况下如何确定先验分布是贝叶斯学派关心的焦点,文章根据Jeffreys提出的利用Fisher信息矩阵确定无信息先验分布的方法,给出伽玛分布在三种情况下的无信息先验.     

非线形模型方差的贝叶斯估计

 在均方误差的条件下,系统地研究了非线形模型方差的贝叶斯估计,提出了共轭和无先验信息的最佳贝叶斯估计和最佳无偏贝叶斯估计以及方差的最佳条件无偏贝叶斯估计.还提出了带有共轭和无先验信息的方差的极大后验估计,最后用一个简单的例子来说明上述结论的可行性.     

Pareto分布形状参数的简单贝叶斯估计

针对Pareto分布,在尺度参数已知、先验信息为某一固定时刻分布函数及其标准差的估计值的情况下,参考Kaminskiy等提出的简单贝叶斯估计过程,借助缺一交叉验证法以及核密度估计法,研究了形状参数的简单贝叶斯估计.基于上述先验信息,在估计过程中构造了Pareto分布形状参数的先验与后验概率密度、先验与后验点估计,并给出了在给定任意时刻分布函数及其标准差的先验与后验估计.最后通过一个数值例子说明了这种估计方法,并对灵敏度进行了定量分析.     

贝叶斯预测模型在气温变化预测中的应用

贝叶斯预测模型是运用贝叶斯统计方法进行的一种预测,贝叶斯统计不同于一般统计方法,其不仅利用模型信息和数据信息,而且充分利用了样品的先验信息.根据贝叶斯预测模型的特点,介绍了几个贝叶斯预测模型的预测过程和计算步骤,并对南宁地区自1970年以来19年间的气温变化进行了预测.根据计算结果,分析了不同贝叶斯预测模型的预测特点,并给出了几点结论.     

贝叶斯预测模型在矿物含量预测中的应用

矿物含量预测是资源评价中经常遇到的问题,贝叶斯预测模型是运用贝叶斯统计方法进行的一种预测.贝叶斯统计不同于一般的统计方法,其不仅利用模型信息和数据信息,而且充分利用先验信息.根据贝叶斯预测模型的特点,介绍了几个贝叶斯观测模型的预测过程和计算步骤,并对白鹿塬水家嘴剖面的mg2+含量进行了观测,根据计算结果,分析了不同贝叶斯预测模型的预测特点,并给出了几点结论.     

处理缺失数据的朴素贝叶斯分类增量算法

在具有缺失数据的数据集的分类过程中,缺失的数据中蕴含着有用的信息未被考虑的情况会引起分类精度的下降。增量式的学习能够利用不断加入的信息更新学习模型,并充分利用先验信息求解当前问题。给出了一个利用朴素贝叶斯分类模型实现对缺失数据的增量分类的算法。该算法在增量学习的过程中考虑了缺失数据和先验信息对分类器的影响。     

方差已知条件下平稳AR模型的贝叶斯分析

当方差已知时,分别对无信息先验和共轭先验条件下的平稳AR(p)模型进行了贝叶斯分析,并给出了平稳AR(1)模型回归系数的贝叶斯估计和预报分布的解析式.结果表明,两种先验分布下,回归系数的后验分布均服从平稳域内的截断正态分布.无信息先验分布下,后验均值与经典OLS估计值一致;在共轭先验分布下,后验均值是先验均值和经典OLS估计值的加权平均.     

结合先验信息的多属性诊断测验分类研究

在动态的学习过程中,随着学习的深入和知识属性的个数逐渐增加,学生的知识状态也会发生动态变化.在这样的应用场景下如何结合先验信息提高诊断测验的判准率具有较大的挑战.该文提出基于学生对已学习属性的掌握概率来预测包含新属性后的属性向量的先验信息.考虑2种实际的应用情境,并通过模拟和实证研究来评价该方法的表现.结果表明：在2种实际学习情境中,结合先验信息在多属性诊断测验中能起到提高判准率的作用,其中在基于个体先验信息时的表现更好.基于预测先验信息的方法也摆脱了在以往研究中不同学习阶段测验属性个数一致或数量的限制,使得分类精度有较大改进.实证数据分析进一步表明该方法具有较高的应用价值.     

Bayesian方法的计算学习机制和问题求解

从信息熵的角度讨论了无信息先验分布的Bayesian假设的合理性 ,着重分析了贝叶斯方法的计算学习机制 ,得出贝叶斯定理是将先验分布中的期望值与样本均值按各自的精度进行加权平均 ,精度越高者其权值越大 ,合理地综合了先验信息和后验信息。在共轭先验分布的前提下 ,可以将后验信息作为新的一轮计算的先验 ,用 Bayesian定理与进一步得到的样本信息进行综合。多次重复这个过程后 ,样本信息的影响越来越显著。因此 ,合理正确地指派先验分布对提高学习的效率和质量有重要意义。 Bayesian方法既可避免只使用先验信息可能带来的主观偏见 ,和缺乏样本信息时的大量盲目搜索 ,也可避免只使用后验信息带来的噪音的影响。因此 ,适用于具有概率统计特征的数据采掘和知识发现问题 ,尤其是样本难得或代价昂贵的问题。     

基于贝叶斯神经网络先验模型的图像去噪研究

基于小波系数先验模型的图像处理方法是现代图像处理技术的重要理论框架之一.针对传统的高斯型或拉普拉斯型先验模型的统计描述精度缺陷,本文提出利用贝叶斯(Bayesian)神经网络模型对图像小波系数的统计特性进行精确建模,结合现代粒子(或Montel Carlo:MC)采样技术--Gibbs采样进行模型参数的估计,并重点考察了各尺度下的正交小波系数先验信息的建模过程,最后利用先验模型图像处理框架,实现图像的噪声抑制.仿真模拟结果表明:一方面,基于贝叶斯神经网络的小波先验模型建模准确,较好地描述了各尺度小波系数的先验信息;另一方面,从图像去噪性能来看,基于建议先验模型的图像质量在客观指标和主观视觉上都有显著的提高.     

一种新的Bayes网络条件概率学习方法

针对大规模Bayes网络的条件概率赋值问题,提出一种学习方法.首先使用类层次结构定义一种新的基于层次的Bayes网络模型,用于表示大规模Bayes网络.然后将训练数据集由单个数据表的形式转化成多表数据库,其中每个数据库表对应一个Bayes网络模块.在此基础上导出条件概率计算公式,从每个数据库表中算出相应的Bayes网络模块的条件概率表,由此实现对整个层次Bayes网络的概率赋值.通过适当增加数据库表的数目来控制每个表中属性的个数,保证计算的可行性.将层次Bayes网络及计算公式用于解决图像中文本的自动检测与定位问题,实验结果表明了它们的有效性.     

Bayes网络学习及其在文本检测中的应用研究

针对大规模Bayes网络的条件概率赋值问题,提出一种学习方法．首先使用类层次结构定义一种新的层次Bayes网络模型,用于表示大规模Bayes网络．然后将训练数据集由单个数据表的形式转化成多表数据库,其中每个数据库表对应1个Bayes网络模块．在此基础上导出条件概率计算公式,从每个数据库表中算出相应的Bayes网络模块的条件概率表,由此实现对整个层次Bayes网络的概率赋值．可通过适当增加数据库表的数目来控制每个表中属性的个数,保证计算的可行性．最后将本层次Bayes网络及计算公式用于解决图像中文本的自动检测与定位问题,实验结果表明了它们的有效性．     

贝叶斯网络学习算法研究

贝叶斯网络是一种概率图形模型,它提供了不确定性环境下的知识表示、推理、学习手段,可以完成决策、诊断、预测、分类等任务,已广泛应用于数据挖掘、语音识别、工业控制、经济预测、医疗诊断等诸多领域。贝叶斯网络将概率理论和图论相结合,为解决不确定性问题提供了一种自然而直观的方法。在对贝叶斯网络全面概述的基础上,深入研究了贝叶斯网络的结构学习。     

基于机器学习的数据库小数据集并行集成方法

为了解决传统方法不能按照训练样本量设计最优网络模型,集成效率低的弊端,通过机器学习方法研究数据库小数据集并行集成方法。机器学习选用朴素贝叶斯算法,依据条件独立性假设,通过计算目标先验概率,采用贝叶斯定理求出其后验概率,对后验概率进行比较,完成决策分类,对基分类器进行训练,把不同朴素贝叶斯基分类器当成集成分类器,在原始数据库上对基分类器进行训练,依据分类结果对数据库中小数据集样本分布进行调整,将其当成新数据集对基分类器进行训练,按照基分类器的表现,通过加权将其组合在一起,产生强分类器,实现对数据库小数据集的集成处理。通过MapReduce并行处理完成并行数据集成,输出并行集成结果。通过仿真实验与实例分析验证所提方法的有效性,结果表明:所提方法在训练样本规模相同的情况下有最高的分类精度和最小的波动,在不同集成规模下的分类精度一直最高,波动最小;所提方法可达到数据的最优集成,数据失效比降低,合成比提高。可见所提方法集成精度高,计算稳定性强,集成效果好,效率优。     

贝叶斯分类器集成的增量学习方法

针对基于决策树和神经网络的增量学习算法的过量匹配和分类精度有限的缺点,提出了一种基于贝叶斯分类器集成的增量学习方法.综合朴素贝叶斯的增量分类和集成的增量学习方法,采用随机属性选择训练初始SBC(simple Bayesian classifiers),通过判断是否带有类别标签,将增量样本自动分组,并利用遗传算法对结果进行优化.实验结果表明,贝叶斯分类器集成的增量学习方法有效.     

相容的贝叶斯学习及其后验分布的渐近正态性

从计算学习理论的角度研究贝叶斯学习的相容性和后验分布的渐近正态性,给出了贝叶斯学习的正则条件,证明了在这些条件下贝叶斯学习不仅是相容的,而且后验分布是渐近正态的．由于正态分布计算相对简单,该结果为指派恰当有效的先验分布、寻找简化贝叶斯学习计算的方法提供了理论依据,给出的正则条件比Heyde与Johnstone的5个条件更为简化,便于应用．     

基于马尔可夫毯的贝叶斯网络结构学习算法

贝叶斯网络图结构的自动学习是机器学习中的一个挑战,针对传统算法学习效率低、难于去除冗余边及确定结构中边的方向等问题,提出了一种基于马尔可夫毯的贝叶斯网络结构学习算法.该算法改进了经典的马尔可夫毯学习算法,使之减少条件独立检验次数,并在后续确定有向结构方面更适应贝叶斯网络结构学习,同时给出了两种有向边方向确定的一般性解决方案,有效提高了学习算法的学习效率.最后建立了基于贝叶斯网络的互联云QoE评价模型,并进行了仿真实验,结果表明改进后的学习算法在预测准确率、学习效率上均优于传统算法.     

基于条件独立性测试的贝叶斯网结构学习改进算法

针对基于条件独立性测试贝叶斯网结构学习算法在删除完全图边时的不足,提出加入对节点x和y的互信息测试的改进算法,不但能充分考虑到D-分离原理中存在的3种图型结构,使学习到的网络结构更接近于解,而且还从一定程度上减少了三角团的存在,从而也将低了确定边方向时出现环路的概率.并通过实验证明改进算法是有效、可行的.     

基于局部优化具有连续变量的贝叶斯网络结构学习

概述了具有连续变量的贝叶斯网络结构学习存在的主要问题,给出了基于局部优化的具有连续变量的贝叶斯网络结构学习方法.通过构造局部最优回归模式、局部回归模式的条件组合及环路处理,建立了具有连续变量的贝叶斯网络结构,既可以避免复杂的结构打分运算及结构空间搜索,同时又不会出现由于离散化而导致过多的信息丢失及假依赖现象.