基于信息论和免疫遗传算法学习贝叶斯网络结构

提出一种新的实现贝叶斯网络(BN)结构学习的方法,即由信息论和免疫遗传算法相结合构造最优贝叶斯网络结构.首先,通过信息论迅速搜索较为可能的网络空间,构造一个候选网络,然后用免疫遗传算法进行网络精简,得到一个最优的网络结构.不仅可降低计算复杂度,提高贝叶斯网络结构学习的效率,而且避免了传统启发式算法易陷入局部最优解的问题.实例计算证明了其可行性.     

爬山法与模式蚁群法混合的贝叶斯优化算法

针对传统贝叶斯优化算法进化效率低及收敛速度慢的情况,提出一种新型混合贝叶斯优化算法.该算法利用适应度遗传及个体的局部搜索方法,使种群个体趋向于全局最优解,提高了进化效率.为提高贝叶斯优化算法中贝叶斯网络结构学习的效率,提出一种爬山法和模式蚁群算法相结合的网络结构学习方法,同时对新型贝叶斯优化算法的收敛性进行了分析.利用典型的函数对提出的新型混合贝叶斯优化算法进行了仿真分析,证明了所提出的方法可以有效地加快算法的收敛速度和收敛精度.将该算法应用于目标分配问题中,仿真证明了所提算法的有效性和优越性.     

用于预测的贝叶斯网络

通过示例给出了贝叶斯网络的构造方法，概括了贝叶斯网络的特点及贝叶斯网络学习的内容与过程，同时给出了离散型贝叶斯网络的预测公式。贝叶斯网络学习主要有三个基本环节，其一是确定变量集和变量域；其二是确定贝叶斯网络结构；其三是确定局部概率分布。贝叶斯网络是描述变量之间定性与定量依赖关系的图形模式，是进行数据联合分析与预测的有力工具。     

基于混合改进鸟群算法的贝叶斯网络结构学习

针对贝叶斯网络结构学习中寻优效率低下、易陷入局部最优的缺陷,提出了一种基于混合改进鸟群算法的贝叶斯网络结构学习算法.首先,通过互信息约束算法迭代初始网络;其次,改进鸟群算法,在经典鸟群算法中加入自适应惯性权重,随着迭代次数的增加动态调整搜索空间、改变收敛速度;最后,将改进的鸟群算法作为搜索策略,进行贝叶斯网络结构寻优.实验结果表明:改进的算法在寻优过程中不仅有较好的准确率和较快的收敛速度,而且具有良好的全局寻优能力.     

基于马尔可夫毯的贝叶斯网络结构学习算法

贝叶斯网络图结构的自动学习是机器学习中的一个挑战,针对传统算法学习效率低、难于去除冗余边及确定结构中边的方向等问题,提出了一种基于马尔可夫毯的贝叶斯网络结构学习算法.该算法改进了经典的马尔可夫毯学习算法,使之减少条件独立检验次数,并在后续确定有向结构方面更适应贝叶斯网络结构学习,同时给出了两种有向边方向确定的一般性解决方案,有效提高了学习算法的学习效率.最后建立了基于贝叶斯网络的互联云QoE评价模型,并进行了仿真实验,结果表明改进后的学习算法在预测准确率、学习效率上均优于传统算法.     

基于MMPC-FPSO 贝叶斯网络混合结构学习方法

针对贝叶斯网络结构学习的过程中网络结构规模随节点数增加呈指数增长,导致网络结构搜索空间增大,进而导致网络结构学习算法效率低下的问题,提出一种基于最大最小父子集合约束与萤火虫粒子群搜索算法的贝叶斯网络混合结构学习方法。首先,针对粒子群算法在解决贝叶斯网络结构学习过程中,随机初始化网络结构种群导致算法搜索效率低下,网络结构准确性低的问题提出一种基于改进的最大最小父子集合算法的种群约束方法。其次,针对传统的基于粒子群评分搜索方法速度慢,精度低,易陷入局部最优的问题,提出一种基于萤火虫算子的粒子寻优策略。最后,为了验证所提方法的正确性和优越性,将上述方法用于3种标准网络的结构学习。仿真结果表明:所提算法与传统的基于粒子群的结构学习方法相比,所得的贝叶斯信息准则评分与标准网络评分的差距分别缩小了68.7%、65.5%、34.1%。     

改进进化算法的贝叶斯网络结构学习及其应用

针对现有的基于进化算法(EA)的贝叶斯网络结构学习算法存在收敛速度慢、局部搜索能力差以及种群数目难以确定的问题,提出了一种基于改进EA的贝叶斯网络结构学习算法.借助最大支撑树(MWST)得到种群中节点的父节点数目上限,设计了计算函数来估计参与进化的种群数目.为了提高算法的局部搜索能力,设计了个体变异函数来增加种群多样性.利用条件独立性获得初始结构来进一步限制模型搜索空间,提高算法的运行效率.实验结果表明:与经典的EA和最大最小爬山(MMHC)算法对比,本文提出的MWST-EA提高了贝叶斯网络(BN)模型的学习效率,并且能够得到较高的准确率.将MWST-EA用于UCI数据库中糖尿病数据集上,与支持向量机(SVM)、MMHC方法相比,识别率分别提高了1.54％和11.15％,具有良好的应用价值.     

一种具有缺失数据的贝叶斯网络结构学习方法

在数据缺失的情况下,文章建立的贝叶斯网络结构学习方法BC-ISOR基于界定折叠方法进行变量集联合概率的估计,基于依赖分析的基本思想进行贝叶斯网络的结构学习。该方法的概率估计与数据的缺失率无关,并有效降低了条件独立性检验的次数和阶数,因而具有良好的学习效率并能避免陷入局部最优;针对Asia网络的实验结果表明,该方法比经典方法SEM具有更好地时效性和精确性。     

基于预测能力的贝叶斯网络结构学习

给出了变量之间预测能力的概念及估计方法,证明了预测能力就是预测正确率.在此基础上建立了基于预测能力的贝叶斯网络结构学习方法,并使用模拟数据进行了实验.实验结果显示该算法能够有效地进行贝叶斯网络结构学习.     

一种快速收敛的改进贝叶斯优化算法

针对贝叶斯优化算法(BOA)中学习贝叶斯网络结构时间复杂度较高的问题,提出了一种可以快速收敛的基于K2的贝叶斯优化算法(K2-BOA).为了提升收敛速度,在学习贝叶斯网络结构的步骤中进行了2处改进:首先,随机生成n个变量的拓扑排序,加大了算法的随机性;其次,在排序的基础上利用K2算法学习贝叶斯网络结构,减少了整个算法的时间复杂度.针对3个标准Benchmark函数的仿真实验表明:采用K2-BOA算法和BOA算法解决简单分解函数问题时,寻找到最优值的适应度函数评价次数几乎相同,但是每次迭代K2-BOA算法运行速度提升明显;当解决比较复杂的6阶双极欺骗函数问题时,K2-BOA算法无论是运行时间还是适应度函数评价次数,都远小于BOA算法.     

Prediction of the Charpy V-notch impact energy of low carbon steel using a shallow neural network and deep learning

The impact energy prediction model of low carbon steel was investigated based on industrial data. A three-layer neural network, extreme learning machine, and deep neural network were compared with different activation functions, structure parameters, and training functions. Bayesian optimization was used to determine the optimal hyper-parameters of the deep neural network. The model with the best performance was applied to investigate the importance of process parameter variables on the impact energy of low carbon steel. The results show that the deep neural network obtains better prediction results than those of a shallow neural network because of the multiple hidden layers improving the learning ability of the model. Among the models, the Bayesian optimization deep neural network achieves the highest correlation coefficient of 0.9536, the lowest mean absolute relative error of 0.0843, and the lowest root mean square error of 17.34 J for predicting the impact energy of low carbon steel. Among the variables, the main factors affecting the impact energy of low carbon steel with a final thickness of7.5 mm are the thickness of the original slab, the thickness of intermediate slab, and the rough rolling exit temperature from the specific hot rolling production line.     

学习贝叶斯网络结构的混合粒子群算法

 针对直接使用粒子群算法进行结构学习效率较低的缺陷,基于无约束优化,提出一种贝叶斯网络结构学习的混合粒子群算法。该算法首先构造并求解一无约束优化问题,其最优解对应的无向图中的边可为结构学习提供一搜索范围,缩小粒子群算法的搜索空间,然后在缩小的空间中完成对贝叶斯网络的结构学习,从而提高了粒子群算法的学习效率。仿真试验结果表明,该混合粒子群算法可以快速、准确地学习到最优贝叶斯网络结构。     

以核心变量为基础的离散贝叶斯网络结构学习

建立了基于核心变量的离散贝叶斯网络结构学习方法.该方法根据变量之间的无条件相对预测能力建立有向无环图,分别按着变量的聚度和散度排序变量;以不同于被预测变量的具有最大聚度和散度的两个变量为条件变量,根据变量之间条件相对预测能力的大小确定弧的存在性与方向,结合环路检验建立初始贝叶斯网络结构;以两个变量的最小切割集为条件变量集,调整初始贝叶斯网络结构(包括删除多余的弧和重新确定弧的方向),最终建立数据中所蕴涵的贝叶斯网络结构.同时,使用模拟数据进行了对比实验,结果表明这是一种有效实用的方法.     

基于蜂群算法和遗传算法的贝叶斯网络结构混合学习方法

变量之间的关系对解释数据具有重要作用,而贝叶斯网络恰恰是表示变量之间关系的重要工具.针对贝叶斯网络结构学习问题,基于蜂群算法(ABC)和遗传算法(GA),提出一个新的混合型算法(ABC-GA).由于ABC-GA融合了ABC算法和GA算法的长处,所以可以弥补单独使用任一算法的缺陷.数值试验结果表明:ABCGA算法具有较高的计算效率和计算精度.     

基因调控网络的父节点筛选贝叶斯建模方法

在构建基因调控网络的方法中,贝叶斯网络模型可以直观地表达基因间的调控关系,但在结构学习时的复杂度极高,使得网络建模效率较低且规模有限.因此,本文提出一种基于父节点筛选的贝叶斯网络(parent node screening based Bayesian network, PS-BN)建模方法.PS-BN方法将关联模型与贝叶斯网络模型相结合,在充分利用贝叶斯网络模型结构学习搜索策略的前提下,先基于父节点筛选方法去除部分冗余信息,以达到缩减搜索空间的目的.实验结果表明,与传统的贝叶斯网络模型方法相比,PS-BN方法极大提升了基因调控网络构建效率,同时准确率有所提高.     

Bayes网络学习及其在文本检测中的应用研究

针对大规模Bayes网络的条件概率赋值问题,提出一种学习方法．首先使用类层次结构定义一种新的层次Bayes网络模型,用于表示大规模Bayes网络．然后将训练数据集由单个数据表的形式转化成多表数据库,其中每个数据库表对应1个Bayes网络模块．在此基础上导出条件概率计算公式,从每个数据库表中算出相应的Bayes网络模块的条件概率表,由此实现对整个层次Bayes网络的概率赋值．可通过适当增加数据库表的数目来控制每个表中属性的个数,保证计算的可行性．最后将本层次Bayes网络及计算公式用于解决图像中文本的自动检测与定位问题,实验结果表明了它们的有效性．