融合零样本学习和小样本学习的弱监督学习方法综述

深度学习模型严重依赖于大量人工标注的数据,使得其在数据缺乏的特殊领域内应用严重受限。面对数据缺乏等现实挑战,很多学者针对数据依赖小的弱监督学习方法开展研究,出现了小样本学习、零样本学习等典型研究方向。对此,本文主要介绍了弱监督学习方法条件下的小样本学习和零样本学习,包括问题定义、当前主流方法以及实验设计方案,并对典型模型的分类性能进行对比。然后,给出零-小样本学习的问题描述,总结研究现状和实验设计,并对比典型方法的性能。最后,基于当前研究中出现的问题对未来研究方向进行展望,包括多种弱监督学习方法的融合与理论基础的探究,以及在其他领域的应用。     

基于粗糙集与神经网络的电力负荷新型预测模型

针对电力系统多因素负荷预测问题的复杂性,融合粗糙集方法与神经网络方法各自的优势,提出一种新型的负荷预测模型——粗糙集径向基函数神经网络模型(RSRBFN).运用粗糙集方法和信息熵概念,在不改变样本分类质量的条件下约简负荷影响因素,简化了网络输入变量.通过消去冗余信息,提炼学习样本,获得典型样本.用典型样本约简隐含层神经元和训练网络,并将网络连接权值学习的非线性极值问题转化为线性规划问题,使网络结构得到优化,提高径向基神经网络的计算效率和预测精度,增强实用性.数值实验结果说明RSRBFN模型是可行、有效、实用的.     

融合零样本学习和小样本学习的弱监督学习方法综述

深度学习模型严重依赖于大量人工标注的数据，使得其在数据缺乏的特殊领域内应用严重受限。面对数据缺乏等现实挑战，很多学者针对数据依赖小的弱监督学习方法开展研究，出现了小样本学习、零样本学习等典型研究方向。对此，本文主要介绍了弱监督学习方法条件下的小样本学习和零样本学习，包括问题定义、当前主流方法以及实验设计方案，并对典型模型的分类性能进行对比。然后，给出零-小样本学习的问题描述，总结研究现状和实验设计，并对比典型方法的性能。最后，基于当前研究中出现的问题对未来研究方向进行展望，包括多种弱监督学习方法的融合与理论基础的探究，以及在其他领域的应用。     

基于生成对抗神经网络的雷达遥感数据增广方法

在雷达探测领域,数据样本无论在完备性还是多样性上,均不能满足深度学习模型有效训练的要求,模型极易出现过拟合现象,从而限制了相关技术在雷达探测领域的广泛应用.面向雷达探测领域的智能化应用需求,针对雷达数据样本不足问题,提出基于生成对抗神经网络的微波成像体制雷达数据增广方法.针对雷达数据样本特征不显著问题,结合标签平滑正则...     

多属性决策的支持向量机方法

为获取和表达决策者的偏好,实现对决策方案的选择,提出了基于支持向量机的多属性决策方法.首先,分析了多属性决策支持向量机方法的原理.其次,提出了基于属性效用函数估计的学习样本构造方法,从决策问题本身抽取学习样本.最后给出了一个算例.     

用于离散变量因果分析的贝叶斯网络学习

针对现有基于贝叶斯网络离散变量因果分析方法具有低效率和局限性等问题.使用依赖分析方法建立贝叶斯网络骨架,结合碰撞识别方法、变量之间的预测能力和描述长度极小准则确定边的因果方向,进行具有多项式复杂度的离散变量因果贝叶斯网络学习来避免这些问题,并给出了因果贝叶斯网络中定量因果信息传递计算方法.同时,针对小样本情况建立了因果最大似然树学习方法.     

基于模糊支持向量机的小批量生产质量智能预测方法

在分析比较目前常用的智能工序预测技术及其特点的基础上,提出一种适合小批量生产过程的质量智能预测模型,并给出了相应的预测过程和算法.由于该模型中以模糊支持向量机(FLS-SVM)技术为智能核心,一方面较好的解决小样本学习问题,避免了人工神经网络等智能方法在对小批量生产过程质量进行预测时所表示出的过学习、泛化能力弱等缺点.另一方面,通过隶属度函数对样本进行模糊化,达到样本优化选择,实现历史数据“重近轻远”的预测效果.通过对具体加工过程的预测实验,并与其它几种常见预测方法效果进行对比,说明本文方法实现容易,建模速度快,小样本的泛化能力强,为实现小批量加工过程的在线质量预测与控制提供可行的思路.     

基于SVM 的柔性生产模式下生产过程质量智能预测

提出了一种基于支持向量机(SVM)的柔性生产模式下生产过程质量智能预测方法.该方法基于结构风险最小化, 能较好地解决小样本学习问题,避免了人工神经网络等智能方法在训练时所表现出来的过学习、泛化能力弱等缺点.实验表明: 该方法具有预测精度高、速度快、容易实现等优点,为柔性生产模式下的生产过程质量预测提供了一种切实有效的方法.     

基于预聚类主动半监督的作战体系效能评估

针对作战仿真实验中体系效能通常依靠专家评估、评估代价较大的问题,提出一种基于预聚类主动半监督学习的作战体系效能评估方法。明确了使用该方法进行作战体系效能评估的基本流程,以及自顶向下的评估模式和二值化的评估标准。重点构建了预聚类主动半监督学习算法,首先,结合作战仿真实验数据的特点,对未评估样本进行预聚类,选择最有价值的样本供专家标注;然后,使用已标注的样本训练主动学习算法和半监督学习算法的公用学习器;最后,利用主动学习算法挑选价值较高的样本交由专家评估,并利用新样本对学习器进行不断更新。作战仿真实验数据表明,该方法在达到预期评估准确度的同时降低了评估代价,能有效应用于大规模作战仿真实验的体系效能评估。     

一种基于QBC的SVM主动学习算法

针对支持向量机(souport vector machine,SVM)训练学习过程中样本分布不均衡、难以获得大量带有类标注样本的问题,提出一种基于委员会投票选择(query by committee,QBC)的SVM主动学习算法QBC-ASVM,将改进的QBC主动学习方法与加权SVM方法有机地结合应用于SVM训练学习中,通过改进的QBC主动学习,主动选择那些对当前SVM分类器最有价值的样本进行标注,在SVM主动学习中应用改进的加权SVM,减少了样本分布不均衡对SVM主动学习性能的影响,实验结果表明在保证不影响分类精度的情况下,所提出的算法需要标记的样本数量大大少于随机采样法需要标记的样本数量,降低了学习的样本标记代价,提高了SVM泛化性能而且训练速度同样有所提高。     

BP神经网络应用中的前后处理过程研究

在 BP网络的应用过程中 ,采用数理统计中的一些技巧 ,用主成分分析法作为前处理过程进行样本集的选择与优化 ,用回归分析和相关性分析的方法作为后处理过程之一对训练结果进行分析 ,用置信区间分析的方法作为另一种后处理过程对输出结果的可信度进行预测 .这几种处理过程可以作为 BP神经网络应用研究的一个必要的补充.     

模糊推理神经网络的函数逼近能力

研究了模糊推理神经网络计算模型及其连续函数逼近能力。同时给出了模糊推理神经网络与传统BP神经网络的连续函数逼近等价定理 ,即任何一个传统的BP网络都存在某个模糊推理神经网络以给定的精度逼近它 ;任何一个模糊推理神经网络都有一个传统的BP网络以任意精度逼近 ,并且这两种网络都可以逼近定义在某一紧支集上的连续函数     

基于改进型BP神经网络的导引头测高性能评估

武器装备性能评估贯穿于装备发展的全寿命过程,对于装备定型与实战化运用具有重要意义。针对传统反向传播(back propagation, BP)神经网络模型易陷入局部最优、武器装备评估数据少等问题,提出了基于数据包络分析和Bootstrap法的改进型BP神经网络模型。利用数据包络分析处理原始指标得到3项优化参数,结合Bootstrap法对其进行扩充,再通过BP神经网络建立评估模型。实验表明,改进模型得到的合成孔径雷达(systemic aperture radar, SAR)导引头测高性能评估结果,其决定系数和误差系数均有明显改善。该模型不仅规避了模糊综合评判法主观性强、精确度不高等问题,同时有效解决了传统BP神经网络模型易陷入局部最优和武器装备评估数据少的两个问题。     

基于PSO-BP的应急通信感知装备效能评价方法

应急通信感知装备效能评价可支撑相关装备的发展规划, 而现有评价方法主观性强, 且自适应能力有待提升。因此, 提出一种基于粒子群优化(particle swarm optimization, PSO)算法的改进反向传播(back propagation, BP)神经网络的应急通信感知装备效能评价方法, 旨在建立客观精准的效能评价。首先面向实战效能构建了三级效能评价指标体系, 然后将样本数据进行主成分分析法降维, 建立BP神经网络回归模型, 并结合PSO算法对模型的连接权值与阈值进行优化, 形成PSO-BP模型以避免局部极小值问题, 获得可评价具体装备效能时的神经网络模型。实例分析表明, PSO-BP相较于BP神经网络模型评价的均方误差减少了28.18%, 表明PSO-BP模型具有更高的准确性。     

根据粗糙集理论进行BP网络设计的研究

提出了一种根据粗糙集理论进行ＢＰ网络设计的方法,它结合了粗糙集理论的强大的定性分析能力和ＢＰ网络的准确的逼近能力,得到一种可理解性好、计算简单、收敛速度快的神经网络模型．这种神经网络的学习算法的要点是：应用粗糙集的理论和方法,从给定学习样本数据中发现一组规则,并根据这些规则去建立网络模型中相应的隐层节点;然后用ＢＰ算法迭代求出网络的参数,从而完成网络的设计.     

基于多个混沌BP网的案例匹配技术研究

描述了混沌BP网的拓扑结构与实现步骤，引入了模拟退火的控制策略，以便在训练后期有效地控制混沌运动．提出一种基于改进的德尔菲法的算法来确定输出样本集，以提高训练质量，得到了预期效果．给出了基于多个混沌BP网的案例匹配技术框架，提高了案例匹配的效率．与最邻近法相比，结果表明该技术对于类似钢铁生产动态调度这样的复杂系统，能够提高案例匹配的精确性，更适于解决案例属性权重难以确定或存在着耦合和复杂的非线性关系的问题．     

神经网络在预测编码中的应用

讨论如何有效地利用backpropagation(BP)神经网络进行预测编码。改进的BP算法可以提高BP神经网络地收敛速度、泛化能力和稳定性。一般而言 ,四层网络比三层网络具有更快地学习速度 ;二阶网络比一阶网络性能更优越。利用MATLAB程序 ,构造三层、四层和二阶BP神经网络进行预测编码。测试结果表明 ,利用规模足够大的三层BP网络进行预测编码可以取得较好效果 ;四层和二阶网络比等价的三层网络可以更有效地进行预测编码     

基于改进BP神经网络的智能控制方法研究

针对典型BP神经网络存在的缺陷提出了一些有效的改进措施。通过采用改进的BP神经网络来对控制规则样本进行学习和训练 ,使网络记忆控制规则 ,以达到智能控制的目的。仿真和实验结果证明 ,该方法具有优良的控制特性 ,能满足伺服电机控制的需要。     

基于BP神经网络的上市公司财务预警模型

为了进行企业财务危机预警方法精度的比较研究,采用BP人工神经网络工具,以120家上市公司的截面财务指标作为建模样本,并使用同期60家公司作为检验样本建立了财务危机预警模型.经过对样本的反复训练和学习,分别取得了建模样本90.8%和检验样本90%的判正率.与我们采用主成分分析法建立的模型对同一建模样本和检验样本的预测精度分别是90%和81.7%相比有很大的提高.研究结果表明:BP神经网络是一种非线性映射模式,在指标间相关度较高、呈非线性变化,或数据缺漏不全等情况下仍可得到比较满意的结果,因此是一种比较理想的预测方法,具有广泛的适用范围和较高的推广价值.     

基于目标运动模型的跟踪方法

针对常用的机动目标模型不能准确描述目标实际运动规律及常用跟踪算法只拟合目标的形心而不是目标轮廓轨迹的问题,提出一种基于目标运动模型的跟踪算法。该算法提取已检测出目标轮廓上的角点作为样本点,采用神经网络来构建目标运动模型,将用此模型预测出的目标轮廓上的点作为主动轮廓线的初始控制点来检测出目标真实轮廓,并反馈回神经网络的输入端来修正模型误差。实验结果表明该跟踪算法能很好地将前续目标检测结果继承到后续的目标检测过程中,对于目标跟踪中的遮挡问题也能很好地解决。