结构化EM算法在小样本贝叶斯网络学习中的应用

在贝叶斯网络学习中,合理数据集的存在可以大大降低贝叶斯网络学习对知识工程的过多依赖.但当数据集中样本数量不够大时,可能没有足够多的样本甚至不存在样本来代表变量间的某些条件独立关系,从而无法学习贝叶斯网络.将数据集修正与结构化-期望最大化算法相结合,得到一种有效的小样本上贝叶斯网络学习的方法,实验结果表明,该方法能够有效地进行小样本上贝叶斯网络学习.     

基于任务特征的一种小样本学习方法

现在机器学习对于数据量的依赖性过强,大量数据意味着高价的成本,如何在少量样本上取得可观的预测准确率非常关键,小样本学习就是基于该问题提出的.本研究基于MAML的模型框架,加入任务嵌入的思想.MAML是目前主流的元学习模型,它有泛化性能好、适应性强的特点.在此基础上,我们可以引入动态的特征嵌入进行调整来适应不同的任务,在输入任务后,通过预测网络中的特征层生成参数来调整任务特征嵌入.在常用的小样本学习公开数据集Omniglot和MiniImagenet上实验证明了提出的方法能够提高学习性能.     

基于距离度量学习的SAR图像识别方法

针对合成孔径雷达（synthetic aperture radar,SAR）图像样本数据有限,且不同类别间的图像区分度不高导致识别困难的问题,提出一种应用于SAR图像识别的距离度量学习方法.该方法使用CNN网络得到图像的特征分布,利用LSTM网络加强图像间的关联性,基于余弦相似距离度量方法计算图像之间的匹配度,通过注意力机制后对结果进行分类.训练过程结合小样本学习的训练方式,采取预训练的策略进行实验.实验以公开的MSTAR数据集进行SAR图像识别,结果表明该方法准确率达到99.3%,比SVM方法提升2.5%.      

基于生成式零样本学习的未知恶意流量分类方法

未知恶意流量是网络安全的重大安全挑战,对未知恶意流量的分类能够增强网络威胁识别能力,指导网络防御策略.未知恶意流量由于缺乏样本,无法满足现有的深度学习方法对大量数据的需要.本文提出了一种基于生成式零样本学习的未知恶意流量分类方法.从原始的网络流量中提取出关键的恶意流量信息并转化为二维图像,提出将恶意流量的属性信息作为辅助语义信息,利用条件生成对抗网络生成类别样本.同时,本文还添加了类级别的对比学习网络,使得生成的类别样本质量更高并且更具有类间区分度.实验结果表明,该方法在未知恶意流量分类问题上平均准确率能够达到90%以上,具有较高的应用价值.     

参数在线学习的动态贝叶斯网络态势估计算法

为快速实现对战场态势的精确估计,提出了参数在线学习的动态贝叶斯网络方法:在基于专家知识确定的动态贝叶斯网络结构模型基础上,用前向递归方法对网络模型的参数进行估计.针对战场态势模型的观测值具有小样本的特性,以狄利克雷分布作为样本的先验分布,采用矩估计法对先验分布的超参数进行估计,以该先验分布的等价样本与观测值实现对网络参数的学习和对战场态势的估计.仿真实验结果表明,应用该方法实现态势估计具有较高的实时性和准确性.     

小样本学习在高分遥感影像分类与识别中的应用

遥感影像分类与识别是近年来深度学习以及图像分类与识别研究的热点,其中一个关键问题是因样本数据集的数据较少而极易出现过拟合。许多图像分类的模型和方法并不完全适用于遥感影像分类,将小样本学习与遥感影像处理结合起来,实现遥感影像数据增强和识别模型优化是一个可行的思路。根据小样本学习的发展现状,针对特征提取、模型分类方法,归纳总结了典型学习方法的原理及其在相关领域的应用; 分析遥感影像处理的现状和存在问题,基于适用场景、优缺点对各方法进行了比较; 通过分析小样本学习在高分遥感影像分类与识别上的应用,发现引入注意力机制和迁移学习后,小样本学习能够用于样本数据量小的遥感影像分类。     

基于稳定学习的图神经网络模型

图神经网络(GNN)在对图样本进行分类工作时效果差强人意,无法发现数据背后真实的功能网络.为提高图神经网络在图分类上的稳定性,提出一种基于稳定学习的图神经网络模型(Stable-GNN).该模型将基于随机傅里叶特征的样本加权采样干预技术与图神经网络结合,尝试在神经网络训练过程中,剔除虚假因果特征,提高模型在图样本分类上的稳定性.实验结果表明,该方法能有效发现真实的关联网络,提高图网络的稳定性.     

基于二阶统计量的小样本学习算法研究

为了提高小样本学习的准确率和抗干扰能力,提出了一种基于二阶统计量的小样本学习模型,以CNN最后一层卷积输出的一阶特征向量为输入,通过计算协方差矩阵和二阶池化获得具有较高区分度的二阶统计量,采用奇异值(SVD)分解将二阶特征映射到低维仿射子空间并据此分类.本算法在Omniglot和minilmageNet数据集上进行了测试,实验结果表明,在minilmageNet上的5-way 5-shot模型准确率达到了73.6％,比Prototypical Networks高出5.4％,在Omniglot上的20-way 1-shot模型准确率则获得了2.4％的提升,本算法性能优于Prototypical Networks等算法.在异常值测试中,本算法也展现出比Matching Networks和Prototypical Networks算法更强的鲁棒性.     

文本分类中的主动多域学习

现有主动学习主要着眼于对单个域训练方法的研究,不同域有不同的特征,同时也存在一些隐含的共性.如何从多个域中选择合适数据样本成为多域学习中减少人工标注工作量的关键.本文提出了一个新颖的主动多域学习框架,该框架充分考虑了重复信息,并可从多个域中选择合适的数据样本.该框架首先找到一个包含不同域间隐含共性的共享子空间,然后将所有数据样本分解为公共域部分和个性域部分,其中公共域部分可视为域间的重复信息,该部分在查询时需要被考虑到.最后,将主动多域学习方法与最新的主动学习方法的性能进行了比对,实验结果表明,本文提出的主动多域学习方法在减少人工标注工作量方面有显著作用.     

基于深度学习的肺结节识别

针对肺结节识别问题,采用分支结构改进直接型VGG16的深度学习网络结构,并使用迁移训练,减少了网络结构复杂度.结果提高了学习效率,降低了方法对硬件资源的要求,增加了其适用性.通过训练多种网络模型,对比模型特点,调整改进的网络结构实现了对小样本的肺结节识别.在LIDC-IDRI数据集上的结果表明:该方法在保持结构简单、降低硬件资源需求的同时,取得较好的肺结节识别效果.     

基于联合学习的少样本多类别情感分类方法

对于多类别的细粒度情感分类任务,目前主流的少样本学习方法不能取得较好的性能。针对这一问题,提出一种基于联合学习的少样本多类别情感分类方法。采用基于替换词检测任务的少样本学习方式,将回归和分类的替换词检测模板以及标签描述词同时添加至输入语句,从而将细粒度情感分类任务同时建模为分类问题和回归问题。在此基础上,设计了不同的融合方法进行联合学习。实验结果表明,与主流少样本学习方法相比,该方法在F1-Score和正确率上都取得更优的结果。     

基于卷积神经网络的猪脸特征点检测方法

针对牲畜面部识别在养殖行业广泛需求的问题, 提出一种基于卷积神经网络的猪脸特征点检测方法, 解决了猪脸特征点难检测的问题. 首先, 采集猪面部数据并进行特征点标注, 使用新的采集方法以解决猪口部通常不可见的问题； 其次, 对猪脸数据和人脸数据进行结构计算, 匹配相似度较高的猪脸和人脸, 构建猪脸人脸匹配数据集； 再次, 利用匹配数据集训练TPS(thin plate spline)形变卷积神经网络, 得到形变后的猪脸数据集以适配人脸特征点检测模型； 最后, 使用形变猪脸数据集对人脸特征点检测神经网络模型进行微调, 得到猪脸特征点检测模型. 实验结果表明, 用该方法进行猪脸特征点检测, 错误率仅为5.60%.     

基于句式元学习的 Twitter 分类

针对多类别的社交媒体短文本分类准确率较低问题, 提出一种学习多种句式的元学习方法, 用于改善Twitter文本分类性能。将Twitter文本聚类为多种句式, 各句式结合原类标签, 成为多样化的新类别, 从而原分类问题转化为较多类别的few-shot学习问题, 并通过训练深层网络来学习句式原型编码。用多个三分类Twitter数据来检验所提Meta-CNN方法 , 结果显示, 该方法的学习策略简单有效, 即便在样本数量不多的情况下, 与传统机器学习分类器和部分深度学习分类方法相比, Meta-CNN仍能获得较好的分类准确率和较高的F1值。     

多标签小样本实例级注意力原型网络分类方法

多标签分类中,一个样本可能属于多个类别,且在小样本场景下模型性能更容易受到样本中复杂语义特征的影响。然而,目前常用的原型网络方法仅使用每类支持集样本的均值作为标签原型,导致原型中存在其他类别特征带来的噪声,弱化了原型间的差异性,影响预测效果。本文提出一种利用实例级注意力的多标签小样本原型网络分类方法,通过提高支持集中与当前标签关联度高的样本的权重,减少其他标签特征的干扰,增大标签原型之间的区分度,进而提高预测的精确率.实验表明,方法通过引入实例级注意力强化了多标签原型网络的学习能力,分类效果明显提升.     

士兵目标的少样本深度学习检测方法

针对敌士兵数据集样本较少的问题,提出一种基于YOLOv3的少样本深度学习目标检测方法.利用数据增广提高少样本目标检测模型的鲁棒性,改进网络结构将浅层网络特征图跨层连接至深层网络,采用k-means聚类获取适合士兵目标特性的锚点框,利用预训练提高模型训练收敛速度.实验结果表明,本文方法对少样本敌士兵目标检测成功率mAP达到85.6%、检测精度IOU达到82.18%,且对小型和遮挡目标检测效果较好;部署在NVIDIA TITAN V GPU计算机和NVIDIA Xavier嵌入式计算平台上的检测速度分别达到54.6和26.8 fps,实时性好.      

特征图自适应知识蒸馏模型

针对嵌入式和移动设备的计算和存储资源受限, 紧凑型网络优化易收敛至较差局部最优解的问题, 提出一个特征图自适应知识蒸馏模型, 其由特征图适配器和特征图自适应知识蒸馏策略构成. 首先, 特征图适配器通过异构卷积与视觉特征表达模块的堆叠实现特征图尺寸匹配、 教师学生网络特征同步变换及自适应语义信息匹配. 其次, 特征图自适应知识蒸馏策略将适配器嵌入教师网络对其进行重构, 并在训练过程中实现适合用于学生网络隐藏层监督特征的自适应搜索; 利用适配器前部输出提示学生网络前部训练, 实现教师到学生网络的知识迁移, 并在学习率约束条件下进一步优化. 最后, 在图像分类任务数据集cifar-10上进行实验验证, 结果表明, 特征图自适应知识蒸馏模型分类正确率提高0.6%, 推断损失降低65%, 并将收敛至78.2%正确率的时间减少至未迁移时的5.6%.     

基于元学习的小样本调制识别算法

针对基于深度学习的调制识别算法对带标签样本需求量过大的问题,采用基于元学习思想的多任务训练策略,通过大量不同的任务训练网络来获取一种跨任务的信号识别能力,使得网络在面对新信号类别时仅需少量样本就能快速适应。为更全面地提取信号样本的特征,设计了一种由卷积神经网络和长短时记忆网络并联组成的混合特征并行网络,通过度量样本特征向量间距离的方式完成识别任务;并引入可同时考虑信号类内与类间距离的联合损失函数,以使信号样本特征在度量空间内的分布能更加紧凑,从而实现更高效的相似性比对。实验结果表明,该算法在仅有5个带标签信号样本条件下最高可达到88.43%的识别准确率。     

一种元卷积网络和持续学习融合的洞库类目标识别方法

洞库类目标是高价值识别目标,针对洞库类目标样本数据难以获得、样本内部数据相似度较高、人工设计识别特征方法局限性较大、普通深度网络需要海量数据等问题,提出了结合元学习和深度卷积网络的元-卷积网络（MCNN）,并融合持续学习理论的洞库类目标识别方法（MCNN-LLS）.首先结合深度卷积网络、元学习的理论建立元-卷积网络,该网络可利用旧知识指导新知识的训练,利用小样本数据即可训练得到识别能力较高的深度洞库模型;然后融合持续学习理论,建立持续学习系统（LLS）,设计专家审核模型判别深度洞库模型的识别结果,并引入潜在任务、模型异步更新等方法,达到模型持续学习、持续更新的效果.实验表明,本文方法所需样本数量少,对洞库类目标识别准确率高,且识别能力可随识别过程中新数据的积累逐步提高.