基于注意力机制归纳网络的小样本关系抽取模型

针对小样本关系抽取问题,提出一种基于注意力机制的归纳网络.首先,利用归纳网络中的动态路由算法学习类别表示;其次,提出实例级别的注意力机制,用于调整支持集,并获取支持集与查询集样本之间的高级信息,进而获得与查询实例更相关的支持集样本.该模型很好地解决了训练数据不足时如何进行关系抽取的问题.在小样本关系抽取数据集FewRel上进行实验,得到的实验结果为：5-way 5-shot情形下准确率为(88.38±0.27)%,5-way 10-shot情形下准确率为(89.91±0.33)%, 10-way 5-shot情形下准确率为(77.92±0.44)%, 10-way 10-shot情形下准确率为(81.21±0.39)%.实验结果表明,该模型能适应任务并且优于其他对比模型,在小样本关系抽取中取得了优于对比模型的结果.     

基于多角度学生子注意力网络的小样本学习

小样本图像分类的准确性取决于神经网络模型对样本数据提取图像表征的能力,为了挖掘出图像更多的细节信息,提出了一种基于多角度学生子注意力网络的小样本分类方法。首先将Conv64所提取的特征作为网络的基础特征,其次构建两个学生分支,使网络从图像位置和通道角度来提取图像的细节信息,最后融入互学习思想,促使两个学生子分支相互监督,相互学习,利用两个学生子分支网络分别对小样本任务进行分类。文中在Mini-ImageNet和Tiered-ImageNet两个数据集上验证了多角度学生子注意力网络有效性,在Mini-ImageNet数据集上,该方法5-way 1-shot准确率为56.54%,5-way 5-shot准确率为73.87%。在Tiered-ImageNet数据集上,该方法5-way 1-shot及5-way 5-shot准确率分别上升到59.62%及77.96%。实验结果表明,相较于只使用单一角度的注意力网络,基于多角度学生子注意力能够更加关注图像的全局信息,显著提高了小样本图像分类的准确性。     

基于MAML方法的佤语孤立词分类

深度神经网络模型直接用于识别有限的佤语语音很容易陷入过拟合的窘境.而元学习善于解决小样本因数据不足导致的过拟合学习问题,利用平摊机制将以往经验应用于新任务学习能够有效减少对目标数据集的要求.选用原始的与模型无关的元学习(MAML)和近似一阶MAML梯度更新的Reptile对佤语语谱图进行识别研究.基于两组对比实验结果表明,元学习具有快速学习能力,并且能显著提高网络的收敛能力和泛化能力.在相同的实验设置条件下,MAML和Reptile对5-way 1-shot的实验准确率分别达到74.5%和61.6%,对5-way 5-shot的识别准确率分别达到94.5%和93.6%.     

基于二阶统计量的小样本学习算法研究

为了提高小样本学习的准确率和抗干扰能力,提出了一种基于二阶统计量的小样本学习模型,以CNN最后一层卷积输出的一阶特征向量为输入,通过计算协方差矩阵和二阶池化获得具有较高区分度的二阶统计量,采用奇异值(SVD)分解将二阶特征映射到低维仿射子空间并据此分类.本算法在Omniglot和minilmageNet数据集上进行了测试,实验结果表明,在minilmageNet上的5-way 5-shot模型准确率达到了73.6％,比Prototypical Networks高出5.4％,在Omniglot上的20-way 1-shot模型准确率则获得了2.4％的提升,本算法性能优于Prototypical Networks等算法.在异常值测试中,本算法也展现出比Matching Networks和Prototypical Networks算法更强的鲁棒性.     

基于特征融合注意力的小样本语义分割算法

针对小样本语义分割任务中对查询图片的信息利用不充分的问题，提出一种基于特征融合注意力的小样本语义分割算法。首先，利用共享主干网络编码支持图片和查询图片，从而获取图片的深度特征；然后，利用注意力机制获取支持特征和查询特征的强关联语义信息，从而构造任务注意力特征图；最后，提出一种多特征注意力融合模块，它能够自适应融合多种特征的深层语义信息并进行特征解码，从而获取目标物体的分割掩码。在PASCAL-5ⁱ和COCO-20ⁱ公开数据集进行了实验，结果表明，所提出模型比当前主流的小样本语义分割模型在1-way 1-shot和1-way 5-shot任务中分割得更加精准，尤其是在更具有挑战性的COCO-20ⁱ数据集上，所提出模型在1-shot的设定下达到了28.8%的mIoU和62.1%的FB-IoU,在5-shot设定下达到了36.9%的mIoU和64.8%的FB-IoU。     

基于原型网络的小样本脑电伪迹检测方法

正常脑电信号由于容易受到多种脑电伪迹的干扰而导致信噪比低，为了提高脑电信号的信噪比，使用一种基于度量的小样本学习模型来检测脑电信号中的伪迹，提出了一种基于原型网络的脑电伪迹识别模型(EEG Artifact Prototype Network，EAPNet)。该模型能够学习一个从EEG特征到目标空间的非线性映射，然后计算每个类原型表示的距离，并按此距离进行分类; 仅需较少数量的数据样本进行训练，就能实现对伪迹的准确识别。最后，在公开的脑电伪迹数据集TUAR(TUH EEG Artifact Corpus)中进行了伪迹识别实验，并将EAPNet模型与2个深度学习模型(EEGNet、全连接神经网络(FNN))及7个机器学习模型(高斯贝叶斯模型(Gaussian NB)、随机森林模型(RF)、逻辑回归模型(LR)、套索回归模型(Lasso)、支持向量机模型(SVM)、岭回归模型(Ridge)和最近邻算法(KNN))进行了对比实验。实验结果显示:(1)EAPNet模型是一种高效的伪迹检测方法:在2-way 1-shot、2-way 5-shot、2-way 10-shot任务中，模型的检测准确率分别为69.44%、77.21%、80.01%。(2)在所有对比模型中，EAPNet模型的识别准确率最高。     

集间两级语义互补的小样本语义分割

现有的小样本语义分割模型通常只提取单一级别的语义特征,然而由于小样本数据的样本量少、各级语义特征具有不同属性等原因,提取单一级别语义特征的网络模型很难在保证分割能力的同时兼具泛化性.针对该问题,提出了一种集间两级语义互补的小样本语义分割方法 .该方法使用具有强类别特征的支持集高级语义特征对具备泛化性的查询集中级语义特征加权,在增强查询集各目标类别特征的同时保留查询集中级语义特征的泛化能力;另外,该模型通过最大化支持集潜在语义信息、为查询集构建非参数学习的先验信息等方式增强两集信息之间的交互性以获得更丰富的判别信息.该方法在PASCAL-5i数据集上进行仿真实验,mIoU值在1-shot和5-shot两类设置上分别能达到45.3%和48.8%,其结果超越部分先进主流的小样本语义分割算法,且网络模型的参数量也控制在可以接受的范围之内.     

基于改进AlexNet的可变形卷积皮肤病变识别算法

为了有效解决类间相似度高、类内差异化大、数据类别不平衡的皮肤病变识别,提出了基于改进AlexNet的可变形卷积网络皮肤病变识别算法. 构建改进的AlexNet可变形卷积网络模型,增加采样偏移量,使不同位置的卷积核采样点可根据图像内容自适应变化,自动调整不同尺度或感受野,提取比标准卷积更精细的特征. 使用交叉熵损失函数和焦点损失函数的加权损失函数,削弱易分类样本在训练中所占的权重,使模型专注于相似度高、易错分的样本,解决样本比例不平衡的问题,优化模型的识别率. 在HAM10000数据集上进行仿真实验,主客观的实验结果表明, 提出的方法在7种皮肤病变上的识别优于现有方法,具有更高的准确性、特异性和鲁棒性.      

基于卷积神经网络的肺野分割和肺炎筛查

由于X光胸片影像受到各类组织阴影及病灶的影响,目前肺野分割算法的结果往往存在空洞或者边缘不光滑等问题。针对此类问题,该文提出了一种基于多尺度卷积和特征金字塔的肺野分割网络,此网络利用多尺度卷积模块和多尺度特征融合模块提取和融合多尺度特征,在JSRT数据集上PA和Dice指标分别达到98.76%和97.94%,在Montgomery数据集上PA和Dice指标分别达到了98.96%和97.85%。该文将肺野分割网络进一步应用到肺炎筛查任务中,提出了一种基于肺野分割的数据增强方法,该方法通过分别“擦除”左右肺部的随机区域增加了样本的多样性,从而提高了肺炎分类任务的准确率。实验表明,这种数据增强方法可以将新冠肺炎检出率至少提高2.2%。     

基于迁移学习的危险行为识别方法研究

深度学习中卷积神经网络在行为识别领域有着良好的识别效果,但是由于深度学习需要较大数据集训练模型,而现今公开数据集中危险行为识别相关方向没有大量数据集。针对危险行为识别领域样本少、无法进行深度学习训练等问题,建立了危险行为识别数据集,并采用迁移学习方法对C3D网络模型进行迁移训练。结果表明,迁移学习后C3D网络模型对危险行为识别数据集平均识别率达到了83. 2%,可以有效识别危险行为动作。