基于对比学习的半监督肝脏血管分割方法

针对肝脏血管分割方法通常依赖高质量有标签数据训练模型及现存对比学习方法过度关注局部信息而忽略全局信息的问题,提出一种基于全局和局部对比学习的半监督肝脏血管分割方法．本方法首先以Mean Teacher模型作为框架,对编码器输出高维特征进行全局对比,捕捉特征全局一致性,获取更丰富全局上下文信息;然后对解码器输出进行局部对比,获取语义分割中的局部像素级特征;最后引入分布差异最小化方法,通过使用判别器进行对抗训练,减少有标签和无标签数据之间的分布差异,提升模型的泛化性能．实验结果表明：本方法在肝脏血管分割任务上取得了显著的效果,在3Dircadb数据集上的Dice系数、Jaccard系数、平均表面距离(ASD)和95%豪斯多夫距离(95HD)分别为74.36%,59.73%,2.65 mm和13.57 mm,优于其他半监督方法．     

基于PPYOLOE的师生互助训练半监督目标检测网络

随着深度学习技术的发展,基于卷积神经网络的目标检测技术成为当前计算机视觉领域的研究热点之一.目前主流的目标检测算法依赖于监督学习方式,需要在大量有标注图像数据上训练网络,然而,无标签的数据易于获取,而有标签的数据收集起来通常很困难,标注也耗时和耗力．为了解决数据标注难以获取的问题,提出了教师学生互助训练的半监督目标检测(PPYOLOE-SSOD)算法．首先,同时训练一个学生模型和逐渐改进的教师模型,使用教师模型筛选高质量伪标签,将伪标签作为未标注图像的回归目标,指导学生模型训练,挖掘未标注图像的知识信息,为了减小参数传递的不稳定性,每次迭代学生模型使用指数移动平均方法更新教师模型参数;此外,引入不同种类的半监督数据增强方法来增强网络的抗干扰能力;最后,针对无标注数据的学习,新增无监督学习分支,使用密集学习方式对模型预测得到的特征进行处理,通过对教师模型预测的分类特征排序,自动选择高质量特征作为教师模型生成的伪标签,从而避免了繁琐的伪标签后处理,提升网络的精度和训练速度．在MSCOCO数据集上,通过使用半监督学习方法,PPYOLOE在1%、5%、10%的标注数据集上分别得到了1.4%、1...     

三维点云室内场景的语义实例联合分割网络

针对点云分割网络无法在复杂的室内场景中实现高精度分割的问题,本文设计了一种基于深度学习的语义实例联合分割网络,同时完成三维点云数据的语义分割和实例分割任务,主要包含多任务学习主干网络、特征融合模块和语义实例特征联合模块等。特征融合模块通过跳跃连接融合多个网络层,分别融合2个任务各自不同级别的特征,加强网络对数据中包含的信息的整合,并选取大型室内场景数据集S3DIS和部件分割数据集ShapeNet进行对比实验。实验结果显示,网络在数据集S3DIS的语义分割的总体准确率为86.5%,在数据集ShapeNet的语义分割类别交并比为83.1%,在数据集S3DIS的实例分割的平均精度为60.8%。语义实例特征联合模块通过多任务级的特征联合增加语义和实例的判别特征,提高了点云的语义分割和实例分割的准确率。     

基于不确定性度量的半监督语义分割方法

基于深度学习算法的预测通常被盲目地认为是准确的,而这种劣势在半监督学习中更为明显.为了解决这个问题,本文引入了一种简单但有效的正则化方法,即不确定性交叉伪监督.该方法通过不同的参数初始化对双学生网络施加了一致性约束,并将一个学生输出的独热分割图用作伪标签来监督另一个学生.同时独热分割图之间的詹森 香农距离用来估计伪标签的不确定性.此外,本文还提出了一种不确定损失用于降低拥有高不确定性的伪标签所带来的损失项权重.实验结果表明,本文方法实现了最先进的半监督语义分割性能.     

基于密度自适应深度网络的点云场景语义分割算法

由于传感器噪声干扰，点云密度不均匀，场景复杂多样以及物体之间存在遮挡现象等问题，使得三维点云场景语义分割问题的研究工作极具挑战性。针对三维点云数据采样密度不均匀以及图卷积网络深度有限的问题，提出一种密度自适应的方法。该方法通过多层感知器学习一个权重函数，利用核密度估计学习一个密度函数，对非均匀采样的点云数据进行卷积操作。同时，受深度学习在图像领域的启发，引入残差连接、空洞卷积等结构，训练更深层的点云分割网络。该算法在多个点云分割的标准数据集上取得了优秀的性能。     

基于点云语义分割算法的下颌角截骨面设计

下颌角截骨手术是近年来较为热门的颅面整形手术.现阶段,下颌角截骨的术前方案设计通常由具有一定年资的医生完成,过程繁琐且耗时较长.为了提高截骨手术术前规划效率,提出一种基于点云语义分割网络的下颌角截骨面设计方法.对颅骨电子计算机断层扫描(CT)数据进行三维重建和表面点采样,将下颌骨三维模型转换为点云数据,然后通过基于Transformer的点云语义分割网络预测下颌骨点云中的截骨区域,最后根据点云分割结果计算出下颌角截骨平面.所提网络主要包括两个部分：一是基于注意力机制的本地特征提取层,用于提取细粒度局部结构信息;二是基于Transformer的非本地特征提取层,用于提取点云的全局上下文信息.在构建的下颌骨语义分割数据集上,将所提算法与其他点云语义分割算法进行比较.结果表明：所提算法能实现最佳的下颌角截骨区域预测,优于目前常见的点云语义分割算法.     

基于自监督学习方法的半监督视频目标分割研究

本文主要研究自监督学习方法在视频目标分割中的应用。首先通过挖掘大规模无标注视频数据中的时间-空间关系,让神经网络作为特征编码器学习视频帧之间的相似性和连续性;然后通过记忆力机制训练网络,使其对当前帧和多个参考帧之间的关系进行建模;利用特征编码器学习到的特征对视频帧中的分割目标进行重建,进行下游的视频目标分割任务;最后,利用在线自适应模块对视频分割结果的错误进行修正。实验结果表明,本文的自监督方法在视频分割任务上的表现可以更加接近有监督方法的分割结果,采用记忆力机制和在线自适应模块可以大大提高视频目标分割的准确性。另外本文探究了数据有效性,当采用少量数据进行网络的自监督训练时,模型仍能取得较好的效果,意味着这个任务本身不需要大规模数据集中富含的复杂语义信息进行建模。     

基于对比学习的暴力检测算法研究

针对现有暴力检测模型实际部署中存在数据标注成本高,提出基于对比学习的半监督模型训练框架,利用对比学习训练模型的表征能力,对比样本采用基于速度和基于全局和局部对比生成方式,对比框架在大量正负样本对比基础上增加正例样本间对比数量,同时利用伪标注对模型进行微调。实验结果显示,对比学习能够帮助模型在RWF2000和RVLS 5%训练数据下提升了3.9%,2.55%准确率,微调阶段能在RWF2000 25%训练数据下帮助模型进一步提升约3%准确率。     

一种由粗至精的RGB-D室内场景语义分割方法

为了标注室内场景中可见物体,提出一种基于RGB-D数据由粗至精的室内场景语义分割方法.首先,利用分层显著度导引的简单线性迭代聚类过分割和鲁棒多模态区域特征,构建面向语义类别的超像素区域池,基于随机决策森林分类器判决各个超像素区域的语义类别,实现粗粒度区域级语义标签推断.然后,为了改善粗粒度级的语义标签,利用几何深度导引和内部反馈机制改进像素级稠密全连接条件随机场模型,以求精细粒度像素级语义标注.最后,在粗、细粒度语义标注之间引入全局递归式反馈,渐进式迭代更新室内场景的语义类别标签.2个公开的RGBD室内场景数据集上的实验结果表明,与其他方法相比,所提出的语义分割方法无论在主观还是客观评估上,均具有较好的效果.     

基于模糊度的半监督自步协同下的微信流业务识别

网络数据流的精准业务识别是实现差异化服务的先决条件,常用的监督学习在构建训练数据集时因需要大量人力标注因而难以实施,基于少量标注数据的半监督学习成为研究的热点之一.自步协同训练(self-paced co-training)的半监督框架在处理未标记数据时采用了从易到难、多视角协同的方法,但该方法仅以置信度为选取依据给样本标记伪标签,容易导致多视角的差异性在训练过程中逐步下降,从而引起协同增益下降、模型性能受限等问题.为此面向微信数据流识别问题,提出了一种基于模糊度的自步协同训练模型(fuzziness based self-paced co-training, FBSpaCo),在标注伪标签时进一步引入模糊度评估机制.实验表明,该模型在保证置信度的前提下有效地避免了训练过程中两视角差异性下降,较已有方法较大地提升了识别准确度.     

POWERLINE-ALS:一种用于输电线路场景深度学习语义分割的机载LiDAR点云数据集

为实现基于深度学习的输电线路点云精确语义分割,必须建立能够准确反映目标类别特征的点云数据集。但现有数据集无法满足输电线路场景点云语义分割的需要。因此,基于机载LiDAR获取的某地区500 kV超高压输电线路巡检点云数据构建了一套深度学习数据集——POWERLINE-ALS。该数据集包含地线、导线、杆塔、植被、建筑、低矮电力线等6个类别,输电线路长21 km。同时,利用PointNet++、PointCNN、KPConv、SPG、RandLA-Net等5种常用深度学习模型对数据集进行了训练和测试。模型实验结果表明,POWERLINE-ALS能够在目前主流的深度学习模型上应用,具有普适性,其最高测试精度和平均交并比分别达95.31%和82.25%,可以满足实际点云数据语义分割工作的精度要求。     

涡轮逆向工程的三维扫描检测技术

为提高涡轮的三维扫描检测技术水平,采用三维扫描的相位测量技术获取涡轮增压器三维点云数据.利用三维点云数据重构涡轮检测模型,并应用GEOMAGIC QUALIFY软件对其进行3D误差分析和尺寸标注.实验结果表明：涡轮70％左右的数据点云与实物模型之间的偏差在-0.2～0.2mm之间,能够满足涡轮检测质量要求.     

基于部分标注数据集的血管内超声图像深度学习分割（英文）

由于各医学图像分割任务的差异性，通常在单独的数据集上进行神经网络的训练，而跨数据集的共享信息可提高各项任务的表现。本文旨在提出一种部分监督的语义分割方法在由两个数据集合并的部分标注数据集上进行血管内超声影像(IVUS)的冠脉结构分割，即：使用多标签语义分割来解决数据集标注不一致的问题，并提出了一种具有类再平衡策略的非对称双分支网络来提高分割性能。本文提出的方法取得了比全监督方法更好地分割性能；并且分割结果与参考标准在管腔面积(r=0.99;P<0.001)、中膜面积(r=0.99;P<0.001)和斑块负荷(r=0.95;P<0.001)也取得了强相关性及优秀的一致性；此外，本文方法有效地利用了标注不一致的部分标注数据集，缓解了IVUS影像分割中“数据饥饿”的问题。     

不确定性视角下的弱监督学习

大数据时代为机器智能化提供了更丰富的数据信息和更全面的学习依据。但由于获取精准的高质量数据标签信息需要花费大量的人力和物力,学习过程中能够高效利用的带标签数据依然很有限。大量的未标注样本或低质量的标注样本所包含的信息存在较大的不确定性。弱监督是指监督信息具有不确定性,弱监督学习则是监督信号的不确定性形式化后训练和推理的范式。该文从不确定性建模的视角分析了弱监督学习的问题描述和相应的解决方法,综述了部分弱监督学习范式与不确定性建模之间的关系。     

一种改进变换网络的域自适应语义分割网络

语义标签的人工标注成本高,耗时长,基于域自适应的非监督语义分割是非常必要的.针对间隙大的场景或像素易限制模型训练、降低语义分割精度的问题,通过分阶段训练和可解释蒙版消除大间隙图片和像素的干扰,提出了一种改进变换网络的域自适应语义分割网络(DA-SSN).首先,针对部分源图到目标图的域间隙大、网络模型训练困难的问题,利用训练损失阈值划分大间隙的源图数据集,提出一种分阶段的变换网络训练策略,在保证小间隙源图的语义对齐基础上,提高了大间隙源图的变换质量.然后,为了进一步缩小源图中部分像素与目标图域间间隙,提出一种可解释蒙版.通过预测每个像素在源图域和目标图域之间的间隙缩小置信度,忽略对应像素的训练损失,以消除大间隙像素对其他像素语义对齐的影响,使得模型训练只关注高置信度像素的域间隙.结果表明,所提算法相比于原始的域自适应语义分割网络的分割精度更高.与其他流行算法的结果相比,所提方法获得了更高质量的语义对齐,表明了所提方法精度高的优势.     

结合预训练和自训练的法律信息抽取增强式方法

在“智慧法院”的建设中，法律信息抽取是法律人工智能任务中最基本的任务。目前，法律信息抽取方法主要基于深度神经网络的监督学习模型。由于现有的监督学习模型需要大量的标签数据，而人工标注的方式会提高法律信息抽取任务的成本，存在只有少样本情况下模型学习性能较差的问题。针对上述问题，提出一种结合预训练和自训练的法律信息抽取增强式方法。首先，利用大规模预训练模型和标签数据训练出一个教师模型；然后，利用改进的文本相似度计算公式从法律文书库中寻找出与训练集相似的无标签法律文本数据，再结合训练完成的教师模型对其生成伪标签数据；最后，将有标签数据和伪标签数据混合起来重新训练出一个学生模型用于下游的法律信息抽取任务。本文在2021法研杯提供的信息抽取数据集上进行验证。与基线模型进行对比，本文提出的结合预训练和自训练的法律信息抽取增强式方法取得了较好的抽取效果。     

结合位置关系卷积与深度残差网络的三维点云识别与分割

针对现有点云识别与分割算法因忽视点的位置特征和局部几何特征关系而导致难以捕获具有鉴别力的局部几何信息的问题,提出基于位置关系深度残差神经网络的三维点云识别与分割算法。将原始点云嵌入到高维空间并获取其高维特征;将点云的高维特征输入位置关系卷积实现局部邻域内当前点特征与位置几何特征的信息交流,并通过深度残差模块强化提取到的深层语义特征,分层重复以上步骤可逐步得到点云的高级上下文语义特征;通过全连接层与解码器,得到点云的识别与分割结果。实验结果表明,所提算法在ModelNet40点云分类数据集的识别精度达到了93.9%,在ShapeNet Part点云部件语义分割数据集的平均交并比达到了86.0%。所提算法能够提取三维点云的关键特征信息,具有较好的三维点云识别与分割能力。     

基于点云数据的分割方法综述

点云是一种能够完整表达场景信息的重要数据格式。近年来,对于点云的探索引起了越来越多研究人员的关注,并且迅速在计算机视觉、自动驾驶和机器人等许多领域得到了广泛应用。但是,由于点云独特的数据形式,使用深度神经网络处理点云时面临着独特挑战,因此基于点云的深度学习方法仍处于起步阶段。最近,利用点云处理分割任务出现了许多优秀的方法。为了激发未来对点云研究的深入发展,本文对点云深度学习方法的最新进展进行回顾,涵盖了三个主要任务,包括点云语义分割、点云实例分割以及常用的三维图像数据集,对其中处理点云的深度学习经典方法展开对比分析,提供多种方法在不同数据集上的比较结果,并且提出了一些观点和未来研究方向。     

基于伪标签和迁移学习的双关语识别方法

针对双关语样本短缺问题,研究提出了基于伪标签和迁移学习的双关语识别模型(pun detection based on Pseudo-label and transfer learning)。该模型利用上下文语义、音素向量和注意力机制生成伪标签;然后,迁移学习和置信度结合挑选可用的伪标签;最后,将伪标签数据和真实数据混合到网络中进行训练,重复伪标签标记和混合训练过程。一定程度上解决了双关语样本量少且获取困难的问题。使用该模型在SemEval 2017 shared task 7以及Pun of the Day数据集上进行双关语检测实验,结果表明模型性能均优于现有主流双关语识别方法。     

基于特征扰动的半监督专家发现方法

专家可为社区问答提供权威的答复,高效精准的专家发现有助于提升问答社区的服务质量.现有社区用户数据中存在噪声标签数据,且由于专家数量较少造成分类数据不平衡,从而降低了监督学习模型的专家发现精度.针对上述问题,本文提出一种基于特征扰动的半监督专家发现方法.该方法构建了一种无标签数据特征扰动策略,利用Sharpening算法实现无标签数据的伪标签化;基于ADASYN算法,通过构建专家用户邻近样本的方式扩充专家样本数据量,缓解分类数据的不平衡;构建联合损失函数,利用有标签和伪标签数据共同训练分类器,增强模型的泛化性能.实验结果表明,该方法在多个评价指标上优于已有模型和方法.