基于弱监督对比学习的弱多标记特征选择

多标记特征选择已被广泛应用于医疗诊断、模式识别等领域,然而现实中的数据往往存在维数灾难以及标记大量缺失等问题,现有的弱多标记特征选择算法又普遍易受缺失标记和噪声的干扰,使算法模型难以准确地选择重要特征．针对上述问题,提出一种用于弱多标记数据集特征选择的弱监督对比学习方法,旨在缺失和含噪声标记数据集中选择优质特征,同时挖掘少量人工标注数据中潜在的类间对比模式．该方法包括三个步骤：首先,设计一种弱监督预训练策略,通过利用实例相似性以及稀疏学习方法获取每个类标记类属属性,用于恢复缺失标记;其次,引入对比学习策略来捕获少量有标记数据的对比模式来削弱噪声数据的影响;最后,选取10组多标记数据集以及四个评价指标进行实验.实验结果证明,与多个先进多标记特征选择算法相比,提出的方法分类性能更优．     

基于深度学习的白光-热成像双通道图像识别系统设计

为解决无人机图像自动识别系统对大视场角下小目标的识别准确率及实时性问题,利用深度学习卷积神经网络对热成像-白光联合图像进行目标识别。设计了一种针对具有温度特征的目标物识别系统以及双通道目标候选提名图像识别算法。充分利用热成像图中目标热源特征的HSV值,将目标物从热成像图中进行筛选、分割。通过Canny算子勾勒目标物轮廓,并标记出目标物大致区域,导入白光图像提取含有目标物的有效图像信息。利用YOLO V2算法对候选图像内目标物进行识别。通过实验表明,提出的双通道目标候选提名图像识别算法具有可行性与实用性,能够在大视场环境下对小目标进行精准快速识别,满足无人机机载系统简易、实时和准确性要求。     

基于弱监督的VGG深度学习网络遥感影像云检测

大多遥感影像云检测方法中,训练数据需要对影像的每个像素进行标记,标记成本非常昂贵,为了减轻深度学习遥感影像云检测中人工劳动标记数据的成本,图像块标签代替像素标签进行深度学习训练。首先,将多种下垫面的遥感影像裁剪成图像块并标记,带有标签的图像块作为数据集;其次,块状的数据集训练改进VGG深度学习网络,训练好的网络对大型遥感影像进行云检测;最后,选取多种中分辨率卫星图像分别用改进VGG与VGG网络进行了云检测对比实验。结果表明：改进VGG遥感影像云检测方法能很好地检测出碎云和厚云,整个云区的精度都在90%以上。使用带标签的图像块,不仅减少了人工劳动,而且有效地进行遥感影像云检测,可为弱监督深度学习的遥感影像相关研究提供参考。     

不确定性视角下的弱监督学习

大数据时代为机器智能化提供了更丰富的数据信息和更全面的学习依据。但由于获取精准的高质量数据标签信息需要花费大量的人力和物力,学习过程中能够高效利用的带标签数据依然很有限。大量的未标注样本或低质量的标注样本所包含的信息存在较大的不确定性。弱监督是指监督信息具有不确定性,弱监督学习则是监督信号的不确定性形式化后训练和推理的范式。该文从不确定性建模的视角分析了弱监督学习的问题描述和相应的解决方法,综述了部分弱监督学习范式与不确定性建模之间的关系。     

基于深度学习的障碍物检测与深度估计

提出了一种针对交通场景的基于深度学习的障碍物检测与深度估计方法。该方法对现有的YOLOv3模型进行改进,使用DenseNet网络代替原网络尺度较小的传输层,得到一种新的障碍物检测模型Dense-YOLO。然后采用立体匹配模型PSMNet得到双目图像的视差图,根据双目测距原理对被测目标深度进行估计。在KITTI数据集和实际交通场景中的实验结果表明,与YOLOv3模型相比,Dense-YOLO模型有效地提高了交通场景中障碍物检测的可靠性和正确率,对轿车、行人、骑行者和卡车这4类障碍物检测的平均精确率（average precision, AP）提高了3%～5%,平均精确率均值（mean average precision, mAP）提高了约4%。障碍物深度估计结果与真实值的平均相对误差约为3%。     

一种基于深度学习的中文文本特征提取与分类方法

提出了一种基于卷积循环神经网络的文本特征提取方法,同时对比使用统计学中的TF-IDF以及Word2vec方法的文本特征表示,将提取的特征分别放入SVM与随机森林分类器中对来源于中国知网的中文学术论文数据集进行分类。实验结果表明,使用卷积神经网络和卷积循环神经网络特征提取模型提取的特征所取得的分类效果比TF-IDF、Word2vec特征提取方法得到的分类效果更好,同时使用SVM和随机森林分类器取得的分类效果略好于原生的神经网络。     

基于深度学习模型的图像质量评价方法

为了有效提取与视觉感知质量高度相关的图像特征,改进图像质量评价方法,在深度学习的框架下,提出一个全新的卷积神经网络IQF-CNN结构,能自动学习判别性更强的图像质量特征,并利用学习的特征进行图像质量评价.同时,该算法采用局部亮度系数归一化、dropout等技术进一步提高网络学习能力.实验结果表明:该算法能较准确地评估五种常用的图像失真,尤其在JPEG压缩、JPEG2000压缩和高斯模糊图像失真上与人眼主观感知质量具有很高的一致性,整体性能比较优于其他经典评价方法.     

基于特征迁移和深度学习的配电网故障定位

故障诊断对电力系统的稳定运行至关重要。当配电网的拓扑结构发生较大变化时,难以获取大量带有标签的暂态数据,导致传统的故障预测模型精度难以提高。针对此问题,提出一种将特征迁移和深度学习相结合的配电网故障诊断新方法。首先,采集配电网不同线路的零序电流构造故障特征集;其次,引入加权半监督迁移成分分析(semi-supervised transfer component analysis, SSTCA)方法,利用混合核函数将不同拓扑结构下的特征样本映射到同一特征空间中,缩小数据间的分布差异性;最后,将映射后的源域样本输入卷积神经网络中进行分类训练,并测试映射后的目标域样本。通过Simulink仿真表明,在改变配电网拓扑结构的新场景下,所提的特征迁移方法与其他方法相比,对目标域故障定位精度最高,达到98%以上。     

基于改进的卷积神经网络的工件识别技术

针对传统的工件识别流程是由人工根据工件的特点设计需要提取的特征,整个过程具有耗时高、成本大、通用性较差和识别准确率不高等问题,改进了经典的卷积神经网络模型AlexNet和LeNet-5,通过将AlexNet网络的输入图像尺寸缩小到120×120,用BN层代替LRN层,减少两层卷积和全连接层,用3×3的卷积核代替第一层卷积层11×11的卷积核;将LeNet-5的输入图像尺寸提升至60×60,用ReLU取代原始Sigmoid激活函数,使用多个小卷积核代替大卷积核;分别使用改进前后的网络模型对工件数据集进行训练、测试.结果表明,改进后的两种网络模型,在测试集上分别达到94.31%和92.75%的平均识别准确率,平均识别时间分别为0.271s和0.321 s,满足生产需求.     

基于深度学习的无线电信号分类

对无线电信号分类的相关技术进行了研究,提出一种新的基于残差神经网络和群卷积神经网络的深度学习网络来实现无线电的分类.该神经网络基于同相分量信号和正交分量信号组成的样本进行训练,实验结果显示,在10 dB时对24种信号的分类准确率达到了95.69％,揭示了该网络架构的有效性与实用性.     

基于深度学习的眼底图像出血点检测方法

提出了一种基于卷积神经网络(convolutional neural networks,CNN)加条件随机场(conditional random fields,CRF)的眼底图像出血点检测方法。首先,为了避免图像背景区域对后续检测的影响,参考眼底图像中的灰度信息并根据眼底中心位置到其边缘的长度,将图像调整到合适的尺寸,再对图像进行线性加权增强其亮度和对比度;然后,用裁剪到的图像块在仿照VGG网络构建的CNN架构上去训练检测出血点的CNN模型;最后,为了克服CNN模型在出血点检测中误检、漏检等问题,采用CRF对CNN模型输出的概率图进行后处理,以实现眼底图像出血点的精确检测。提出的检测方法在公开的Kaggle与Messidor数据库上进行训练和验证,获得了98.8%的准确率、99.4%的召回率和99.1%的F-score。另外,在DIARETDB1数据库上测试的灵敏度达到98.5%,F-score为96.1%。实验结果表明,从图像视觉和定量检测2个方面均说明了提出方法的有效性和优越性。     

基于多分支CNN和多尺度特征融合的非受控人脸年龄估计

现有的人脸年龄估计不能很好地兼顾全局-局部细节的特征表达,因而非受控人脸年龄估计的精度存在一定的提升空间。为解决此问题,提出了一种基于多分支卷积神经网络(convolutional neural networks,CNN)和多尺度特征融合的非受控人脸年龄估计方法。该方法根据人脸关键点对人脸图片剪裁得到包含人脸的全局图像和分别包含眼睛、鼻子、嘴巴的局部图像;使用多分支CNN网络提取对应的深层全局特征和局部特征,使用多尺度特征融合网络探索局部特征间的相关性信息从而进行局部特征选择;将融合的局部特征与全局特征拼接得到兼顾全局-局部细节的年龄特征;使用softmax损失函数优化模型进行人脸年龄估计。根据MORPH Album2、FG-NET、LAP2016人脸年龄数据集上的实验结果表明,提出的方法是有效的。     

基于卷积神经网络的语义同时定位以及地图构建方法

环境感知技术是智能车功能实现的前提,而在感知的基础上提高智能车对环境的认知能力是实现全自动驾驶的关键。本文针对室外交通场景,基于卷积神经网络提出了一种新的智能车同时定位以及语义地图构建方法,对智能车进行定位,并且构建稠密的3D语义地图,提高智能车的环境感知、认知能力。首先,基于双目ORB-SLAM提出了一种四线程的双目SLAM（Simultaneous Localization and Mapping）方法构建稠密的3D点云地图,四线程分别为追踪线程,局部地图构建线程,回环检测线程以及稠密地图构建线程;其次,为提高智能车的环境认知能力,使用端对端的方法对图像进行语义分割,并且为提高语义分割精确率,将环境的几何信息也作为卷积神经网络输入;最后,将感知的能力与认知的能力相结合构建语义地图,为智能车实现全自动驾驶奠定基础。本文将算法在KITTI数据集上进行测试,整体算法速度为10帧/秒,语义分割的全局精确率为73.1%,构建的语义地图显示本文提出算法能够在大规模室外场景下重构全局一致性地图,并且帮助智能车实现对环境的解析。     

基于卷积神经网络的宽带合作频谱感知

利用认知无线电网络中的多个次用户所能提供的大量频谱观测数据,提出一种基于卷积神经网络(convolutional neural network, CNN)的宽带合作频谱感知方案。宽带频谱感知旨在灵活地检测跟踪目标宽带授权频段上的可供使用的频谱空穴,该方案考虑利用宽带频谱上被占用的子带与未被占用的子带之间在信号能量及占用位置方面所体现出的类别差异,通过设计一种CNN模型并基于此对频谱观测数据进行训练学习,得到频带占用模式分类模型,从而实现宽带合作频谱感知。仿真结果证明,与传统的基于能量检测技术和典型机器学习(machine learning, ML)分类算法的宽带合作频谱感知方案相比,该方案在检测性能上具有较大的优势,特别是在低信噪比环境下的检测性能。     

Research on internet traffic classification techniques using supervised machine learning

Internet traffic classification is vital to the areas of network operation and management. Traditional classification methods such as port mapping and payload analysis are becoming increasingly difficult as newly emerged applications (e.g. Peer-to-Peer) using dynamic port numbers, masquerading techniques and encryption to avoid detection. This paper presents a machine learning (ML) based traffic classification scheme, which offers solutions to a variety of network activities and provides a platform of performance evaluation for the classifiers. The impact of dataset size, feature selection, number of application types and ML algorithm selection on classification performance is analyzed and demonstrated by the following experiments: (1) The genetic algorithm based feature selection can dramatically reduce the cost without diminishing classification accuracy. (2) The chosen ML algorithms can achieve high classification accuracy. Particularly, REPTree and C45 outperform the other ML algorithms when computational complexity and accuracy are both taken into account. (3) Larger dataset and fewer application types would result in better classification accuracy. Finally, early detection with only several initial packets is proposed for real-time network activity and it is proved to be feasible according to the preliminary results.     

基于深度学习的医学图像配准研究进展

图像配准是图像引导手术、图像融合、器官图谱生成、肿瘤和骨骼生长监测等临床任务应用的关键技术,也是一个极具挑战性的问题。近年来,深度学习技术对医学图像处理方法的研究产生重要的影响,在医学图像配准领域发展迅速。对使用深度学习技术实现医学图像配准的研究进行综述,首先按照深度学习模型将医学图像配准方法分为3类,包括监督、弱监督和无监督医学图像配准;然后分别介绍国内外研究进展,并总结这些研究方法的优缺点;在此基础上,阐述常用的深度学习配准框架以及评价标准,并总结常用的开源医学影像数据集;最后对深度学习技术在医学配准图像领域中存在的问题进行分析,展望未来发展的方向。     

一种改进的深度网络残差学习的图像降噪方法

近年来,基于深度卷积神经网络的学习方法在图像降噪方面取得了前所未有的成果,通过调整网络结构和参数来获取更好的图像降噪效果已成为研究热点.降噪卷积神经网络在深度神经网络中采用残差学习方法,在提高降噪效果的同时,在一定程度上解决了盲降噪问题.其不足之处在于算法收敛时间长.该文针对降噪卷积神经网络结构做了进一步的改进,提出了一种基于反卷积降噪神经网络的图像降噪算法.该文工作的主要特色如下：1) 在原有的网络结构中,引入反卷积神经网络,优化了残差学习方式;2) 提出一种新的损失函数计算方法.使用BSD68和SET12测试数据集对本文提出的方法进行验证,实验结果表明,该文算法的降噪性能与降噪卷积神经网络算法相比,在相同降噪效果情形下,该文算法的收敛时间缩短了120%～138%.同时,与传统的深度学习图像降噪算法比较,该文方法的降噪效果和运行效率也都有提高.     

基于深度学习的多模态气管插管智能目标检测

针对困难气道气管插管过程中内窥镜图像视角较小、目标尺度变化大、相互遮挡等问题,融合内窥镜图像和CO₂浓度信息,提出基于深度学习的多模态气管插管智能目标检测算法。首先,对传统的YOLOv3网络进行改进,利用不同扩张率的空洞卷积构建并行多分支空洞卷积模块,并对输出特征进行上采样和张量拼接;其次,根据多路CO₂浓度差异,利用矢量化定位算法定位目标中心位置,校正YOLOv3得到的边界框的中心坐标,提升小目标检测的精度,辅助气道位置的定位;最后,基于该算法,研发了新型多模态气管插管辅助装置初代样机,并在模拟气道中进行实验,验证其可行性。在模拟气道中,该新型辅助装置的操作时间中位数为15.5 s,操作成功率可达97.3%。研究结果表明,基于深度学习的多模态气管插管智能目标检测算法能够有效地辅助气管插管操作。