基于GAN的图像超分辨率重建算法研究

SRGAN是一种基于生成对抗网络的超分辨重建方法,其生成的高分辨率图像质量较传统方法有着明显提升,然而SRGAN存在着训练过程不稳定,图像浅层特征未充分使用等问题,很大程度上影响到了生成图像的质量。本文提出了一种特征增强改进的SRGAN模型,该模型使用信息蒸馏块进行特征纹理信息的增强,并消除图像特征中的冗余信息。此外,使用相对平均鉴别器替代原始SRGAN中的二分类鉴别器,保证了GAN网络训练的稳定性。本文基于4倍放大因子的超分辨重建任务,在BSD100数据集上进行实验结果的质化评价和量化评价。实验表明,本文方法较之SRGAN在训练过程中具有更好的稳定性,生成的图像具有更清晰的细节纹理,取得了更佳的图像超分辨率重建效果。     

面向各向异性3D-MRI图像超分辨率 重建的ESRGAN网络

高分辨率磁共振图像(MRI, magnetic resonance images)能够提高疾病诊断精度,但高分辨率MRI图像的获取十分困难。基于深度学习的图像超分辨率(SR, super resolution)技术可有效地提高图像分辨率。近年来,生成对抗网络(GANs, generative adversarial networks)为3D-MRI图像SR重建提供了新思路。相较于传统的基于深度卷积神经网络(DCNN, deep convolutional neural network)的SR算法,GANs网络以人类视觉机制为目标,且引入判别函数,使重建3D-MRI图像更接近真实图像。研究采用增强超分辨率生成对抗网络(ESRGAN, enhanced super-resolution generative adversarial networks)对3D-MRI图像进行SR重建;并利用3D-MRI图像的跨层面自相似性,将重建任务降维到2D,在保证重建效果的基础上,减少了网络训练时间和内存需求。通过与其他传统算法和基于DCNN算法对比实验表明,提出的算法能够进一步提高3D-MRI图像的视觉...     

基于深度学习的图像超分辨率重建方法综述

图像超分辨率重建(super-resolution, SR)是指从观测到的低分辨率图像重建出相应的高分辨率图像,在目标检测、医学成像和卫星遥感等领域都有着重要的应用价值.近年来,随着深度学习的迅速发展,基于深度学习的图像超分辨率重建方法取得了显著的进步.为了把握目前基于深度学习的图像超分辨率重建方法的发展情况和研究热点,对一些最新的基于深度学习的图像超分辨率重建方法进行了梳理,将它们分为两大类(有监督的和无监督的)分别进行阐述.然后,在公开的数据集上,将主流方法的性能进行了对比分析.最后,对基于深度学习的图像超分辨率重建方法进行了总结,并对其未来的研究趋势进行了展望.     

改进生成对抗网络的图像超分辨率重建算法

超分辨率生成对抗网络(SRGAN)的高分辨率图像质量较传统方法有明显提升,然而其存在训练过程不稳定、图像浅层特征未充分使用等问题,很大程度上影响生成图像的质量.为此,提出一种特征增强改进的SRGAN模型,使用信息蒸馏块.通过对长短途特征在图像通道上的拼接增强特征纹理信息,利用压缩单元消除图像特征中的冗余信息.此外,使用相对平均鉴别器替代原始SRGAN中的二分类鉴别器,保证生成对抗网络训练的稳定性.本研究基于4倍放大因子进行超分辨重建任务,并在BSD100和SET14数据集上进行实验结果的质化和量化评价.实验表明,该方法较之SRGAN在训练过程中具有更好的稳定性,生成的图像具有更清晰的细节纹理,取得了更佳的图像超分辨率重建效果.     

图像超分辨率重建算法比较研究

针对超分辨率重建技术的基本理论以及研究现状给予了综述性研究,对当前的主要算法进行了比较分析.     

基于生成对抗网络的单图像超分辨率重建

针对当前卷积神经网络未能充分利用浅层特征信息, 并难以捕获各特征通道间的依赖关系、 丢失高频信息的问题, 提出一种新的生成对抗网络用于图像超分辨率重建. 首先, 在生成器中引入WDSR-B残差块充分提取浅层特征信息; 其次, 将GCNet模块和像素注意力机制相结合加入到生成器和鉴别器中, 学习各特征通道的重要程度和高频信息; 最后, 采用谱归一化代替不利于图像超分辨率的批规范化, 减少计算开销, 稳定训练. 实验结果表明, 该算法与其他经典算法相比能有效提高浅层特征信息的利用率, 较好地重建出图像的细节信息和几何特征, 提高超分辨率图像的质量.     

基于生成对抗网络与噪声分布的图像超分辨率重建方法

现有的图像超分辨率重建方法都较少考虑真实低分辨率图像中包含的噪声信息,因此会影响图像的重建质量.受真实图像去噪算法的启发,本文引入一个噪声分布收集网络来收集低分辨率图像的噪声分布信息,并采用生成对抗网络的模型设计,提高含噪声图像的重建质量.噪声分布信息会分别输入到超分辨率重建网络和判别网络,在重建过程中去除噪声的同时保证有用高频信息的恢复,另外由于判别网络的能力对整个模型的性能有着重要影响,选择使用 U-Net 网络来获得更好的梯度信息反馈.与经典图像超分辨率重建算法的对比以及消融实验表明,使用噪声收集网络和 U-Net 判别网络后,本文模型在噪声低分辨率图像重建任务中获得了更好的性能.     

多尺度残差生成对抗网络的图像超分辨率重建

针对目前基于深度学习的超分辨率重建图像存在的纹理等高频信息丢失问题,提出了多尺度残差生成对抗网络的图像超分辨率重建算法。首先,使用Dense-Res2Net模块替代SRGAN生成网络中原本的残差模块,并且组合特征压缩与激发网络（SENet）从多个尺度自适应地提取浅层特征信息。其次,引入全变分正则化损失（TV loss）指导生成器训练。最后,使用Wasserstein距离优化对抗损失,提高网络训练稳定性。实验结果表明,该算法重建出的图像在视觉效果上保留了更加丰富的高频细节,与当前主流超分算法相比,该方法不仅有更高的峰值信噪比（PNSR）与结构相似性（SSIM）,且学习感知图像块相似度（LPIPS）的分数上均优其他算法。     

基于流形学习和梯度约束的图像超分辨率重建

将改进的基于流形学习的超分辨率重建与基于梯度约束的正则化重建结合起来,提出一种新的单帧图像超分辨率重建算法.该算法首先针对基于流形学习的超分辨率重建,提出新的特征提取方法,联合归一化亮度与平稳小波变换细节子带系数两个特征矢量,提高重建性能;然后将学习得到的高分辨率图像作为初始估计,将其梯度作为目标梯度域,进行基于梯度约束的正则化重建,得到最终的高分辨率图像.与现有的一些算法相比,文中算法无论在视觉效果还是客观评价上都具有较好的重建性能.     

利用图像掩膜优化基于生成对抗网络的图像超分辨率模型

深度学习在一定程度上解决了从低分辨率图像中恢复出高分辨率图像这一图像超分辨率问题。目前基于生成对抗网络（generative adversarial network,GAN）的方法可以从超分辨率数据集中学习低/高分辨率图像映射关系,从而生成具有真实纹理细节的超分辨率图像。然而,基于GAN的图像超分辨率模型训练通常不稳定,其结果往往带有纹理扭曲和噪声等问题,提出了采用掩膜（mask）模块以辅助对抗网络训练。在网络训练过程中,掩膜模块根据生成网络输出的超分辨率结果和原始高分辨率图像,计算得到相应观感质量信息,并进一步辅助对抗网络训练。在实验中对3个最近提出的基于GAN的图像超分辨率模型进行修改,引入掩膜模块,修改后的模型在超分辨率图像输出的观感和真实感量化指标上均有明显地提升。掩膜模块的优点是可以进一步提升基于GAN的图像超分辨率网络输出的超分辨率图像观感质量,并仅需对生成对抗网络训练框架进行修改,因此适用于多数基于GAN的图像超分辨率模型的进一步优化。     

基于双向循环网络的变色龙视觉超分辨率图像重建

针对使用均方误差（Mean Square Error,MSE）作为目标损失函数,导致重建的超分辨率图像在失真与感知质量上难以兼得的问题,提出基于双向循环网络的变色龙视觉重建模型（Super-resolution Bidirectional Recurrent Neural Network,SRBRNN）以改善重建效果.首先,鉴于变色龙可以同时注视两个不同方向的非凡视觉功能,SRBRNN模型借助双向循环神经网络结合序列演进前向与反向给输出提供不同方向时间信息的思想,实现重建过程中失真与感知质量的兼顾;其次,SRBRNN模型定义了特征演进和退化序列,并设计了低分辨率图像到高分辨率图像演进和高分辨率图像到低分辨率图像退化网络,将演进网络和退化网络对应应用为原双向循环网络的前向循环和反向循环网络;最后,利用双向循环机制重建超分辨率特征.用SRBRNN算法在Set5、Set14、BSD100基准测试集上进行实验,实验结果表明在峰值信噪比(Peak Signal to Noise Ratio,PSNR)和结构相似性(Structural Similarity, SSIM)评估指标及主观质量评分上,...     

超分辨率重建算法综述

超分辨率重建是指由同一场景的低分辨率退化图像,运用相应的算法重建一幅清晰的高分辨率图像。然而,传统的基于插值、基于重建和基于学习的方法已很难获得进一步的突破。近年新兴的过完备稀疏表示是一种新的图像表示模型,它为解决超分辨率重建中的难点问题提供了新的思路。本文通过分析超分辨率技术的以往研究和最新进展,着重讨论了各算法在重构时的优缺点,并对未来超分辨率重建技术进行了展望。     

基于双通道CNN的单幅图像超分辨率重建

卷积神经网络在单幅图像超分辨率重建方面取得了很大的进展,目前的很多方法都选择使用浅层或者深层的卷积神经网络实现图像超分辨率重建。浅层网络结构简单,但容易丢失图像的高频信息,而深层网络可以学习图像的高频纹理特征。本文提出了双通道卷积神经网络。浅层网络负责重建图像的整体轮廓,保留图像的原始信息;深层网络学习图像的高频纹理特征。在深层网络中,使用密集连接的卷积网络,能更有效地恢复图像的高频信息。同时,在两个网络的末端,通过添加额外的卷积层表示融合层,将网络进行融合,重建超分辨率图片。实验结果表明,在大多数情况下,本文模型的重构效果在主观和客观评估中均优于当前代表性的超分辨率重构方法。     

基于多幅图像的超分辨率重建方法分析

图像超分辨率重建是指从一幅或多幅低分辨率、低质量图像中产生高分辨率、高质量图像的数字信号处理技术.本文分析了基于多幅的图像超分辨率重建方法,并讨论了目前基于多幅的图像超分辨率重建有待解决的问题.     

基于信息蒸馏级联伸缩网络的图像超分辨率重建

针对图像超分辨率重建算法在图像高频信息恢复过程中特征提取不充分、利用效率不高、重建高频细节能力不足等问题,本文提出了一种基于信息蒸馏级联伸缩网络的图像超分辨率重建算法.首先,构建特征可伸缩的信息蒸馏块,通过扩大信息蒸馏中输入信息的特征感受野,以及采用通道注意力提取感兴趣信息,解决了信息蒸馏的图像超分辨率重建非线性映射过程中特征提取不充分的问题;然后,设计级联残差叠加映射块,该块将多个残差块组合在一起,通过将残差结构中的残差部分引出并采用级联叠加的方式,增加了信息蒸馏块间信息的传递,使提取的特征信息包含更多细节.实验结果表明,本文算法重建图像相比其他对比算法更为清晰,峰值信噪比（PSNR）和结构相似度（SSIM）均有较大的提升.     

基于局部结构相似与稀疏表示的超分辨率图像重建

稀疏表示在图像超分辨率(super-resolution, SR)重建中表现良好,但是传统的稀疏表示方法独立考虑图像块之间的稀疏性,会导致重建图像损失部分纹理结构。文章提出了一种基于局部结构相似与稀疏表示的SR图像重建算法。该算法利用局部几何结构相似的约束模型和L_1范数正则化的稀疏表示来求解图像块在低分辨率字典下的稀疏表示,以此重建高分辨率图像块。实验结果表明,该算法比传统稀疏表示方法能更好地恢复图像纹理结构,并在重建效果上具有明显的优越性。     

基于流模型的低照度超分辨率重建

将低照度低分辨率图像增强到正常曝光高分辨率图像具有高度的不确定性,即它们之间的映射关系是一对多的.以往基于像素重建图像和确定图像的过程未能捕捉正常曝光图像的复杂条件分布,导致不适当的亮度、残余噪声和伪影.在本文中,通过一个已经提出的标准化流模型来构建这种一对多的关系.一种以低照度图像的特征为条件,学习将正常曝光图像的分布映射为高斯分布的可逆网络模型,这样可以很好地模拟正常曝光图像的条件分布.可逆网络模型的另一个优点是在训练过程中被一个描述正常图像流形结构的损失函数约束.在LOL(Low-light)数据集上的实验结果表明,该方法相比较其他方法,获得了更高峰值信噪比(PSNR),更高结构相似度(SSIM),更少学习感知图像块相似度(LPIPS).     

基于近邻嵌入逐级放大的图像超分辨率重建

针对基于近邻嵌入的图像超分辨率重建,提出带约束的逐级放大策略来提高近邻保持率,改进重建效果,并对各级放大的图像用迭代反向投影约束进行修正,减少学习过程中可能出现的误差,保证每一级的解向着正确的方向演化.此外,为充分利用测试图像本身的信息,将由测试图像得到的在线训练集与由训练图像数据库得到的离线训练集串联,构成联合训练集,进一步改进算法的性能.实验表明,与现有的一些算法相比,文中算法无论在视觉效果还是客观评价上都获得了更好的结果.     

基于SinGAN的岩石薄片图像超分辨率重建

岩石薄片图像对研究石油地质特性以及油气勘探都有重要的意义.由于各种因素的限制,获取到的岩石薄片图像经常会出现分辨率较低的情况,一定程度上限制了研究者对其细节信息的掌握.而一般的神经网络超分辨率算法都需要大量的数据作为训练集,为了提升岩石薄片图像超分辨率重建算法纹理细节信息还原能力,本文利用单图像生成式对抗网络,不需输入...     

多尺度生成对抗网络的图像超分辨率算法

基于神经网络的图像超分辨率方法往往存在重建图像纹理结构模糊、缺失高频信息的问题。为了解决该问题,在SRGAN的基础上提出一种多尺度并联学习的生成对抗网络结构,其中生成模型由两个不同尺度的残差网络块组成,首先对提取的低分辨率图像通过两个子网络的多尺度特征学习,然后使用融合网络进行残差融合,融合不同尺度高频信息,最终生成高分辨图像。在Set5、Set14、BSD100基准数据集以及SpaceNet卫星图像数据集上的实验结果证明了该算法在恢复低分辨率图像的细节纹理信息具有良好效果。