Auto Byte

专注未来出行及智能汽车科技

微信扫一扫获取更多资讯

Science AI

关注人工智能与其他前沿技术、基础学科的交叉研究与融合发展

微信扫一扫获取更多资讯

更好也更快!最先进的图像去模糊算法DeblurGAN-v2

以GAN为代表的生成模型正在视觉造假的路上越来越成熟,狗变猫、白马变斑马、实景变素描是GAN用于高级图像生成的例证。


能否将GAN应用于低级的图像处理呢?比如图像去模糊。


答案是肯定的。将GAN用于图像去模糊,生成器用于生成清晰图像,鉴别器区分真实且清晰图像与造假或模糊图像。


DeblurGAN (CVPR 2018)是这一方向新出算法中的佼佼者。


昨日公布的ICCV 2019 论文 DeblurGAN-v2: Deblurring (Orders-of-Magnitude) Faster and Better,原作者对其再升级,改进了生成器的网络结构与鉴别器,且使得算法可以方便使用现有成熟的骨干网,不仅提升了去模糊后图像的质量,同时可以轻易设计计算代价小的模型。实现了更好也更快!


该文作者信息:



由论文标题知,DeblurGAN-v2在速度上获得了数量级的提升。


下图展示了该文描述的DeblurGAN-v2使用不同骨干网获得的三个模型在GoPro数据集上与其他三个SOTA去模糊算法比较结果。



可见,使用SSIM为度量标准,DeblurGAN-v2的三个模型计算代价都较低,在使用复杂度高的inception网络时,DeblurGAN-v2可取得最好的去模糊效果,而使用轻量级网络,在FLOPs大幅度下降情况下,SSIM结果仍处于SOTA水平。


因为效果好计算代价小,将 DeblurGAN-v2用于视频去模糊也是可行的!


算法改进


下图展示了该文作者对算法的改进:



在生成器部分作者引入了特征金字塔网络,不同于使用图像金字塔,这种特征重用的结构可大幅降低计算时间和模型size。


且这种结构允许方便的使用不同的CNN骨干网,是一种计算量可伸缩的结果。


另外,在鉴别器部分,作者设计了新的损失函数

另外,不仅保留DeblurGAN中PatchGAN鉴别器,对图像Patch进行鉴别,还引入了全局鉴别器(如架构图的右侧部分),称此为双尺度鉴别器(double-scale discriminator)。作者发现这样的改进,可以使得DeblurGAN-v2更好的处理较大的和异质的真实世界模糊。


实验结果


作者在多个图像去模糊数据集上进行了实验。


在几大数据集上客观评价指标结果:



可见DeblurGAN-v2算法既可以获得最高精度的模型,也可以获得精度接近最好但计算量极低的模型,更加实用。


在Lai数据集上的主观评价结果:



在Kohler数据集的去模糊示例:




结论


本文提出的去模糊框架DeblurGAN-v2可以很方便切换骨干网,能够取得目前最好的效果,而计算量却减少几个数量级,非常值得参考。


值得一提的是,DeblurGAN-v2中生成器的网络结构和双尺度鉴别器也同样适用于其他低级图像处理任务,比如图像超分辨。期待也能对相关领域的研究有所启发。


论文地址:https://arxiv.org/pdf/1908.03826v1.pdf


代码地址:https://github.com/TAMU-VITA/DeblurGANv2


我爱计算机视觉
我爱计算机视觉

关注计算机视觉与机器学习技术的最前沿,“有价值有深度”,分享开源技术与最新论文解读,传播计算机视觉与机器学习技术的业内最佳实践。

理论图像分类图像生成计算机视觉
7
相关数据
损失函数技术

在数学优化,统计学,计量经济学,决策理论,机器学习和计算神经科学等领域,损失函数或成本函数是将一或多个变量的一个事件或值映射为可以直观地表示某种与之相关“成本”的实数的函数。

图像生成技术

图像生成(合成)是从现有数据集生成新图像的任务。

图像处理技术

图像处理是指对图像进行分析、加工和处理,使其满足视觉、心理或其他要求的技术。 图像处理是信号处理在图像领域上的一个应用。 目前大多数的图像均是以数字形式存储,因而图像处理很多情况下指数字图像处理。

生成模型技术

在概率统计理论中, 生成模型是指能够随机生成观测数据的模型,尤其是在给定某些隐含参数的条件下。 它给观测值和标注数据序列指定一个联合概率分布。 在机器学习中,生成模型可以用来直接对数据建模(例如根据某个变量的概率密度函数进行数据采样),也可以用来建立变量间的条件概率分布。

推荐文章
暂无评论
暂无评论~