ECCV 2018 Proximal Dehaze-Net:
Abstract
在朦胧的天气拍摄的照片通常覆盖着白色面具,并且经常丢失重要的细节。 在本文中,我们提出了一种新的深度学习方法,通过学习暗通道和传输图先验来实现单图像去雾。 首先,我们使用暗通道和传输图先验建立了一个用于除雾的能量模型,并使用邻近算子设计了这两个先验的迭代优化算法。 其次,我们通过使用卷积神经网络学习邻近算子,将迭代算法展开为深度网络,称为邻近去雾网络。 我们的网络结合了传统的基于先前的去雾方法和深度学习方法的优势,将雾霾相关的先前学习结合到深层网络中。 实验表明,我们的方法达到了单图像去雾的最先进性能。
1.Introduction
去雾模型公式
去雾模型
传统方法:
1.tan 对比度入手
2.Fattal 在假设传输图和清晰图像纹理不相关的时候,使用独立分量的方法估计传输图(看不大懂。。)
3.He 从没雾的图像的三个通道中的最小点接近于0的情况,提出了暗通道方法。
这三种方法都是利用先验或者雾的物理性质,但这些图对于真实情况和在人的观察下表现的不是很好。比如He的方法会把天空背景和雾进行搞混。
深度学习方法:
- Ren 采用了多尺度卷积网络来学习雾图的传输图的特征。由一个由粗到细网络和一个细处理网络
- Cai 提出了端到端
- Li AOD网络 提出了一个K模块把传输图T和大气强度A两个变量融合在一起,避免两个变量的误差
- 还有cvpr18中主要提出的使用gan网络用合成的方式来去雾
然后本文提出这些方法都没有考虑雾的先验,相比传统方法。
在本文中,我们提出了一种新的基于深度学习的方法,该方法将雾霾成像模型约束和图像先验学习集成到单个网络架构中。首先,基于雾霾成像模型,我们将单图像去雾的逆问题表示为能量模型,在颜色和暗通道空间中具有雾霾成像约束,由暗通道和透射先验正则化。其次,我们设计了一种使用半二次分裂的迭代优化算法,共同估计透射图和潜在的无雾图像。第三,我们将这种迭代算法展开为深度结构,称为邻近去雾网络,通过使用卷积神经网络学习相应的邻近算子来隐式地学习传输和暗通道先验。我们通过消融研究证明了学习的暗通道和传输先验的有效性,并且学习的近端dehaze-net导致真实和合成数据集的最新结果。
据我们所知,这是第一个使用CNN学习单个图像去雾的暗通道和传输图T先验的作品。 与传统的基于先验的方法相比,我们的方法可以从训练数据中区别地学习与雾霾相关的先验,而不是使用手工制作的先验。 与基于深度学习的去雾方法相比,我们的方法将雾霾成像约束和雾霾相关先验学习结合到网络体系结构中,这可以提供一种有前途的基于学习的方法来解决具有挑战性的去雾的反问题。
2.Related Work
1.暗通道
暗通道 传输图
- Learning CNNs for image inverse problems
与这些工作相比,我们专注于单图像去雾,这是一个具有挑战性的反问题,在成像模型中有更多的未知变量。 在这些工作中,我们不使用常见的线性逆模型,而是将单个图像去雾指定为具有暗通道和传输图先验的非线性逆问题(将在第3节中讨论)。 然后,我们提出了一个迭代求解器,并构建了一个深层体系结构,其中包含了单个图像去雾的先验学习。 这种提出的能量模型和去雾网络是新颖的,并且学习的网络在单个图像去雾中实现了最先进的结果。
3. Dehazing as An Inverse Problem
在本节中,我们首先构建具有暗通道和透射先验的能量函数,然后基于半二次分裂(HQS)算法提出用于能量最小化的迭代求解器。 这个提出的能量模型及其迭代优化算法是构建我们网络的基础,如第4节所述。
3.1 Dehazing energy model
将方程1分通道表示
使用P,Q表示相应的雾图和潜在清晰图像,公式转化为
圆圈是矩阵的点乘
假设在一个区域内,T为常数,那么下式成立
dk表示暗通道
公式5和6联立,建立能量模型
后面两项是正则项
求解优化模型简写为
优化求解模型
Regularization terms of f and g
正则项通过NN进行学习,不用人工特征
Relationship to DCP method
暗通道是模型的一个特例。。。
3.2 Model optimization
半二次分裂算法在传统方法解决反问题中广泛使用。
引入一个U变量,来逼近潜在清晰图像的暗通道,当gamma值接近于无穷时,方程9等价于方程7,然后初始化后,有了Q,T,U三个变量可以进行固定两个,迭代计算一个,这样迭代计算。
邻近算子
主要能解决这个样子的问题。
迭代U
update U
迭代T 类似迭代U,不重复描述,见原论文
迭代Q
迭代Q
这个方程一看就有最小二乘解的,虽然怎么解早忘了。
因为暗通道是寻找每个像素周围一小块中最小的点,然后引入矩阵D,来统计哪一个是最小的
Q的解
可以通过将向量Qn重新形成和输入图像相同大小的矩阵来导出更新的去雾后图像。
Special case 忽视传输图T的正则项,暗通道正则项设为L1,
这个情况下效果和DCP情况差不多,作为baseline
4.Proximal Dehaze-Net
设计了一个端到端的CNN,用卷积网络学习邻近算子的行为
后面两个字母表示CNN结构
4.1 Network design
(a)网络中有n个stage 表示传统方法中n次迭代
(b)图中 D-NET 表示模型邻近算子的卷积神经网络
D-net模块
T-NET 和GIF-Block表示相应的邻近算子和引导滤波算法
执行了N步,最后用公式19得到Qn。最后去雾图为
A是大气强度
网络结构
D-Net and T-Net:三个级联的卷积块,(conv,relu,pool,上采样层)
卷积核大小分别为3,5,7,最后一层连1个1*1卷积,把维度调成1。最后再连relu或者sigmod
GIF-Block. 见作者提供的材料,待补。。。
5.实验
6.限制
重雾和晚上多光源表现的不好,这两个也是主要问题,之前gan的网络也有这个问题,特别是多光源,深度学习处理的简直是灾难。。。
7.结论
没说什么。。