PGGAN笔记(未完待续)

2018-11-27  本文已影响0人  风车哟_

PGGAN笔记

1. Progressive Growing of GANs

image

原始GAN存在的问题:

为解决这个问题,文章提出了渐进增长的训练方式

image

这里的4x4指对相应大小的图片进行操作,输入的latent为512维超球面上的点。生成器先生成大小为4x4的图像,其中Reals是指经过处理的同为4x4的人脸图像,判别器的结构与生成器对称,当输入800k张真实图片后停止训练并保存参数。然后加入下一层,为了防止新加入的层对原网络产生巨大影响,作者提出一种平滑的加入新层的方法

image

图中2x是指用最近邻卷积上采样将图片的长宽翻倍,而0.5x表示用平均池化的方法将图像长宽缩小一倍。α表示新加入层的权重,当α=0时,相当于未加入这一层,当α=1时,就变成了一般的网络结构。α在训练过程中逐渐由小增大直至到1。同第一层当输入800k张真实图片后停止训练并保存参数。因为此时生成网络最后的输出通道数不一定为3,所以需要toRGB将其转换为RGB三通道,具体操作时用1x1的卷积核进行卷积操作,fromRGB恰好相反。

image

作者给出了celebA-HQ的具体网络结构。其中生成器中Conv4x4是kernel_size=4,stride=1,padding=3的卷积操作,Conv3x3是kernel_size=3,stride=1,padding=1的卷积操作,在最后加入一个1x1的卷积操作将其转换为RGB图像。判别器与生成器相对称。

2.小批量标准差增加生成样本多样性

3.Normalization

3.1调节学习速率

改变了传统的很谨慎的初始化权重的方法,用正态分布来进行初始化,然后在运行过程中进行缩放,更具体的说,作者用wi ^^^= wi/c来更新权重,其中wi是权重,c是来自于

4.提出了一种新的评估GAN的方法

上一篇下一篇

猜你喜欢

热点阅读