GAN 生成器很快开始只产生两种颜色

Question

我一直在尝试使用具有随机颜色纯色背景的 2D 视频游戏精灵图像集来训练 GAN。

有一个特殊的问题，我的生成器的输出是仅具有两种颜色的图像。具体来说，这两种颜色的 RGB 值为 1 或 0。这两种颜色在每个时期都是恒定的。如果我使用新的生成器重新启动，它可能是一组新的两种颜色，但在第一个纪元之后，颜色保持不变。

来自同一生成器的两个不同时代的图像：

我的生成器相当基本，由几个 2D 转置卷积层组成，它们之间有批量归一化层，以及一些常规 2D 卷积层，以 tanh 激活结束。由于生成器最后使用 tanh 激活，因此 tanh 之前各层的输出相对为正或负。我在各种实例中更改了图层的确切顺序和构成，但结果保持不变。

我的判别器只是一组卷积层，它们之间有批量归一化，我尝试过使用交叉熵损失和 Wasserstein 损失。同样，鉴别器的具体构成也发生了变化。生成器和判别器在各层之间都使用 Leaky ReLU。

老实说，对于为什么会发生这种情况，确实有点令人困惑。

Answer 1

如果没有看到更多的实施情况，很难说。但通常这意味着你的模型正在崩溃。这很可能是由于您的超参数之一造成的。

甘斯很难训练，超参数调整会对你的输出产生很大影响。

我建议简化你的网络并调整学习率，看看这对输出和实验有何影响。