为什么将官方Keras mnist示例的非常简单的移植到tensorflow 2.x会导致准确性大幅下降？

Question

这是Keras文档中的简单示例：https://keras.io/examples/mnist_cnn/

我将其放入Tensorflow 1.x下的google colab中，并且效果非常好：https://colab.research.google.com/drive/15NW-lXhRUxqSCCygVxddXCo5ID7yF2iL

我进行了非常简单的更改，使其可以在TF-2.x下执行：https://colab.research.google.com/drive/1ul-eFn1XRe9ta3cu5vHchaa4DxStRda_

它完全破坏了性能！准确性像石头一样下降！

我做错了什么？

Answer 1

区别在于优化器。 tf.keras.optimizers.Adadelta使用0.001的学习率。 keras.optimizers.Adadelta使用的学习率为1.0。

检查keras.optimizers和tf.keras.optimizers.Adadelta了解更多详细信息。特别是，在Tensorflow页面上提到Adadelta的学习率应该是1.0，以匹配原始论文。