我是一名学习深度学习的学生。这些天，我正在尝试查看损失函数相对于权重和偏差的图。特别是，我想应用梯度下降方法来获得平滑的线条，而不是从其他优化程序获得的随机特征。
Keras框架提供了各种类型的优化器，例如SGD，RMSprop，Adagrad，AdaDelta，Adam等。但是，在Keras官方文件中没有看到正常，普通和普通的梯度下降（无随机特征）。关键参数，剪辑正常值和剪辑值是否与普通GD相关？例如，如果一个SGD优化器的键为args，clipnormal = 1，那么它将执行普通的SGD吗？
谢谢你。
我认为设置batch_size = n_samples是不够的，您必须设置动量= 0，nesterov = False，尽管如此，我没有看到它陷入局部最优状态，这意味着它仍然有一种重新生成的方法，以便突破并找到新的最优]