backpropagation 相关问题

反向传播是梯度计算的一种方法,通常用于人工神经网络中以执行梯度下降。

矩阵尺寸在反向传播中不匹配

在这里,我试图用一个隐藏层来实现一个神经网络来对两个训练样例进行分类。该网络利用S形激活功能。层的尺寸和......

回答 2 投票 3

我的Backpropagation算法实现有什么问题?

我试图实现一个无隐藏层神经网络来破解MNIST数据集。我使用sigmoid作为激活函数和交叉熵作为损失函数。为简单起见,我的网络没有隐藏......

回答 1 投票 0

我应该避免将L2正则化与RMSProp结合使用吗?

我应该避免将L2正则化与RMSprop和NAG结合使用吗? L2正则化项干扰梯度算法(RMSprop)?最好的祝福,

回答 1 投票 1

在`tf.py_func`的输入函数中返回多个值

我正在尝试使用tf.py_func和tf.RegisterGradient设置自定义渐变。具体来说,我试图采用其拉普拉斯算子的特征值的梯度。我得到了基本的工作,我的......

回答 1 投票 3

Pytorch,`back` RuntimeError:尝试第二次向后遍历图形,但缓冲区已经被释放

我正在用PyTorch(0.4)实现DDPG并且卡住了支持损失。所以,首先我的代码执行更新:def update_nets(self,transitions):“”“执行一个更新步骤:...

回答 2 投票 2

反向传播激活衍生物

我已按照此视频中的说明实施了反向传播。 https://class.coursera.org/ml-005/lecture/51这似乎已经成功,通过梯度检查,并允许我训练...

回答 3 投票 9

有反向传播的替代方案吗?

我知道可以使用梯度下降训练神经网络,我理解它是如何工作的。最近,我偶然发现了其他训练算法:共轭梯度和准牛顿算法。一世 ...

回答 1 投票 -1

每层多个节点的反向传播

我读到这篇关于反向传播如何运作的文章,我理解他们所说的一切。他们说要找到梯度,我们必须将成本函数的偏导数加到每个权重/ ...

回答 1 投票 -2

© www.soinside.com 2019 - 2024. All rights reserved.