backpropagation 相关问题

反向传播是梯度计算的一种方法,通常用于人工神经网络中以执行梯度下降。

如何在C ++中实现神经网络

原始问题我正在研究一个简单的C ++库。我正在尝试实现神经网络。我有两个问题:是否有任何教程可以解释如何实现它们?我......

回答 1 投票 -1

使用BP神经网络进行深度学习时,在训练时获得平坦的误差曲线

在使用传统BP神经网络进行深度学习的同时,我总是得到平曲线的误差图。我正在使用带有Adam优化器的Keras顺序模型。 NN的总体准确率为80%......

回答 1 投票 0

神经网络对具有不同特征的不同实例进行相同的预测

出于兴趣,我创建(或至少尝试创建)一个人工神经网络,其中四层作为着名的虹膜花数据集的分类器。标签的目标值从0到2不等......

回答 1 投票 1

pytorch如何通过argmax进行反推?

我在pytorch中使用渐变下降在质心位置上构建Kmeans,而不是期望最大化。损失是每个点到其最近质心的平方距离的总和。至 ...

回答 1 投票 2

numpy:计算softmax函数的导数

我试图用MNIST理解一个简单的3层神经网络中的反向传播。输入层有权重和偏差。标签是MNIST,因此它是10类向量。 ......

回答 3 投票 9

强化学习成本函数

Newb问题我正在用TensorFlow编写一个OpenAI Gym pong播放器,到目前为止已经能够基于随机初始化创建网络,以便随机返回移动...

回答 1 投票 0

如何在Pytorch中执行backprop(autograd.backward(loss)vs loss.backward())以及在哪里设置requires_grad = True?

我一直在使用Pytorch一段时间了。我对backprop的一个问题如下:假设我们有神经网络的损失函数。为了做backprop,我看到了两个不同的......

回答 1 投票 0

无法找到就地操作:梯度计算所需的变量之一已通过就地操作进行了修改

我试图计算网络的jacobian损失(即执行双反向),我得到以下错误:RuntimeError:梯度计算所需的变量之一...

回答 3 投票 0

Pytorch没有显示LSTMCell参数

我有以下代码:class myLSTM(nn.Module):def __init __(self,input_size,output_size,hidden_ size,num_layers):super(myLSTM,self).__ init __()self.input_size = input_size + 1 ...

回答 1 投票 0

了解何时在Pytorch中使用python列表

基本上这个线程在这里讨论,你不能使用python list来包装你的子模块(例如你的图层);否则,Pytorch不会更新子模块的参数......

回答 1 投票 0

使用代码输入反向传播的数据

我正在学习构建神经网络,我在github上遇到了这个代码,https://github.com/PavelJunek/back-propagation-java需要使用训练集和验证集但是......

回答 1 投票 0

在Pytorch中通过时间截断反向传播(BPTT)

在pytorch中,我通过启动反向传播(通过时间)训练RNN / GRU / LSTM网络:loss.backward()当序列很长时,我想通过时间进行截断反向传播...

回答 1 投票 2

我可以在每次训练迭代中求和渐变吗?

我需要在每次迭代中求和渐变,然后将这些渐变转移到另一个过程以重现学习的网络。关键代码如下所示。方法1:类Net(nn.Module):...

回答 1 投票 0

反向传播和前馈神经网络有什么区别?

反向传播和前馈神经网络有什么区别?通过谷歌搜索和阅读,我发现在前馈中只有前进方向,但在反向传播时...

回答 3 投票 29

Pytorch - 为什么预先分配内存导致“试图第二次向后通过图表”

假设我有一个简单的单隐藏层网络,我正在以典型的方式训练:对于x,y在trainData:optimizer.zero_grad()out = self(x)loss = self.lossfn(out,y)。 ..

回答 1 投票 1

PyTorch权重和输出没有变化

我真的很享受使用PyTorch进行分类和回归。我有一个有趣的新问题要解决,我无法弄清楚解决方案,我觉得我真的很亲密。我的问题:我......

回答 1 投票 0

丢失像素

在反向传播期间,这些情况会产生不同的影响: - 总结所有像素的损失然后反向传播。所有像素的平均损失然后反向传播反向传播所有...

回答 1 投票 1

ReLU衍生物在反向传播中

我是关于在使用ReLU的神经网络上进行反向传播。在我之前的一个项目中,我是在一个使用Sigmoid激活功能的网络上完成的,但现在我有点困惑,......

回答 2 投票 3

理解神经网络反向传播

更新:更好地解决问题。我试图以XOR神经网络为例来理解反向传播算法。对于这种情况,有2个输入神经元+ 1个偏差,2 ...

回答 3 投票 44

什么是反向传播?

你能否将“反向传播”分解成最简单的形式?我对数学很满意,但我只想弄清楚这个术语。我正在读这篇文章:神经系统的大部分完整图表......

回答 1 投票 -2

© www.soinside.com 2019 - 2024. All rights reserved.