backpropagation 相关问题

反向传播是梯度计算的一种方法,通常用于人工神经网络中以执行梯度下降。

在反向传播中更新以前图层中的权重。

我试图创建一个简单的神经网络,卡在更新第一层的两层权重。我想我对w2做的第一次更新是正确的,因为我从回 ...

回答 1 投票 0

训练具有反推功能的前馈神经网络。

我实现了一个神经网络,它由(4个输入神经元-5个隐藏神经元-3个输出神经元)组成。我在Iris数据集上应用了这个学习算法。我对数据进行了标准化处理,使用z-...

回答 1 投票 0

逆向传播错误

我正试图从头开始实施反向传播。虽然我的成本在下降,但梯度检查的结果是0.767399376130221。我一直在试图找出问题所在,并设法缩小 ...

回答 1 投票 1

迭代后成本变为NaN

我试图用softmax回归做一个多类分类问题(包含3个标签)。这是我第一次用梯度下降和反向传播的粗略实现(没有使用 ...

回答 1 投票 2

Tensorflow 2;如何创建具有预定义稀疏权重架构的自定义层gradient?

我的目标是在Tensorflow 2中创建一个具有预定义、固定和稀疏权重结构的自定义层。由于内存的原因,我们需要将权重矩阵以可训练的SparseTensor的形式保存......

回答 1 投票 0

为什么我的机器学习算法会卡住?

所以我的C#机器学习项目遇到了困难 我正试图训练一个算法来识别数字。由于这只是一个练习,我有一个由200个数字组成的图像集(每个数字20个)。

回答 1 投票 1

PyTorch:尝试第二次向后浏览图形,但缓冲区已被释放。指定retain_graph = True

这是在处理某些综合数据时收到的错误消息。我有些困惑,因为尽管我仍然建议我做,但错误仍然存 在。可能与我...

回答 1 投票 0

Perceptron一直学习只复制一种模式

这是一个很奇怪的问题。 A有一个反向传播的代码,可以很好地工作,就像这样:现在,当我进行批处理学习时,即使它只涉及一个简单的标量,我也会得到错误的结果...

回答 1 投票 0

Python:多维数组的numpy.dot / numpy.tensordot

我正在优化反向传播算法的实现,以训练神经网络。我正在研究的方面之一是在一组数据点上执行矩阵运算(input / ...

回答 1 投票 0

将网络输出作为另一个网络参数

我有y = Y(x; theta)和theta = M(t; omega),其中x和t是输入变量(从数据集中得出),以及theta和omega可训练参数。我需要theta作为欧米茄的功能。然后,我...

回答 1 投票 0

是否可以,如果可以的话,如何构建一个神经网络,以使其不会在NN的某些区域反向传播?

我有一个想法来改善我目前正在使用的神经网络,但是我对机器学习还很陌生,所以我不知道是否有可能实现它,实现起来有多困难或根本不值得。 ...

回答 1 投票 1

反向传播如何在神经样式转换中改变像素(输入数据)?

我对机器学习还很陌生,我想更好地理解神经风格转换,但是我感觉缺少一些东西。据我所知,反向传播会更新权重,而不是输入。生成的...

回答 1 投票 0

在反向传播中,当神经网络的误差收敛到0.5时是什么意思?

我一直在尝试学习神经网络背后的数学知识,并已在Matlab中实现了以下等式的一个版本,其中包括偏差项。反向传播方程矩阵形式为Visual ...

回答 1 投票 0

在Pytorch中进行交互式训练模型

我需要同时训练两个模型。每个模型都有一个带有可训练参数的不同激活函数。我想训练模型一和模型二,使...

回答 1 投票 2

python中的简单神经网络不起作用,可能是反向传播算法出现问题?

我制作了一个小神经网络,它包含两个输入x,y和输出z,一个1或0。在输出层中有一个隐藏层,其中包含两个神经元h1,h2和一个神经元。输入是高度和...

回答 1 投票 0

基本分类器和反向传播

我正在学习Coursera的机器学习课程,而我只是在接受审问。进行异或分类的多重分类器在这张图片上,我们可以看到为了进行异或...

回答 1 投票 1

使用相同数据训练的两个NN的“权重”和“偏差”明显不同

我最近被介绍到了神经网络的神奇世界。我开始关注神经网络和深度学习,它们实现了可识别手写数字的NN。它实现了3 ...

回答 2 投票 1

如何通过从头开始的神经网络提高预测的准确性?[Python]

我对机器学习还比较陌生,作为一个入门项目,我决定使用NumPy在Python中从头实现我自己的神经网络。因此,我为...

回答 1 投票 0

如何为softmax激活功能实现反向传递?

我正在研究神经网络,并试图实现softmax激活函数的后向传递。设置和我未完成的尝试都在这里:def back(self,Z:np.ndarray,dY:np ....

回答 1 投票 2

使用遮罩时会出现MSEL

使用遮罩时,我正在尝试计算MSELoss。假设我将具有batch_size为2的张量[2、33、1]作为目标,并且将另一个输入张量具有相同的形状。由于序列长度可能会...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.