有没有办法使用python找到标量值相对于向量的导数？

Question

我正在尝试编写损失函数。我的损失函数产生值112.314。我正在尝试针对某些权重找到此损失函数的导数，它是一个向量。向量是[3.7、3.7、3.9、4.3、2.5、3.3、4.7]。

到目前为止，我一直尝试的是np.gradient(112.314, [3.7, 3.7, 3.9, 4.3, 2.5, 3.3, 4.7])。

Answer 1

请参见使用MSE的导数的梯度下降this explanation。简而言之，MSE的梯度是您的预测值和真实值之间的差之和。

但是，这仍然不能告诉您权重的梯度，而仅仅是预测的梯度-您还需要在链接上的公式1.4中用模型函数替换h（x），并使用链式法则获得相对于您的权重的梯度。他显示了线性回归情况下的结果。