前一层神经元的反向传播问题

Question

我正在尝试从头开始编写一个简单的神经 python，而不是直接使用库，因为我认为这是最好的学习方式…… 我从 3Blue1Brown 找到了一个很好的网站和 youtube，但我花了几个星期仍然不明白下面的最后一个公式“因为这个前一层神经元影响了多个不同路径的成本，成本相对于这个神经元的导数， C to changes in a^[L-1],涉及将每个影响路径对应的多个不同的链式法则表达式相加。

https://www.3blue1brown.com/lessons/backpropagation-calculus

我不明白为什么我们不能简单地使用链式规则但我们必须总结一下？任何人都可以阐明这件事吗？

Answer 1

公式本身来自于使用“通用”链式法则^1：

Andrej Karpathy 有一个很好的视频讲座关于什么是/如何实现反向传播和一个简单的神经网络。

我建议研究它，因为他的解释更彻底并且包含代码。