反向传播和前馈神经网络有什么区别？

Question

反向传播和前馈神经网络有什么区别？

通过谷歌搜索和阅读，我发现在前馈中只有前向方向，但在反向传播中，一旦我们需要进行前向传播然后反向传播。我提到了this link

1. 除流动方向以外的任何其他差异？重量计算怎么样？结果？
2. 假设我正在实现反向传播，即它包含前向和后向流。那么反向传播是否足以显示前馈？

Answer 1

• Feed-Forward Neural Network是一种神经网络架构，其中连接是“前馈”的，即不形成循环（如在循环网络中）。
• 当您在输入层输入内容并从输入到隐藏以及从隐藏到输出层传输时，也会使用术语“前馈”。 这些值是“前馈”。

“前馈”这一短语的这两种用法都与培训本身无关。

• 反向传播是一种训练算法，包括两个步骤：1）前馈值2）计算误差并将其传播回较早的层。所以准确地说，前向传播是反向传播算法的一部分，但是在反向传播之前。

Answer 2

没有纯粹的反向传播或纯前馈神经网络。

反向传播是训练（调整权重）神经网络的算法。反向传播的输入是output_vector，target_output_vector，输出是adjust_weight_vector。

前馈是从输入向量计算输出向量的算法。前馈输入是input_vector，输出是output_vector。

当您训练神经网络时，您需要使用这两种算法。

当您使用神经网络（已经过训练）时，您只使用前馈。

神经网络的基本类型是多层感知器，它是前馈反向传播神经网络。

还有更先进的神经网络类型，使用修改后的算法。

也是很好的研究来源：ftp://ftp.sas.com/pub/neural/FAQ.html最好理解的原则是编程它（本视频教程）https://www.youtube.com/watch?v=KkwX7FkLfug

Answer 3

神经网络可以具有不同的架构。他们的神经元之间的联系决定了信息流的方向。根据网络连接，它们分为 - 前馈和后续（后向传播）。

前馈神经网络

在这些类型的神经网络中，信息仅在一个方向上流动，即从输入层到输出层。当权重一旦确定，它们通常不会改变。一个明确地决定权重或使用径向基函数等函数来决定权重。这里的节点完成它们的工作，而不知道产生的结果是否准确（即它们不会根据产生的结果重新调整）。前面的层没有回传。

递归神经网络（反向传播）

信息从输入层传递到输出层以产生结果。然后将结果中的错误传回到先前的层。节点了解他们在答案错误中贡献了多少。重量调整重量。神经网络得到改善。它学习。有双向信息流。这基本上具有实现的算法，前馈和反向传播。