前馈神经网络与反向传输的疑惑

2017-08-23 15:14:42 +08:00
 z0z

在看文档时说:前馈神经网络一般分为 2 种:一个叫 BP(Back Propagation Networks),即反向传输,另一个是 RBF Network,即径向基函数神经网络。 我怎么老觉得前馈神经网络中的“前馈”与反向传输中的“反向”有点矛盾呢? 前馈说的应该是从输入到输出,一条道走到黑,此外就再没有其他路径了,到了输出后就完了,就输出了。 https://en.wikipedia.org/wiki/Feedforward_neural_network 引用一下 wiki 上的描述: The feedforward neural network was the first and simplest type of artificial neural network devised.[citation needed] In this network, the information moves in only one direction, forward, from the input nodes, through the hidden nodes (if any) and to the output nodes. There are no cycles or loops in the network

再来说 BP,它不是要利用输出的值和期望的值搞出来一个 loss 吗?然后以输出层为起点,一层一层的向输入层方向移动,逐层的计算出每层中神经元们的 weight,直到输入层,这么说来,它应该是从屁眼儿向嘴的方向运动啊。这俩怎么能属于同一个范畴呢?

是我理解的哪里有问题吗? 哪位帮我缕一下

1201 次点击
所在节点    问与答
1 条回复
z0z
2017-08-23 15:23:09 +08:00
就在我点完发送按钮的那一刹那仿佛明白了一点。
前馈指的从输入端输入的数据信息,流动方向为从 input 到 output,之间没其他的路径了。
而 BP 指的是计算 weight 的算法,使用了从 output 向 input 的计算方式,它是从 outpu 向 input 方向计算的,不属于上面说的数据流向的范畴。
是这么理解吗

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/385183

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX