V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
z0z
V2EX  ›  问与答

前馈神经网络与反向传输的疑惑

  •  
  •   z0z · 2017-08-23 15:14:42 +08:00 · 1212 次点击
    这是一个创建于 2678 天前的主题,其中的信息可能已经有所发展或是发生改变。

    在看文档时说:前馈神经网络一般分为 2 种:一个叫 BP(Back Propagation Networks),即反向传输,另一个是 RBF Network,即径向基函数神经网络。 我怎么老觉得前馈神经网络中的“前馈”与反向传输中的“反向”有点矛盾呢? 前馈说的应该是从输入到输出,一条道走到黑,此外就再没有其他路径了,到了输出后就完了,就输出了。 https://en.wikipedia.org/wiki/Feedforward_neural_network 引用一下 wiki 上的描述: The feedforward neural network was the first and simplest type of artificial neural network devised.[citation needed] In this network, the information moves in only one direction, forward, from the input nodes, through the hidden nodes (if any) and to the output nodes. There are no cycles or loops in the network

    再来说 BP,它不是要利用输出的值和期望的值搞出来一个 loss 吗?然后以输出层为起点,一层一层的向输入层方向移动,逐层的计算出每层中神经元们的 weight,直到输入层,这么说来,它应该是从屁眼儿向嘴的方向运动啊。这俩怎么能属于同一个范畴呢?

    是我理解的哪里有问题吗? 哪位帮我缕一下

    1 条回复    2017-08-23 15:23:09 +08:00
    z0z
        1
    z0z  
    OP
       2017-08-23 15:23:09 +08:00
    就在我点完发送按钮的那一刹那仿佛明白了一点。
    前馈指的从输入端输入的数据信息,流动方向为从 input 到 output,之间没其他的路径了。
    而 BP 指的是计算 weight 的算法,使用了从 output 向 input 的计算方式,它是从 outpu 向 input 方向计算的,不属于上面说的数据流向的范畴。
    是这么理解吗
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   835 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 155ms · UTC 21:14 · PVG 05:14 · LAX 13:14 · JFK 16:14
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.