这是一个创建于 595 天前的主题，其中的信息可能已经有所发展或是发生改变。
RT ，纯纯好奇如果是个很傻的问题请轻喷，跟着沐神的动手实验只学到 MLP 。既然是仿神经，那人类的神经元也并非等长。MLP 的设计是否也可以试试？比如随机把某几个第一隐藏层的输出和一些高隐藏层的输出拼在一起作为最后输出层的 input
 |
1
Oilybear OP 有点脑抽了，突然想到每一个 hidden 的 W 可以控制，如果真的没有印象很有可能就学成 0 了，就相当于没有影响，等价于上面的想法
|
 |
2
Ricardoo 2023-05-10 10:51:46 +08:00
> 比如随机把某几个第一隐藏层的输出和一些高隐藏层的输出拼在一起作为最后输出层的 input
你是说 残差连接？ |
Select Language