密集(全连接)层在神经网络中的使用

问题描述 投票:0回答:1

我知道密集层意味着经典的全连接层,这意味着每个输入都会进入每个神经元进行乘法。但最近我脑子里出现了一些问题,在 youtube、博客、StackOverflow、文章上搜索时没有人给我满意的答案。

1-为什么我们在神经网络中需要全连接(密集)层,它的用途是什么?我们不能使用稀疏层吗(意味着一些输入只会到达一些神经元,因此所有神经元都不会获得所有输入)

2-如果我们使用稀疏层会发生什么?我知道计算量会减少,但是会对输出产生什么影响。神经元是否能够像密集层一样执行?

3-在神经网络中使用哪种稀疏层或密集层更好。(优点和缺点)

4-如果我们可以使用稀疏层并且它表现良好,那么为什么我没有比FCN(全连接层)更多地听到这个术语

稀疏层与神经网络中的下降层不同。在丢弃层中,您修剪/丢弃一些神经元,但其他神经元获得上一层的所有输出。所以不一样。

machine-learning deep-learning neural-network
1个回答
0
投票

使用稀疏层只会引入更多需要调整的功能。你的稀疏层会是什么样子,什么连接到什么?使用密集层至少可以保证有可能使用连接。

你也回答了你自己的问题,显然稀疏层并不是更好,否则你会收到他们的消息。另一方面,Dropout 很有用并且被广泛使用。

© www.soinside.com 2019 - 2024. All rights reserved.