神經網絡模型中的隱藏層的數量

Question

有人能夠向我解釋或指出我爲什麼（或情況）在神經網絡中需要或有用多於一個隱藏層的某些資源？

Answer 1

1. 這更類似於大腦的工作方式（這可能不一定是一個計算的優勢，但很多人都在研究NN深入瞭解有關的思想方法，而不是解決現實世界的問題。
2. 它更容易實現一些種使用多層不變性。例如，圖像分類的作品無論在哪裏，圖像中的物體被發現，或對象的大小。看到Bouvrie, J. , L. Rosasco, and T. Poggio. "On Invariance in Hierarchical Models". Advances in Neural Information Processing Systems (NIPS) 22, 2009.

Answer 2

每層都以指數方式有效地提高了自適應的潛在「複雜性」（與將單個層添加更多節點的乘法方式相反）。

Answer 3

基本上更多的圖層允許表示更多的功能。關於人工智能課程的標準書籍「人工智能，一種現代方法」由羅素和諾維格詳細論述了爲什麼多個層次在第20章中很重要。

一個重要的問題是，如果一個足夠大的單隱層，您可以表示每個連續函數，但您至少需要2個圖層來表示每個不連續函數。

實際上，至少有99％的時間是單層。