神經網絡中的樣本量

Question

我已經看到神經網絡中樣本量的一般規則是「權重數量」的10倍。例如，如果我們有一個NxD輸入，一個圖層大小M和輸出圖層大小K是由於兩個W矩陣而產生的「權重數量」2？或者是D M + M K？預先感謝您的幫助。

Answer 1

權重的實際數目應DM + MK + M + K其中DM表示權重的數量爲在隱藏層中的所有單元和M爲在隱藏層中的偏差項和以同樣的方式，MK和K代表屍妖的數和輸出層中的偏置項。