簡單的人工神經網絡的反向傳播

Question

我觀看了一個演講，並推導了反向傳播的方程，但它是一個簡單的例子，有三個神經元：一個輸入神經元，一個隱藏神經元和一個輸出神經元。這很容易推導出來，但我怎樣才能對更多的神經元做同樣的事情？我並不是在討論增加更多圖層，而只是在將更多的神經元添加到已有的三層圖層中：輸入圖層，隱藏圖層和輸出圖層。

我的第一個猜測是使用我爲3個神經元和3層網絡導出的方程，並遍歷所有可能的路徑到更大網絡中的每個輸出神經元，更新每個權重。但是，這會導致某些權重不止一次更新。我能做到這一點還是有更好的方法？

Answer 1

如果您想更多地瞭解反向傳播，我建議您閱讀斯坦福大學http://cs231n.github.io/optimization-2/的鏈接，它將幫助您理解backprop和下面的所有數學。