XOR循環神經網絡的順序訓練數據

Question

我想實現一個循環神經網絡並試圖讓它學習XOR函數作爲一個小例子。因爲它是一個經常性的網絡，我認爲只用一個輸入單位就可以很好地工作，以便了解它記住它以前的狀態有多好;也就是說，根據順序輸入執行XOR功能：

INPUT(t-1) = 0 
INPUT(t) = 1 
OUTPUT(t) = 1 

或

INPUT(t-1) = 1 
INPUT(t) = 1 
OUTPUT(t) = 0 

所以我輸入的訓練數據呈現一位這樣的順序時：

inputs = { 0, 0, 1, 1, 0 } 

及相應的目標輸出

targets = { 0, 0, 1, 0, 1 }. 

但它不是學習，即使我知道可能有很多原因，但我想知道，也許我沒有正確定義我的數據集，因此我不會向我的網絡提出正確的問題。我來到這裏，然後尋找什麼可能是一個正確的訓練集，以監督「順序」XOR函數學習的想法。

我正在執行的實現與Elman RNN類似，如果您需要關於它的任何詳細信息，請詢問。

Answer 1

以下鏈接：https://code.google.com/p/encog-java/source/browse/trunk/encog-examples/src/org/encog/examples/neural/recurrent/elman/ElmanXOR.java?r=2423

包含經常性的Elman網絡實施與XOR問題的作品。它使用Encog（相對容易使用）來處理網絡本身的實現。希望您能夠看到您的實施方式與正確之處的差異。