2012-04-18 71 views
2

初始結構(它們之間的神經元和連接)是如何選擇的?我的書只是聲明我們在開始訓練網絡之前就開始給出連接的隨機權重。人工神經網絡:選擇初始神經元

我認爲我們會像這樣的訓練過程中添加的神經元:

  1. 開始一個完全空的網絡
  2. 我在訓練中產生的第一個值將不存在
  3. 添加一個神經元與此值相對應,隨機權重

回答

2

您所追求的是一種自組織神經網絡。通常情況下,連接的組織方式是人爲的模式,開發人員認爲它將有足夠的能力來執行計算需要。當然,您可以隨機選擇具有隨機連接的節點,但這種網絡的演變可能比標準的兩層或三層網絡需要更長的時間。

所以,是的,你是對的,因爲在做自組織網絡時你會使用類似的方法。跟蹤兩組遺傳算法,一個用於結構,另一個用於權重(或者以一種迂迴的方式將兩者結合起來),並按照您的需求進化。

0

我不相信這個問題是關於自組織或遺傳算法進化的人工神經網絡。這聽起來更像是一個最常見的ANN:感知器(單層或多層),在這種情況下,網絡的結構:層數和層的大小,必須在開始時手動選擇。初始化權重的簡單初始經驗法則是簡單地在-1.0和1.0之間選取均勻的隨機值。