2014-10-09 156 views
1

假設兩個感知器在同一線性可分佈分佈的無限樣本上運行。他們會融合到一個相同的決策功能嗎?他們會收斂到一個相同的權重向量?我是ML的初學者,所以如果有人能提供詳細的解釋,那將是非常棒的。機器學習 - 感知器

+2

簡答:不。即使數據是相同的,但是以不同的順序給出,它們可能以不同的權重向量結束。考慮兩個真正具有兩個同等最佳解決方案的課程。因此取決於您可能達到的數據。 – ASantosRibeiro 2014-10-09 14:59:49

+0

謝謝@ASantosRibeiro!我沒有考慮數據的順序。好點! – Meteorite 2014-10-09 15:03:28

回答

1

如果學習率足夠小,他們將收斂到相同的決策邊界。但是,根據兩個感知器的初始權重(假設它們是分別隨機化的),兩個感知器的最終權重可能會不同。請注意,與輸入相關的權重是分離平面的係數,並且這些係數不是唯一的(例如,如果將與平面相關的係數加倍,則平面位置不變)。因此,完全有可能(也可能),兩個感知器的極限權重不會相等。

+0

非常清楚!謝謝! – Meteorite 2014-10-09 15:02:45

+0

@Meteorite我最初的回答並不完全正確,所以我修改了它並(希望)更清楚。 – bogatron 2014-10-09 16:48:04