在正規化，爲什麼我們θ^ 2使用，而不是θ？

Question

正則是拉姆達*總和（θ^ 2）

Answer 1

_{我已經already answered這在以前的問題（見最後段落），但我會再試一次。}

與sum(θ)正規化的問題是，可能必須互相抵消的

實施例θ參數：

θ_1 = +1000000 
θ_2 = -1000001 

的sum(θ)這裏是百萬-1000001 = -1是小

sum(θ²)是1000000²+（-1000001）²這是非常大的。

如果您使用sum(θ)，您可能會因沒有正規化（這是目標）而導致避免正則化的θ值過大，因爲這些項互相抵消。

根據您的搜索/優化算法，您可以使用sum(|θ|)。但我知道θ²（L2標準）很受歡迎，並且在梯度下降方面效果很好。