2017-06-12 86 views
0

我有一個關於貝葉斯後驗推理的問題。我們觀察數據集D = {x_1,x_2,...,x_N},我們給出了一個模型p(x | \ theta)和一個先驗分佈p(\ theta),我們觀察了數據集D = {x_1,x_2,...,x_N}目標是估計通常難以處理的後驗概率p(\ theta | D)。因爲這個聯合分佈與後驗概率p(\ theta | D)= p(\ theta,D)/ p(D)成正比,所以有時候我會發現有些人選擇評估關節p(\ theta,D)這背後的原因是什麼?是不是p(D)很難評估?感謝您的任何建議。貝葉斯方法:哪部分難以在貝葉斯推斷中評估

回答

1

您想通過查找最優參數\θ來最大化p(θ| D)。

這可以被改寫爲argmax P(θ| d)P(d)

然而,P(d)爲θ無關。因此,你可以忽略它或在可讀數學符號

enter image description here

1

貝葉斯定理可以表示爲P(T | X)= P(T,X)/ P(X)= P(X | T )p(T)/ p(X),對於觀測數據X和參數T而言。通常將p(x | T)稱爲模型的「似然」分量 - 如果指定模型,則此計算簡單。同樣,p(T)給出您指定的模型先驗。

你說得對,分母p(X)是一團糟,但是@CAFEBABE指出,它與參數T無關,所以它在功能上是一個常數。因此,後驗分佈通常簡化爲與p(x | T)p(T)成比例的p(T | x)。

+0

爲了澄清,這種簡化(即p(T | x)與p(x | T)p(T)成正比)就是:簡化。因此,對於實際應用來說幾乎是無用的,其中對後驗分佈的整合是最終目標。 – vin