2016-08-16 77 views
1

我想知道我是否可以簡單地將缺失應用到TensorFlow中的卷積中。它將如何應用?卷積遮罩的權重是否隨着輸入「滑動」而隨機設置爲零?TensorFlow中的卷積層是否支持退出?

+1

的差施加在卷積的輸出,存在與濾波器權重 –

回答

4

您可以對任意輸入張量應用壓差。這個輸入如何計算並不重要;輸入的每個元素都將保存(並縮放,見下文)或設置爲零。

https://www.tensorflow.org/api_docs/python/tf/nn/dropout

以概率keep_prob,輸出由1/keep_prob放大所述輸入元件,否則輸出0。縮放使得預期的總和不變。

默認情況下,每個元素獨立保存或刪除。

例如:

conv = tf.nn.conv2d(...) 
drop = tf.nn.dropout(conv, keep_prob=0.5) 
+0

雖然一些結構實現DropoutWrapper和用它做不同的東西沒有相互作用。而且似乎還有多種卷積層丟失方法(標準丟失和MC丟失):https://arxiv.org/abs/1506.02158 –

+1

您是否指RNN的DropoutWrapper(https:// www。 tensorflow.org/versions/r0.10/api_docs/python/rnn_cell.html#DropoutWrapper)?根據它的文件,它也只是「輸入和/或輸出丟失,在狀態中從不使用丟棄」。看來其他的退出方式目前還沒有在TensorFlow中實現。 – fwalch