在Tensorflow中最大游泳池後退發生了什麼？

Question

我有點困惑與最大游泳池落後執行在這裏：https://github.com/tensorflow/tensorflow/blob/master/tensorflow/core/kernels/maxpooling_op_gpu.cu.cc#L192

任何人都可以解釋如何在這裏計算梯度。像max pool的局部梯度一樣是0和1，所以他們只是複製來自grad_in的值？儘管有關於參數top_diff，top_offset，bottom_offset的評論，有人可以解釋那些是什麼（我是初學者）？

Answer 1

你是對的最大池的本地梯度是0的和1的s。但是，如果相同的最大值是從兩個相鄰的貼片傳播的，則相應的梯度值必須進行合計並反向安裝到該最大值的位置。例如，考慮一個1-d載體：

[x0 x1 x2] 

假設您正在使用補丁大小2和步幅1運行MaxPool，並假設max(x0, x1) = x1和max(x1, x2) = x1。然後輸出將

[x1 x1] 

假設梯度進來就是[g1 g2]，那麼必須backpropped梯度是

[0 g1+g2 0] 

這就是你看到你所指出的代碼cudaAtomicAdd函數調用出。