批量標準是否需要恆定的批量大小？

Question

Batch normalization使用小批量平均值和方差來標準化圖層輸出。如果我訓練批量大小的網絡（比如說100），但是希望在單次預測（批次大小1）上使用訓練好的網絡，我是否應該遇到問題？ 爲了避免這種情況，我應該懲罰批量規範層以便在學習期間向身份轉換收斂嗎？

Answer 1

不，這樣做沒有問題，在測試時間批處理規範化層只是縮放和移動輸入，並且在訓練時學習到的因素。