NN培訓與部署的計算要求

Question

我想了解部署NN的計算要求與培訓的計算要求。

我已經搜索了所有參考資料，並找到了培訓需求。

我在期待但沒有發現需求對於一次培訓事件與一次測試事件沒有顯着差異。

我想了解一下是否可以將訓練有素的模型部署爲說離線的手機。

據我所知，在大多數使用情況下，手機會收集並提交輸入數據，然後發送到中央服務器（示例），計算並返回結果。

假設像圖像分析這樣的事情，這是可行的部署預先訓練到一些低計算能力的設備？

Answer 1

是的，它可以將預先訓練好的模型部署到手機。之間的生產&培訓的差異是相當大的，因爲：

1. 通常你在訓練時間部署模型VS一批圖像處理一個圖像
2. 您可以通過多種方式優化模型製作：
   • 排除一些圖層，例如漏失，批標準化
   • 量化模型（由INT8代替浮點）上手機GPU
   • 運行模式，DSP（見Snapdragon Neural Processing Engine SDK）