是否可以使用GPU訓練H2O模型並使用CPU進行預測？

Question

對於訓練速度，能夠用GPU訓練H2O模型，獲取模型文件，然後在沒有GPU的機器上進行預測，這將是一件好事。

看起來理論上這應該是可能的，但是H2O版本3.13.0.341似乎並沒有發生，除了XGBoost模型。

當我運行gpustat -cup時，當我訓練H2O的XGBoost模型時，我可以看到GPU在使用。 DL，DRF，GLM或GBM不會發生這種情況。

如果浮點大小（16,32,64）的差異可能會導致一些不一致性，更不用說由於多處理器建模造成的變幻莫測，我不會感到驚訝，但我認爲我可以忍受這一點。

（這是在這裏與我的問題，但現在我明白了更好的環境，我可以看到GPU都沒有使用所有的時間。）

How can I tell if H2O 3.11.0.266 is running with GPUs?

Answer 1

新XGBoost integration in H2O是目前只有H2O（適當）才具有GPU能力的算法。因此，您可以在GPU上訓練XGBoost模型並在CPU上進行評分，但其他H2O algorithms不適用。

還有一個H2O Deep Water項目，該項目提供了H2O與三個第三方深度學習後端（MXNet，Caffe和TensorFlow）之間的整合，所有這些都是具有GPU功能的。因此，您可以使用GPU訓練這些模型，並在CPU上進行評分。您可以在上面的Deep Water鏈接下載H2O Deep Water jar文件（或R軟件包或Python模塊），並且您可以在Deep Water GitHub repo README中找到更多信息。