2015-09-06 72 views
8

我是AI的學生,今年我將與pylearn和Theano一起工作(我可能會嘗試火炬和咖啡),以實現神經網絡,而且我即將爲此事購買一臺筆記本電腦。 我想根據您的經驗爲您提供幫助。針對(conv)神經網絡計算的CPU vs GPU

我沒有很大的預算,所以我買不起很多錢。我有兩個或三個簡單的問題:

這是最好的支持庫,如theano,火炬,朱古力:ATINVIDIA? 有沒有人嘗試GPU計算Geforce 740M 820M 840M這樣的事情?並且它比CPU更好?或者如果我買不起一個巨大的GPU,購買一臺性能好的筆記本電腦還是比這些(廉價)的筆記本電腦更好?

謝謝您的時間,

+3

如果你堅持一臺筆記本電腦,然後得到一個便宜的,並使用亞馬遜現貨實例進行計算。一個小筆記本電腦GPU不會讓你深入學習。 – aleju

+0

是的,我認爲這是一個很好的結論。我可能會建立一個桌面工作站和SSH。 – Sam

回答

15

因此,在閱讀您的回覆以及一些博客文章後,我的結論是: 不要試圖將筆記本電腦製作成您的主工作站以進行深入學習!它太貴了:您只需花費數千美元購買筆記本電腦配置,這可能會花費數百美元的桌面電腦。和便宜是不值得的。

我想我會買一個13" 筆記本電腦,並開始建立一個強大的桌面,然後我會做一個ssh訪問它。

這兩個環節都是偉大的具有GPU上有很好的理解選擇。

http://timdettmers.com/2017/04/09/which-gpu-for-deep-learning/

https://www.linkedin.com/pulse/20141013042457-89310056-which-gpu-to-use-for-deep-learning

謝謝大家!

+0

嘿,我有一些關於訓練深層神經網絡的問題嗎? – hashcode55

3

關於你提到的第一個問題,我不知道這些庫實現NN。但是如果你使用了八度/ Matlab這樣的東西,那麼它們都有用於NN的庫,它們利用CUDA來訓練神經網絡。 GPU與CPU ....一般而言,NN和機器學習的實現主要基於向量/矩陣和矩陣運算,如乘法/加法等。在矩陣運算方面,你不會三思,你總是選擇GPU。矩陣操作是單指令多數據操作,大量使用GPU。基本上,它是獨立執行大量數據的相同操作(通常是簡單的操作)。您不需要非常先進的GPU。我在舊的macbook上使用了320GTX,這已經足夠好了(我假設你是一名學生,將實施概念證明或學術項目,而不是行業級項目)。

+0

謝謝你的回答Mostafa。 問題是,從我讀到這裏https://timdettmers.wordpress.com/2014/08/14/which-gpu-for-deep-learning/ 最重要的功能之一是gb/s帶寬。而「m系列」則非常低,甚至低於gt 320 – Sam

+1

當然帶寬是非常重要的。原因在於,即使您可以在GPU上並行執行計算以實現最大吞吐量,但如果無法從GPU返回這些結果,則無關緊要(應瞭解如何在主機與處理器之間處理數據傳輸該設備如果您瞭解CUDA編程)。但是與我所說的基本上無關,基本上,我聽說的大部分學習算法都依賴於矩陣運算,並且由於矩陣運算的數據獨立性,在GPU上通常比CPU更好。 – mkmostafa

0

機LEA雷諾運算通常被簡化爲矩陣矩陣乘法。目前,GPU上的矩陣矩陣乘法比CPU更高效,因爲GPU比CPU具有更多的線程。此外,NVIDIA相當多年來一直支持CUDA工具包。該平臺現在已經成熟。許多DL庫(例如Caffe,Theano,Torch,TensorFlow)正在利用BLAS(基本線性代數子例程)和DNN(深度神經網絡)庫的CUDA支持。深度學習庫開發人員不必花費大量時間來優化矩陣矩陣乘法。此外,似乎在某些操作(矩陣矩陣操作)中爲相同級別的GPU優化CPU代碼非常困難(我們稱之爲ninja優化)。爲了更好地瞭解其他人的經歷,請參閱https://github.com/BVLC/caffe/pull/439的討論。