在AWS GPU上使用Theano的內存錯誤

Question

我正在爲分類任務構建一個簡單的FeedForward網絡。 我在AWS g2.2xlarge實例的theano上使用keras。我的網絡配置如下：

batch_size = 32 
nb_epoch = 50 
dimof_input = 8100 
dimof_middle = 16384 
dimof_end = 16384 
dropout = 0.2 
dimof_output = 3 

print('Build model...') 

model = Sequential() 
model.add(Dense(dimof_middle, input_shape=(dimof_input,))) 
model.add(Activation('relu')) 
model.add(Dropout(0.2)) 

model.add(Dense(dimof_end)) 
model.add(Activation('relu')) 
model.add(Dropout(0.2)) 

#model.add(Dense(dimof_output)) 
#model.add(Activation('sigmoid')) 
#model.add(Dense(dimof_output, activation='softmax')) 

model.add(Dense(dimof_output)) 
model.add(Activation('softmax')) 

model.compile(loss='categorical_crossentropy', optimizer='adam') 

當我編譯模型，我得到的MemoryError

MemoryError: ('Error allocating 1073741824 bytes of device memory (CNMEM_STATUS_OUT_OF_MEMORY).', "you might consider using 'theano.shared(..., borrow=True)'") 

從AWS這是一個4GB顯存，16 GB內存的機器。 如果我將'dimof_middle'的值減半到8196。一切運行良好。

1073741824字節〜1 GB是內GPU內存以及

什麼錯我在幹嘛？任何幫助將非常感激！

Answer 1

錯誤消息不是關於分配的內存總量。它是關於失敗時嘗試分配的數量。 Theano在計算過程中分配和釋放內存。

您可以禁用CNMeM並使用nvidia-smi來查找實際分配。

http://deeplearning.net/software/theano/library/config.html#envvar-THEANORC