keras在定義損失函數之後做了什麼？

Question

我在theano和keras（theano後端）中都構建了密集的（10）-softmax-crossentropy網絡。 我分別轉儲出計算圖。 在theano版本（圖1，這種計算圖是我的想法。 但在keras版本（圖2），似乎損失的定義（crossentropy）。爲什麼？

後添加的計算請教那些誰瞭解你在做什麼..

Fig.1 Theano version

Fig.2 Keras(backend is Theano) version

Answer 1

在Keras，損失計算，樣本權重和損失的權重被應用到丟失後，看到這些線路中的腳本training.py。

• 樣品重量：

  score_array = K.mean(score_array, axis=list(range(weight_ndim, ndim))) 
      score_array *= weights 
      score_array /= K.mean(K.cast(K.not_equal(weights, 0), K.floatx())) 
  return K.mean(score_array) 
  

• 失重：

  if total_loss is None: 
      total_loss = loss_weight * output_loss 
  

這是簡單的將這些行映射回計算圖形。例如，下面的塊計算K.mean(K.cast(K.not_equal(weights, 0), K.floatx()))：

• 第一節點計算K.not_equal(weights, 0)
• 第二個節點是K.cast(..., K.floatx())
• 所有其他節點是約K.mean(...)
  • 左支計算批量大小（調用shape，並獲得維度0從它）
  • 右分支由左支路的輸出計算張量總和
  • 鴻溝右側分支的輸出
• 該塊的最終輸出是標量K.mean(K.cast(K.not_equal(weights, 0), K.floatx()))