[問題] NN在GPU的記憶體使用量估計

看板DataScience作者 (!!)時間5年前 (2019/04/17 21:51), 編輯推噓0(0推 0噓 3→)
留言3則, 3人參與, 5年前最新討論串1/1
請問如果我建一個CNN參數一千萬 輸入圖片大小64*64 pixel大小 batch size 設32 那我GPU (CUDA)的記憶體使用量大概是 10* 4 + 32 *64 *64* 3 (彩色3channel)/10^6 NN大小 + 圖片一個batch總共大小 MBytes 這樣算對嗎? 謝謝各位高手了 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.136.15.78 ※ 文章網址: https://www.ptt.cc/bbs/DataScience/M.1555509078.A.E84.html
→
04/17 23:36, 5年前 , 1F
training time還有gradient的記憶體消耗
04/17 23:36, 1F
→
04/18 02:50, 5年前 , 2F
10*4是?? float32?? byte bit??
04/18 02:50, 2F
→
04/18 19:35, 5年前 , 3F
還有 model operator 也在 gpu 上
04/18 19:35, 3F
‣ 更多 Haikyuu 的文章
文章代碼(AID): #1SjozMw4 (DataScience)