[心得] 100K 深度學習機 Deep Learning

看板PC_Shopping作者 (Cory)時間7年前 (2017/04/19 23:43), 7年前編輯推噓46(47推 1噓 29→)
留言77則, 41人參與, 最新討論串1/1
最近深度學習 (Deep Learning) 還蠻紅的 紅到什麼程度呢 ? 讓 NVIDIA CEO 老黃都自稱 NVIDIA 是 AI Computing Company NV兩年內股價漲 5 倍 GTC 大會整場都在宣傳 AI / Deep Learning 有興趣可以看老黃 GTC 大會演講 https://www.youtube.com/watch?v=FPM3nmlaN00
剛好小弟苦命研究生 論文是做這個題目 無奈 Server GPU 大家都要用 很難搶到運算資源 於是乾脆自己組一台 PC 來跑 分享一下自己目前組的這台機器 供大家參考 -- CPU intel i7-7700K 10,800 MB ASUS Z270-AR 4,690 RAM 美光 DDR4-2400 16G ----- x4 12,000 GPU MSI 1080Ti Sea Hawk X --- x2 50,000 SSD 美光 MX300 750G SSD 6,000 HDD Toshiba 2TB 2,000 PSU Leadex 1000W 白金 5,000 CASE Corsair Carbide 400R 2,500 LCD LG 29UM57 7,500 KB Filco 忍者 茶軸 + PBT 鍵帽 5,000 MOUSE 羅技 G402 1,000 ----------------------------------- Total ~ 100,000 -- 同場加映 如果只有4~6萬預算 建議的配備 CPU intel i5-7500 6,400 intel i7-7700K (+5,000) MB B250系列 自選 3,000 RAM DDR4 16G*2 6,000 GPU MSI GTX1080Ti GAMING X 24,600 GTX1080 系列 自選 (-7,000) GTX1070 系列 自選 (-10,000) SSD MX300 525G 4,500 MX300 275G (-2,000) HDD Toshiba 2TB 2,000 PSU 台達 650W 2,500 CASE 自選 2,000 ----------------------------------- Total ~ 50,000 回正題 來看 100K 水冷的配置 外觀 http://i.imgur.com/SqQPHav.jpg
開側板 http://i.imgur.com/W03PGoq.jpg
顯卡水冷直通機頂 http://i.imgur.com/19E9XXx.jpg
從外面(上方往下看) 高級發光烘手機 http://i.imgur.com/qXpRDyb.jpg
箱子排排站 http://i.imgur.com/ufK69uR.jpg
待機 35度 (室溫28) http://i.imgur.com/Jvf71C0.png
Furmark 燒機10分鐘 65度 水冷壓制力十分驚人 http://i.imgur.com/R9X56Zh.png
跑 deep learning (trainging) 可以看到完全把 GPU 吃滿滿 http://i.imgur.com/jMVCWRl.png
-- 心得 其實之前一直沒用過水冷的，這次被店員洗腦說沒差一千塊，直上比較好。 裝上去實測確實散熱能力很好 ( 相較另一張 MSI Gaming X 80度) 整體噪音還可以接受 但還是有風扇聲 ( 因為機殼一堆洞 ) 我自己裝弄了半天 零件卡來卡去 要橋很久 建議請店員裝 省事 = 3 = 備註 1. 原本直接拿海盜 RM650i 跑 兩張 GPU 同時滿載 = 斷電關機 這樣的配置 1000W 是必要的 2. 用兩張水冷 1080Ti 算是失誤買的 最好還是買公版 不然裝機弄半天 累死 要雙GPU以上的話, 千萬不要買 2.5 槽的顯卡 e.g. ASUS STRIX, MSI Gaming X. 會吸不到冷風 且對流極差 3. 如果只有單張 1080Ti 650W 應該就OK了 4. 不要買 TITAN X系列 or Server用的 GPU 除非你錢太多沒地方花 個人/實驗室用 5~20萬 1080 ~ 1080Ti SLI 這樣組 C/P 最高 5. i5 / i7 沒差多少錢 ( 相較之下 ) 建議直上 7700K 畢竟 preprocessing 還有其他東西 蠻多也需要 CPU 來算 6. RAM 可以的話也塞到 64G 比較好 像是 dataset 可以直接塞到 RAM 很爽 避免 RAM 不夠大 會切到 swap 造成 read/write 時間拉長 7. SSD 建議 500G 以上 有錢的話買個 1T PCIE SSD 更好 因為像是 image 相關的 dataset 很容易都 100G 以上 還有 train 出來的 weight 也都蠻肥的 8. 如果沒電腦的想租 AWS / GCP 雲端主機 GPU 來跑的話 建議可以放棄這條路了 雲端目前都是骨董級 GPU K80 $ 0.7 USD/hour = 500 NTD/day = 15K NTD/month 更何況 K80 比 1080TI 不知道慢幾倍 大概是這樣 小弟做這個領域一年的心得 供大家參考 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 122.116.226.159 ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1492616599.A.241.html
推
04/19 23:45, , 1F
是來順便傳道f教的嗎XD
04/19 23:45, 1F
用 199 薄膜鍵盤寫 code 心情會很差 會寫出很多 bug ( 無誤 XD 每天打十幾小時的工具 投資這個 C/P 超高啊! 順便推 Ergohuman 111 人體工學椅 保持身心愉快必備 ! ※ 編輯: cory8249 (122.116.226.159), 04/19/2017 23:50:54
推
04/19 23:56, , 2F
有錢的菸酒生(眼神死
04/19 23:56, 2F
推
04/19 23:58, , 3F
不說服老闆再組一台嗎就不用自己花這麼多了
04/19 23:58, 3F
因為買新 Server 不知道還要等多久 ( 菸 而且遠端 ssh 有點難用 像我是做 realtime video 相關的 需要即時看結果比較方便 於是乾脆自己怒買 = w = ※ 編輯: cory8249 (122.116.226.159), 04/20/2017 00:05:57
→
04/20 00:18, , 4F
電腦配備有時太好 會凸顯學習得不怎樣
04/20 00:18, 4F
推
04/20 00:23, , 5F
我也想要用machine learning 來學習a34的發文 但是
04/20 00:23, 5F
→
04/20 00:23, , 6F
這個計畫被我的教授反對
04/20 00:23, 6F
→
04/20 00:24, , 7F
害我還花時間寫了幾頁的報告QQ
04/20 00:24, 7F
推
04/20 00:30, , 8F
交大？
04/20 00:30, 8F
推
04/20 00:31, , 9F
某樓一個邏輯0分的推論欸 可見當初邏輯學的不怎樣
04/20 00:31, 9F
推
04/20 00:33, , 10F
怎麼沒人用裸測架+工業扇跑多卡勒
04/20 00:33, 10F
推
04/20 00:39, , 11F
等等 組一台 是可以也把鍵盤算進去的嗎 XDDD
04/20 00:39, 11F
推
04/20 00:43, , 12F
鍵盤不算組成PC的必要元件嗎QQ
04/20 00:43, 12F
推
04/20 00:55, , 13F
強者我同學
04/20 00:55, 13F
→
04/20 00:59, , 14F
「電腦配備有時太好 會凸顯學習得不怎樣」問號.jpg
04/20 00:59, 14F
推
04/20 01:01, , 15F
設備還好啦 我們學校之前連nvidia telsa還是Xeon ph
04/20 01:01, 15F
→
04/20 01:01, , 16F
i(忘記是哪個了)都買了幾片跑專題了
04/20 01:01, 16F
→
04/20 01:04, , 17F
f不錯啊，我公司家裡各一支呢
04/20 01:04, 17F
推
04/20 01:14, , 18F
推
04/20 01:14, 18F
推
04/20 01:19, , 19F
我們部門是12張titan xp.當然要開門開電扇...
04/20 01:19, 19F
推
04/20 01:20, , 20F
GTX Titan X、Nvidia Titan X、Titan Xp
04/20 01:20, 20F
→
04/20 01:20, , 21F
這命名真的有夠爛
04/20 01:20, 21F
推
04/20 01:23, , 22F
反正同時期只能買到其中一張.這種東西花公司錢就沒
04/20 01:23, 22F
→
04/20 01:23, , 23F
差了
04/20 01:23, 23F
推
04/20 01:28, , 24F
前面幾篇的dick Learning配的超詭異的
04/20 01:28, 24F
推
04/20 01:41, , 25F
不是每個人都可以捏到100k的
04/20 01:41, 25F
噓
04/20 01:42, , 26F
公費出的話最爽
04/20 01:42, 26F
順便附一下 4~6萬預算的配置 供參考 個人實測 1080Ti 性能接近 1070 兩倍 有需要跑大一點的 model / dataset train 好幾天那種 建議還是直上 1080Ti ※ 編輯: cory8249 (122.116.226.159), 04/20/2017 02:09:53
推
04/20 02:12, , 27F
我當初遇到bug 直上hipro 就找到問題了
04/20 02:12, 27F
推
04/20 02:39, , 28F
推熱心,我配的跟你40~60k的差不多,就CPU,GPU較低階
04/20 02:39, 28F
推
04/20 02:43, , 29F
SSD 不上PCIe 的嗎? 快很多
04/20 02:43, 29F
→
04/20 02:48, , 30F
Pcie只是界面（遮臉）
04/20 02:48, 30F
推
04/20 02:51, , 31F
mayjan那句話是DL界的笑話嗎？我聽李宏毅講過
04/20 02:51, 31F
推
04/20 02:54, , 32F
苦命研究生+1,我只有自己e3-1240v2+K600可用，
04/20 02:54, 32F
→
04/20 02:54, , 33F
一個train要搞一個禮拜以上才能測完QQ
04/20 02:54, 33F
→
04/20 03:40, , 34F
現在CPU還會選 Intel 的 i5 i7 嗎？
04/20 03:40, 34F
→
04/20 03:41, , 35F
平行運算的話 Ryzen 應該比較強吧
04/20 03:41, 35F
推
04/20 04:18, , 36F
會選i5~i7的應該就剩公家機關與學校的台銀採購了
04/20 04:18, 36F
→
04/20 04:18, , 37F
台銀有誰開標會去開Ryzen的主機
04/20 04:18, 37F
推
04/20 04:39, , 38F
ryzen pcie通道比較少吧，重點是顯卡
04/20 04:39, 38F
推
04/20 05:42, , 39F
想到我兩年前用9600gt和e8400跑.... (菸)
04/20 05:42, 39F
→
04/20 05:42, , 40F
電腦丟下去跑我就跑去酒吧等資料了XD
04/20 05:42, 40F
→
04/20 08:23, , 41F
平行運算的操顯卡,依賴CPU的場合相對少
04/20 08:23, 41F
推
04/20 09:50, , 42F
有錢真好
04/20 09:50, 42F
推
04/20 10:37, , 43F
口袋深度學習機給推
04/20 10:37, 43F
推
04/20 10:48, , 44F
不考慮都扔上aws去跑嗎，規模可大可小的比較自由
04/20 10:48, 44F
→
04/20 10:50, , 45F
對不起我眼殘沒發現是一年，適合DL的都是最近才開的
04/20 10:50, 45F
推
04/20 11:35, , 46F
請問是什麼類的研究所呢 好好奇
04/20 11:35, 46F
主流大概都是 資工/電機 其他領域像是 統計/工工 也是有蠻多人在做
推
04/20 12:14, , 47F
deep learning用7700k?怎麼想都怪怪的
04/20 12:14, 47F
→
04/20 12:15, , 48F
雖然說機器學習是吃重顯卡啦 但7700k...怎麼看都是r
04/20 12:15, 48F
→
04/20 12:15, , 49F
7適合
04/20 12:15, 49F
→
04/20 12:31, , 50F
用7700K 1.PCIE通道比較多 2.不想硬體Debug
04/20 12:31, 50F
→
04/20 12:31, , 51F
coding的bug都解到累了
04/20 12:31, 51F
這位仁兄點出問題了 因為我不想冒險 Ryzen 剛出沒多久 Linux kernel driver 都還沒有出穩定版 做研究都來不及了 沒時間幫板廠 debug 當然先選穩定的牙膏廠 像是我這張 Z270 板子 一開始裝 Ubuntu 連網卡驅動都不會跑 (內建的有 bug) 還要自己上網抓 driver 改 code 重新 compile 才可以上網 如果一般不熟 Linux 的人 應該會很會卡很久 還有 Intel Math Kernel Library (MKL) 這包科學計算加速函式庫蠻多人在用的 對於 Machine Learning / Deep Learning 可以說是蠻必要的
推
04/20 12:49, , 52F
我也不用R7我自己是感覺INTEL CACHE技術是外星科技
04/20 12:49, 52F
→
04/20 12:49, , 53F
不是多開幾核跟的上的
04/20 12:49, 53F
推
04/20 12:52, , 54F
看到現在的GPU都覺得K40有夠垃圾的哈哈幫QQ
04/20 12:52, 54F
推
04/20 12:59, , 55F
都用這麼好了 鍵盤怎麼不用realforce的呢？
04/20 12:59, 55F
Realforce 有摸過 覺得還是喜歡茶軸的剛性 ^^ ※ 編輯: cory8249 (122.116.226.159), 04/20/2017 13:44:28
→
04/20 13:44, , 56F
主流消費級比PCIE通道比較多 你應該是沒真的拿PC處
04/20 13:44, 56F
→
04/20 13:45, , 57F
理過問題吧 再來快取技術? RYZEN這次是因為膠水
04/20 13:45, 57F
→
04/20 13:46, , 58F
導致L3延遲大 L1/2沒有輸甚至INTEL好嗎
04/20 13:46, 58F
推
04/20 16:44, , 59F
原PO試過用windows跑嗎 跟Linux比有什麼致命缺點嗎
04/20 16:44, 59F
因為 Deep Learning 生態系就是 based on Linux 當然現在有些 framework 有推 Windows 版 但是我相信一般做 Research 的人沒事不會想逆天跑去用 Windows ... XD 光是一堆 library dependency 就會搞死你了
推
04/20 17:12, , 60F
去年六月拿1070上的時候也是各種kernal panic..新
04/20 17:12, 60F
推
04/20 17:12, , 61F
平台就是這樣...
04/20 17:12, 61F
推
04/20 18:12, , 62F
用windows會手賤跑去玩遊戲
04/20 18:12, 62F
推
04/20 18:25, , 63F
Linux也可以玩好嗎.......
04/20 18:25, 63F
Linux 也可以裝 Chrome 上 PTT 耍廢 像我現在這樣 O_O ※ 編輯: cory8249 (122.116.226.159), 04/20/2017 21:49:22
推
04/20 21:54, , 64F
現在裝windows版的tf跑作業 沒什麼大問題 有機會來
04/20 21:54, 64F
→
04/20 21:55, , 65F
研究linux吧...
04/20 21:55, 65F
推
04/21 08:36, , 66F
很少人在windows上搞deep learning??
04/21 08:36, 66F
→
04/21 08:36, , 67F
我這不是來了嗎？(我快被搞死了)
04/21 08:36, 67F
推
04/22 20:39, , 68F
請問ram會吃到64g嗎
04/22 20:39, 68F
推
04/22 20:41, , 69F
還有請問能用空冷系統嗎 水冷有點抖
04/22 20:41, 69F
推
04/22 20:41, , 70F
另外鍵盤使用忍茶2白化版+PBT鍵帽XD
04/22 20:41, 70F
RAM 看應用 我自己爾偶會用到 40~50G RAM 不過大多都是自己程式問題 不是 framework 會吃這麼兇 空冷當然可呀 一般都是配置公板卡空冷 只是我不小心組成水冷 XD ※ 編輯: cory8249 (122.116.226.159), 04/22/2017 23:50:38
→
04/23 16:05, , 71F
請問你是自組還是給廠商組?
04/23 16:05, 71F
→
04/24 12:48, , 72F
自己組 所以搞半天類累死
04/24 12:48, 72F
推
04/26 20:35, , 73F
tensorflow-gpu有windows版了 用windows跑已非問題
04/26 20:35, 73F
推
04/27 15:41, , 74F
用linux的好處在於如果有需要改到tensorflow底層y
04/27 15:41, 74F
推
04/27 15:41, , 75F
在linux重新compile tensorflow遠比在windows上簡單
04/27 15:41, 75F
推
04/27 15:43, , 76F
當然如果只是用tensorflow跑跑模型，windows跟linux
04/27 15:43, 76F
→
04/27 15:43, , 77F
應該不會有太大的差異
04/27 15:43, 77F
‣ 更多 cory8249 的文章
文章代碼(AID): #1OzuMN91 (PC_Shopping)