[菜單] 200k 實驗室深度學習主機

看板PC_Shopping作者 (EEQQ)時間1年前 (2023/03/30 17:33), 1年前編輯推噓30(31推 1噓 48→)
留言80則, 29人參與, 1年前最新討論串1/1
趕畢業跑深度學習實驗，但目前工作站太爛，所以跟老師拿一筆錢升級工作站。 原本想鎖定兩張3090或兩張4090進行升級的，但廠商說他們沒有3090了，所以開了一張有兩 個4090的單，但有點超過預算，想請各位幫忙健檢一下，看看哪裡可以換@@，還沒口試就花 教授一堆錢，很抖QQ 已買/未買/已付訂金（元）：未買 預算/用途：200K 實驗室深度學習機 CPU (中央處理器)：Intel i9-13900 MB (主機板)：華碩Z790-A GAMING WIFI主機板 RAM (記憶體)：芝奇幻鋒 D5-5600 32G * 2 VGA (顯示卡)：技嘉GeForce RTX4090 GAMING OC * 2 Cooler (散熱器)：Noctua NF-A14 PWM 14cm風扇 * 4 SSD (固態硬碟)：Samsung 980 PRO 2TB NVMe M.2 PSU (電源供應器)：全漢HYDRO PTM PRO 1200W ATX3.0 * 2 CHASSIS (機殼)：Phanteks ENTHOO ELITE電腦機殼 水冷：NZXT Kraken X73 水冷散熱器 其它 (自填)： 總價 (未稅/含稅)：235000 (含稅) 另外想請問，聽說40系列沒有nvlink了，那這樣我是不是不能把兩張卡合在訓練模型？我主 要用tensorflow的package，tf的strategy可以把兩張4090的ram合在一起看嗎？如果不行的 話是不是買一張4090就好了... -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 136.23.35.40 (日本) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1680168816.A.1F1.html
推
03/30 17:35, 1年前 , 1F
不用砍啦 反正教授的錢也是花學校的錢 學校的錢也是花研究
03/30 17:35, 1F
→
03/30 17:35, 1年前 , 2F
計畫預算 研究計畫的預算又來自繳稅的錢 然後你又遲早會繳
03/30 17:35, 2F
→
03/30 17:35, 1年前 , 3F
稅 想想這其實也是花你自己的錢 直接買了啦!
03/30 17:35, 3F
→
03/30 17:37, 1年前 , 4F
多卡訓練一直都跟nvlink無關吧
03/30 17:37, 4F
→
03/30 17:39, 1年前 , 5F
如果batch大一點或模型大一點的話，一張卡24G可能不夠
03/30 17:39, 5F
→
03/30 17:39, 1年前 , 6F
用…
03/30 17:39, 6F
→
03/30 17:40, 1年前 , 7F
實驗室不直接找廠商弄嗎…
03/30 17:40, 7F
推
03/30 17:40, 1年前 , 8F
板不需要a有更好的選擇 要拿d5就拿超過6000的
03/30 17:40, 8F
→
03/30 17:40, 1年前 , 9F
以後畢業了還被叩回去修電腦
03/30 17:40, 9F
→
03/30 17:41, 1年前 , 10F
原文有說這是廠商報的單喔！
03/30 17:41, 10F
→
03/30 17:42, 1年前 , 11F
哦沒看到 抱歉
03/30 17:42, 11F
→
03/30 17:42, 1年前 , 12F
先把三星的ssd換掉 爛廠商問題一堆
03/30 17:42, 12F
推
03/30 17:42, 1年前 , 13F
20萬預算 有沒有考慮用GA100啊
03/30 17:42, 13F
這會爆預算吧…
→
03/30 17:43, 1年前 , 14F
電源不用兩台1200吧 哪吃那麼多電需要2400w
03/30 17:43, 14F
→
03/30 17:45, 1年前 , 15F
風扇可以不用買貓頭鷹的，而且這顆不是A12*25沒特別強
03/30 17:45, 15F
※ 編輯: EEQQ102938 (223.136.228.193 臺灣), 03/30/2023 17:47:22
→
03/30 17:48, 1年前 , 16F
然後記憶體也不用買芝奇的，芝奇也是特別貴的那種，時
03/30 17:48, 16F
→
03/30 17:48, 1年前 , 17F
脈至少買到6000
03/30 17:48, 17F
推
03/30 18:10, 1年前 , 18F
放個高速的HDD吧，SSD掛掉模型找不回來會嘔死
03/30 18:10, 18F
→
03/30 18:11, 1年前 , 19F
深度學習吃SSD的程度很可怕的，尤其是YOLO 那一類圖像
03/30 18:11, 19F
→
03/30 18:11, 1年前 , 20F
的吃很重
03/30 18:11, 20F
推
03/30 18:13, 1年前 , 21F
記得查一下你用的框架版本，萬一硬體太新不支援就哭了
03/30 18:13, 21F
推
03/30 18:15, 1年前 , 22F
怕掉資料就組raid吧
03/30 18:15, 22F
※ 編輯: EEQQ102938 (223.136.228.193 臺灣), 03/30/2023 18:16:58
推
03/30 18:17, 1年前 , 23F
樓上說得對，組raid,不然你光是保內把ssd操壞就有得受
03/30 18:17, 23F
→
03/30 18:17, 1年前 , 24F
了
03/30 18:17, 24F
推
03/30 18:20, 1年前 , 25F
學校破10萬不是要公開招標嗎
03/30 18:20, 25F
→
03/30 18:21, 1年前 , 26F
然後雙卡請買HEDT以上
03/30 18:21, 26F
推
03/30 18:23, 1年前 , 27F
這張主板不妥吧，只有第一槽是x16，下面兩槽都只有x4頻寬
03/30 18:23, 27F
→
03/30 18:23, 1年前 , 28F
而已
03/30 18:23, 28F
→
03/30 18:26, 1年前 , 29F
有破10萬要招標這回事嗎，儀器隨便幾十萬沒有聽說過招
03/30 18:26, 29F
→
03/30 18:26, 1年前 , 30F
標欸
03/30 18:26, 30F
推
03/30 18:31, 1年前 , 31F
主板直接用W680的吧，華碩那張也不貴，只是我也不知道這
03/30 18:31, 31F
→
03/30 18:31, 1年前 , 32F
兩槽那麼近能不能裝兩張4090就是了，另外記憶體看能不能
03/30 18:31, 32F
→
03/30 18:31, 1年前 , 33F
找到ECC的，跑起來比較穩，比速度重要多了
03/30 18:31, 33F
推
03/30 18:31, 1年前 , 34F
實驗室經費自己買的不用招標吧
03/30 18:31, 34F
推
03/30 18:42, 1年前 , 35F
建議先去TWCC測試一下你的訓練多卡到底能不能用
03/30 18:42, 35F
→
03/30 18:42, 1年前 , 36F
tf多卡訓練很謎
03/30 18:42, 36F
推
03/30 18:46, 1年前 , 37F
我也是配置兩張4090，但機殼因為怕散熱有問題，所以
03/30 18:46, 37F
→
03/30 18:46, 1年前 , 38F
是用礦機架加pcie延長線讓兩張顯卡有空間，兩張同時
03/30 18:46, 38F
→
03/30 18:46, 1年前 , 39F
跑的話會蠻熱的，所以機殼的散熱最好問一下廠商可不
03/30 18:46, 39F
→
03/30 18:46, 1年前 , 40F
可行
03/30 18:46, 40F
兩張4090可以share vram嗎？
推
03/30 18:47, 1年前 , 41F
主板不行 風冷佔3點多槽 你第二張卡只剩PCIe 3.0 x1
03/30 18:47, 41F
→
03/30 18:48, 1年前 , 42F
除非你用延長線
03/30 18:48, 42F
→
03/30 18:49, 1年前 , 43F
速度建議至少要有PCIE3.0 X8 (=PCIE4.0 X4)
03/30 18:49, 43F
→
03/30 18:51, 1年前 , 44F
另外你要跑的是哪個領域 CPU 13700系列就非常足夠了
03/30 18:51, 44F
推
03/30 18:56, 1年前 , 45F
訓練若單卡VRAM夠 多卡可以同時跑不同超參數的
03/30 18:56, 45F
→
03/30 18:56, 1年前 , 46F
提高效率
03/30 18:56, 46F
→
03/30 18:58, 1年前 , 47F
另外 你這台要放實驗室還是24小時冷氣server room?
03/30 18:58, 47F
會放在24hr 冷氣的server room喔
推
03/30 19:16, 1年前 , 48F
實驗室來張A6000啊
03/30 19:16, 48F
→
03/30 19:16, 1年前 , 49F
現在A6000不好 要6000 ADA才夠快
03/30 19:16, 49F
※ 編輯: EEQQ102938 (223.136.228.193 臺灣), 03/30/2023 19:17:51 ※ 編輯: EEQQ102938 (223.136.228.193 臺灣), 03/30/2023 19:18:11
→
03/30 19:19, 1年前 , 50F
看下來目前應該是換主板，儲存從SSD換HDD，Ram換頻率
03/30 19:19, 50F
→
03/30 19:19, 1年前 , 51F
高一點的嗎@@
03/30 19:19, 51F
推
03/30 19:27, 1年前 , 52F
實驗室拿一堆信仰外觀稅的零件好難懂
03/30 19:27, 52F
推
03/30 19:30, 1年前 , 53F
ML重點是ram大才能做cache,頻率其實沒那麼重要
03/30 19:30, 53F
推
03/30 19:36, 1年前 , 54F
不是要你SSD換HDD，是要你多準備空間存放模型的，SSD壞掉
03/30 19:36, 54F
→
03/30 19:36, 1年前 , 55F
還有得救，SSD還是要有，只是換別家的吧，980Pro還有0E問
03/30 19:36, 55F
→
03/30 19:36, 1年前 , 56F
題
03/30 19:36, 56F
推
03/30 19:36, 1年前 , 57F
為了你的畢業花那麼多錢喔，真好
03/30 19:36, 57F
推
03/30 20:01, 1年前 , 58F
怎麼不直接買server 效能非家用級能比
03/30 20:01, 58F
→
03/30 20:03, 1年前 , 59F
SSD你還是要有 HDD只是多放備用的
03/30 20:03, 59F
→
03/30 20:05, 1年前 , 60F
當我沒說 光一個data center等級GPU就爆預算==
03/30 20:05, 60F
推
03/30 20:07, 1年前 , 61F
10萬以上是可以選擇公開招標 100萬以上才是強制公開招標
03/30 20:07, 61F
推
03/30 20:30, 1年前 , 62F
可是寫限制招標文件很麻煩
03/30 20:30, 62F
推
03/30 20:44, 1年前 , 63F
如果訓練需要較大的VRAM的話，我是用pytorch DDP去處
03/30 20:44, 63F
→
03/30 20:44, 1年前 , 64F
理，TF的沒用過
03/30 20:44, 64F
→
03/30 20:45, 1年前 , 65F
之前弄兩張3090塞機殼裡面熱到哭 只好弄礦架在外面跑
03/30 20:45, 65F
→
03/30 20:45, 1年前 , 66F
qq
03/30 20:45, 66F
推
03/30 20:58, 1年前 , 67F
怎麼看都像台信仰機 哪間學校碩
03/30 20:58, 67F
→
03/30 22:25, 1年前 , 68F
信仰？零件沒有AMD哪來的信仰(笑)
03/30 22:25, 68F
推
03/30 22:42, 1年前 , 69F
如果你今年確定畢業，買個pcie4的SSD用完就滾了，壞了
03/30 22:42, 69F
→
03/30 22:42, 1年前 , 70F
給學弟負責（x
03/30 22:42, 70F
推
03/31 00:17, 1年前 , 71F
這台太羊了
03/31 00:17, 71F
噓
03/31 00:34, 1年前 , 72F
實驗室禁用冷筍
03/31 00:34, 72F
推
03/31 10:55, 1年前 , 73F
原來實驗室可以自己組電腦 我以為都會想要用工業電腦XD
03/31 10:55, 73F
→
03/31 10:55, 1年前 , 74F
DD
03/31 10:55, 74F
推
03/31 11:54, 1年前 , 75F
實驗室可以用自組啊 看過不少台了
03/31 11:54, 75F
→
03/31 11:54, 1年前 , 76F
不過通常都是找廠商報價 讓她幫你買零件
03/31 11:54, 76F
→
03/31 11:55, 1年前 , 77F
讓她幫你組 最後有問題還是可以找廠商
03/31 11:55, 77F
推
03/31 13:08, 1年前 , 78F
記憶體拿6000以上的比較有意義t-create 6000 32G*2雙通道
03/31 13:08, 78F
→
03/31 13:08, 1年前 , 79F
這種的不貴
03/31 13:08, 79F
推
04/01 12:50, 1年前 , 80F
做深度學習記憶體速度影響不太 挑便宜的就可以了
04/01 12:50, 80F
‣ 更多 EEQQ102938 的文章
文章代碼(AID): #1a9LTm7n (PC_Shopping)