[菜單] 120k AI模型訓練機

看板PC_Shopping作者 (哦業 小啾寶)時間1月前 (2024/03/25 22:24), 1月前編輯推噓9(9推 0噓 51→)
留言60則, 8人參與, 1月前最新討論串1/1
已買/未買/已付訂金（元）：未買 預算/用途：AI模型訓練，希望之後可以擴充雙4090顯卡 有幾個蠢問題 1. 是否DDR4就夠了，不用上5 2. 14700K跟非K會差很多嗎? 如果改用14700F的話，是否FC140就夠了，不用上水冷 3. 雙顯卡插得下嗎? 1500w是否夠，會不會裡面變火球 4. SSD打算一個系統一個跑資料用，是否拿個4tb就夠了? CPU (中央處理器)：Intel i7-14700K【20核/28緒】3.4G(↑5.6G)/33M/UHD770/無風扇 MB (主機板)：華碩 TUF GAMING Z790-PRO WIFI RAM (記憶體)：威剛 64GB(雙通32GB*2) DDR5 6000 XPG Lancer/CL30 VGA (顯示卡)：華碩 TUF-RTX4090-O24G-GAMING(2595MHz/35cm/註五年) Cooler (散熱器)：微星 MAG CoreLiquid M360 /A.RGB冷頭+風扇/厚:5.2 SSD (固態硬碟)： 美光Micron Crucial T500 1TB含散熱片/Gen4/讀:7400M/寫:7000M/3D TLC顆粒 美光Micron Crucial T500 2TB含散熱片/Gen4/讀:7400M/寫:7000M/3D TLC顆粒 HDD (硬碟)： PSU (電源供應器)：be quiet! Dark Power Pro 12 1500W CHASSIS (機殼)：聯力 LANCOOL 216 RGB 黑 MONITOR (螢幕)： Mouse/KB (鼠鍵)： OS (作業系統)： 其它 (自填)：酷碼 VGA Holder 顯卡用支架 總價 (未稅/含稅)：120000左右 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.34.150.62 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1711376665.A.A18.html
→
03/25 22:31, 1月前 , 1F
不想上水就14700/14700F
03/25 22:31, 1F
→
03/25 22:32, 1月前 , 2F
一張卡用PCIE延長線
03/25 22:32, 2F
→
03/25 22:33, 1月前 , 3F
DR5大容量貴 看你的用途對ddr5有沒有
03/25 22:33, 3F
→
03/25 22:33, 1月前 , 4F
硬性需求
03/25 22:33, 4F
→
03/25 22:33, 1月前 , 5F
T500含散熱片很貴
03/25 22:33, 5F
→
03/25 22:34, 1月前 , 6F
資料看你會不會用到滿載讀寫
03/25 22:34, 6F
→
03/25 22:34, 1月前 , 7F
不然也能考慮GEN3
03/25 22:34, 7F
所以其實用14700就夠了 然後DDR4 這樣可以不上水冷
→
03/25 22:35, 1月前 , 8F
接頭的問題不保證
03/25 22:35, 8F
→
03/25 22:41, 1月前 , 9F
PSU那組有兩個給顯卡的輸出嗎
03/25 22:41, 9F
→
03/25 22:43, 1月前 , 10F
RTX A6000?
03/25 22:43, 10F
對阿 沒有甚麼找到有人這樣組 很怕跑不起來
推
03/25 22:43, 1月前 , 11F
借問消費平台用雙顯卡PCIe通道數夠嗎
03/25 22:43, 11F
好像兩張的話都走PCIE x8 ※ 編輯: aces3732 (1.34.150.62 臺灣), 03/25/2024 22:51:34
→
03/25 22:58, 1月前 , 12F
以前有人在板上問過雙4090 後續我忘
03/25 22:58, 12F
→
03/25 22:58, 1月前 , 13F
了 真的太冷門
03/25 22:58, 13F
推
03/25 23:22, 1月前 , 14F
D5的問題是插到四條不穩 再加上比較貴
03/25 23:22, 14F
→
03/25 23:22, 1月前 , 15F
夠不夠用就看你要跑的東西會不會吃到記憶體
03/25 23:22, 15F
→
03/25 23:22, 1月前 , 16F
的速度 但目前只有少數軟體會有影響
03/25 23:22, 16F
推
03/25 23:27, 1月前 , 17F
CPU跟SSD的部分也一樣 夠不夠用都是看你
03/25 23:27, 17F
→
03/25 23:27, 1月前 , 18F
跑的程式會吃多少資源 通常跑AI相關的會吃
03/25 23:27, 18F
→
03/25 23:27, 1月前 , 19F
的是顯卡 CPU影響比較小 只要不要太老的都
03/25 23:27, 19F
→
03/25 23:27, 1月前 , 20F
堪用 SSD也是只要資料塞的下就夠了 在這個
03/25 23:27, 20F
→
03/25 23:27, 1月前 , 21F
前提下 上去全都是浪費
03/25 23:27, 21F
推
03/25 23:31, 1月前 , 22F
然後你這種組法已經是個人電腦最頂的了
03/25 23:31, 22F
→
03/25 23:31, 1月前 , 23F
再上去就企業級了 所以只要你跑的程式是有
03/25 23:31, 23F
→
03/25 23:31, 1月前 , 24F
讓個人使用的東西 這台至少贏九成以上的人
03/25 23:31, 24F
→
03/25 23:31, 1月前 , 25F
應該是不用擔心不夠用的問題
03/25 23:31, 25F
→
03/25 23:32, 1月前 , 26F
現在一堆跑AI的拿個I5 4060TI都在跑了
03/25 23:32, 26F
→
03/25 23:32, 1月前 , 27F
沒理由這台不夠用
03/25 23:32, 27F
→
03/25 23:34, 1月前 , 28F
跑圖和模型訓練不能類比吧= =
03/25 23:34, 28F
推
03/25 23:36, 1月前 , 29F
還是能跑啦 就只是速度的問題而已
03/25 23:36, 29F
→
03/25 23:38, 1月前 , 30F
只問夠不夠是一定堪用 但堪用能不能到達
03/25 23:38, 30F
→
03/25 23:38, 1月前 , 31F
滿意的效益 這就是要看要求到哪裡
03/25 23:38, 31F
→
03/25 23:39, 1月前 , 32F
我是覺得原PO有點太焦慮了 組到最頂沒理由
03/25 23:39, 32F
→
03/25 23:39, 1月前 , 33F
跑不起來
03/25 23:39, 33F
推
03/25 23:57, 1月前 , 34F
1. 會有差一點 個位數%
03/25 23:57, 34F
→
03/25 23:57, 1月前 , 35F
2. 基本沒差 FC140就夠
03/25 23:57, 35F
→
03/25 23:58, 1月前 , 36F
3. 應該插不下 雙4090機殼要底深
03/25 23:58, 36F
→
03/25 23:58, 1月前 , 37F
主機板要拿x8x8 中間隔四槽 預算會高不少
03/25 23:58, 37F
→
03/25 23:59, 1月前 , 38F
4. SSD系統1TB 訓練資料 2T足夠
03/25 23:59, 38F
→
03/25 23:59, 1月前 , 39F
其他資料放HDD或額外買NAS備份
03/25 23:59, 39F
→
03/26 00:02, 1月前 , 40F
然後不要太樂觀覺得雙4090可以幹嘛
03/26 00:02, 40F
→
03/26 00:02, 1月前 , 41F
現在大一點的模型都要8卡伺服器起跳
03/26 00:02, 41F
→
03/26 00:02, 1月前 , 42F
小模型的話1張跟2張差別
03/26 00:02, 42F
→
03/26 00:02, 1月前 , 43F
就是分布式訓練可以縮短最多一半的時間
03/26 00:02, 43F
→
03/26 00:04, 1月前 , 44F
可以講一下要訓練什麼模型
03/26 00:04, 44F
推
03/26 00:42, 1月前 , 45F
能雙卡還是雙卡，我這邊有看到一些解決
03/26 00:42, 45F
→
03/26 00:42, 1月前 , 46F
方案完全不支援單卡運算的，多買一張省
03/26 00:42, 46F
→
03/26 00:42, 1月前 , 47F
工時省重新建置時間。
03/26 00:42, 47F
→
03/26 05:52, 1月前 , 48F
模型訓練又雙4090，就上D5吧
03/26 05:52, 48F
→
03/26 05:53, 1月前 , 49F
不然記憶體速度會變瓶頸，高壓狀態下D5
03/26 05:53, 49F
→
03/26 05:53, 1月前 , 50F
有幫助
03/26 05:53, 50F
→
03/26 05:54, 1月前 , 51F
這場景D5算是派上用場了
03/26 05:54, 51F
→
03/26 05:58, 1月前 , 52F
即使雙顯卡也不需要147k
03/26 05:58, 52F
推
03/26 07:45, 1月前 , 53F
上D5 D4的板子沒有雙PCIE4x8的 第二根都x4
03/26 07:45, 53F
推
03/26 11:35, 1月前 , 54F
CPU的需求是依前處理的複雜程度而定
03/26 11:35, 54F
→
03/26 11:35, 1月前 , 55F
現在有一些開源的前處理做得挺複雜
03/26 11:35, 55F
→
03/26 11:35, 1月前 , 56F
CPU就會變瓶頸
03/26 11:35, 56F
→
03/26 12:38, 1月前 , 57F
帶k多那4%效能，要上水冷沒什麼意義
03/26 12:38, 57F
→
03/26 12:39, 1月前 , 58F
不然上149k，核心多一點，降壓比較實在
03/26 12:39, 58F
→
03/26 18:19, 1月前 , 59F
你這用途 SSD都是2T起跳 不要省插槽 電源
03/26 18:19, 59F
→
03/26 18:19, 1月前 , 60F
有海韻TX1600 這筆錢不要省
03/26 18:19, 60F
‣ 更多 aces3732 的文章
文章代碼(AID): #1c0OaPeO (PC_Shopping)