Re: [新聞] 輝達H100晶片紓壓了 訂單大戶開始轉售

看板Stock作者 (型男)時間1月前 (2024/03/03 01:59), 1月前編輯推噓19(20推 1噓 18→)
留言39則, 26人參與, 1月前最新討論串4/4 (看更多)
其實大家說老黃 CUDA 的護城河之深，不是沒理由的。 RTX 系列本身就內建 Tensor core，可以針對machine learning 做加速運算，例如 G 家的 Tensorflow 和 Meta 的Pytorch 都可以利用到 CUDA-X 函式庫加速在訓練和推理的運算 有人說 Tensorflow 利用 TPU 可以繞過 CUDA，不過目前最新 G家的 TPU v4 還在拿老黃2020 年發表的A100 在比，贏了好像也 沒啥了不起的。大家一直以來好奇的是 TPU 跟目前最夯的H100比 的話有啥優勢，我看是很難。然後 B100 在三個禮拜後的GTC 就要 跟大家見面惹。 這樣說吧，RTX 你買了之後，可以玩 Tensorflow ，哪天想玩Pytorch， 一樣可以給你加速。阿G家自研 TPU 咧? 可以用在 Pytorch 框架嗎? 就好像大家都知道挖比特幣用礦機效率比較高，不過礦機只能挖比特幣， 你想挖ETH，就要買 ETH 礦機，哪天這些幣都崩了，你的礦機也等於廢了 如果把老黃的客戶佔比拿出來看 (這應該是自行估算) : https://upload.cc/i1/2024/03/03/j2m8Iz.jpg
M$ : 15% 臉書: 13% 亞麻: 6% G : 6% 四大差不多佔老黃四成營收，其中買最少的就是G，受惠AI題材最少的剛好 也是G，幫GG QQ 我看多跟老黃買一些H100說不定還可扳回一城。 然後阿婆已經決定放棄造車惹，會把這些人轉去AI，是說這陣子講到AI， 最沒話語權的就是A家 XD A家會不會痛定思痛，對NV狂下訂單，這個值得觀察， 畢竟A有的是$$$ XDDD 好惹，NV 今年財會年度整年EPS至少都估23 甚至26、27，目標價大概在800~1200 如果我是老黃，財報會做穩一點，一季就增個2~3B，慢慢拉上去，這樣不香嗎? 困霸數錢的生活很無聊der，沒事2倍或3倍槓桿幹進去，不小心一月這波也賺好幾百 了，財富的盡頭會在哪，就看老黃惹XDD To 惹 Moon~~~困霸數錢，薯條++++ DA~~ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 175.182.109.129 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1709402392.A.6EF.html ※ 編輯: MiniArse (175.182.109.129 臺灣), 03/03/2024 02:00:30
推
03/03 02:13, 1月前 , 1F
賺太多抱不住怎辦 好想砍掉買陶朱隱園
03/03 02:13, 1F
推
03/03 02:19, 1月前 , 2F
頂不住了 換買點nvdl
03/03 02:19, 2F
推
03/03 02:28, 1月前 , 3F
A家自己的M系列晶片就能跑AI，沒有想像中的落後吧！
03/03 02:28, 3F
→
03/03 02:28, 1月前 , 4F
？
03/03 02:28, 4F
→
03/03 02:36, 1月前 , 5F
M系列跑ai model? 小型幾百Mb inference 還可以，再
03/03 02:36, 5F
→
03/03 02:36, 1月前 , 6F
往上就不行了。現在大型model 的training 跟inferen
03/03 02:36, 6F
→
03/03 02:36, 1月前 , 7F
ce 都是在cloud ，沒有任何一個是在edge完成，果家g
03/03 02:36, 7F
→
03/03 02:36, 1月前 , 8F
pu還很爛一定要跟nvda買
03/03 02:36, 8F
推
03/03 03:27, 1月前 , 9F
開頭就倒因為果了吧 當初就是cuda快所以被ml領域拿
03/03 03:27, 9F
→
03/03 03:27, 1月前 , 10F
去應用發展 不是rtx內建 那本來就是人家的基礎
03/03 03:27, 10F
→
03/03 04:32, 1月前 , 11F
tpu去年第三季就有v5 了
03/03 04:32, 11F
推
03/03 06:29, 1月前 , 12F
果家要不要改支援Nv 顯卡
03/03 06:29, 12F
推
03/03 06:35, 1月前 , 13F
買NVD3了
03/03 06:35, 13F
推
03/03 08:38, 1月前 , 14F
明白人
03/03 08:38, 14F
推
03/03 09:12, 1月前 , 15F
GTC前還有上車的機會。票之後會漲價
03/03 09:12, 15F
推
03/03 09:58, 1月前 , 16F
g家寫的出tensorflow底層要改opencl valkan 找幾個
03/03 09:58, 16F
→
03/03 09:58, 1月前 , 17F
把ir 寫一寫就好 然後你查一下xla 可以用pytorch
03/03 09:58, 17F
推
03/03 10:03, 1月前 , 18F
還有tpu/gpu 比算力也不太像這樣比 還要比耗電冷卻
03/03 10:03, 18F
→
03/03 10:03, 1月前 , 19F
整體花費用gpu 建的搞不好都可以讓tpu 多塞好幾千
03/03 10:03, 19F
→
03/03 10:03, 1月前 , 20F
張
03/03 10:03, 20F
剛看去年底發表的 TPU v5 確實可以支援Pytorch，TPU v4 我就不知道惹 後來大家猛然發現 G 家的TPU 其實是找 Broadcom 合作 networking 的IP才搞出來的 大家以為 G 家繳給老黃的保護費比較少，其實該繳的還是要繳，只是繳給 Hock Tan XD 去年 B 家的 ASIC 營收大幅成長，就是G貢獻der 難怪老黃開始打 ASIC生意的主意，Meta 雖然買很多，但祖克伯沒放棄ASIC 還有阿婆以及其他排隊等著做生成式AI 的公司，B 家光靠 ASIC 一年也有幾十億鎂的收入 老實說單就 ASIC 跟 GPU 比，ASIC 效率比較好是應該的，不然幹嘛做 ASIC? 不過老黃提供的是整套系統和 full software stack，當中除了GPU性能，還有 networking、散熱、可靠度等等，不是只賣 GPU 而已。
→
03/03 10:15, 1月前 , 21F
cudnn
03/03 10:15, 21F
→
03/03 10:16, 1月前 , 22F
soxl 這兩個月直接一倍給你看
03/03 10:16, 22F
推
03/03 10:27, 1月前 , 23F
等著看阿婆急著追 AI！再回頭翻翻一些人對阿婆的 A
03/03 10:27, 23F
→
03/03 10:28, 1月前 , 24F
I 護航文，感覺會很有趣！
03/03 10:28, 24F
推
03/03 10:39, 1月前 , 25F
買陶朱隱園 沒有鄰居 確定要買嗎
03/03 10:39, 25F
推
03/03 10:58, 1月前 , 26F
好奇陶朱隱園的管理費一個月要多少呀？
03/03 10:58, 26F
推
03/03 10:59, 1月前 , 27F
直接包棟更爽R
03/03 10:59, 27F
推
03/03 11:14, 1月前 , 28F
跑ai大家都跑的動呀 要跑多久的問題而已
03/03 11:14, 28F
推
03/03 11:22, 1月前 , 29F
ID正確 推推
03/03 11:22, 29F
噓
03/03 11:40, 1月前 , 30F
NV大客戶少算一家！
03/03 11:40, 30F
→
03/03 11:41, 1月前 , 31F
水果還在問問而已！
03/03 11:41, 31F
推
03/03 12:28, 1月前 , 32F
水果要是真的跟NV買的話，會讓股價破千
03/03 12:28, 32F
→
03/03 13:33, 1月前 , 33F
感謝老黃，我的SMCI翻好幾倍了QAQ
03/03 13:33, 33F
→
03/03 16:54, 1月前 , 34F
輝達利多太多，那天蘋果也要下單建制資料處理中心，
03/03 16:54, 34F
→
03/03 16:54, 1月前 , 35F
輝達又要爆噴～
03/03 16:54, 35F
推
03/03 20:15, 1月前 , 36F
M晶片拿來跑LLM喔？是要跑到老馬上火星嗎，阿婆的M
03/03 20:15, 36F
→
03/03 20:15, 1月前 , 37F
晶片跟H100比已經不是懶覺比雞腿了欸
03/03 20:15, 37F
推
03/03 22:08, 1月前 , 38F
以阿婆人力，用amd gpu+rocm 不是不可能吧
03/03 22:08, 38F
※ 編輯: MiniArse (175.182.109.129 臺灣), 03/03/2024 22:25:28
推
03/04 07:26, 1月前 , 39F
我敢肯定不是這週回檔，大概也是下週了
03/04 07:26, 39F
‣ 更多 MiniArse 的文章
文章代碼(AID): #1busaORl (Stock)
‣ 更多 MiniArse 的文章
文章代碼(AID): #1busaORl (Stock)