Re: [新聞] 三星高層揭AI瓶頸：轉向記憶體運算與先進封裝成關鍵

看板Stock作者 (Channel Coding)時間13小時前 (2026/08/30 13:28), 12小時前編輯推噓24(25推 1噓 54→)
留言80則, 28人參與, 4小時前最新討論串3/4 (看更多)
在老黃定律沒出現前 運算效能大體就是照摩爾定律走 直到老黃提了個老黃定律 就是GPU計算效能每兩年翻倍 (或者有人認為老黃曾說過 智慧（AI）晶片的效能每十年會提升 1,000 倍 ) 從早期顯卡TNT那款開始 老黃的算力就是系統上 軟體硬體多核 去達到這效果 現在的GenAI的核心就是Autoregressive 簡單說就是token資訊是一顆顆產 因此算力和記憶體坪寬速度 可以互換 白算盤說過 你資訊產量 可以用很少記憶體 但是每次需要資訊重新計算就好 這就是透過大量算力換取記憶體小 反之 你也可以透過記憶體把事先資訊記憶好 不用重複計算 這就是用大量記憶換算力 現在的趨勢很明顯 你的算力在製程和架構上(比方GB200 拿兩個晶片 先進封裝合體) 這是個有極限 那按照老黃定律 算力就是系統整合的優化表現 那最簡單提高算力就是 把記憶體坪寬速度再追加 所以有了HBM 透過記憶體加速 然後記憶體要再加大加快 就是把HBM的層數往上疊 又或者最近的NVHBM 那就是把控制放到記憶體那邊 直接硬生生提高記憶體傳輸速度 這種系統層面就老黃強項啊 以前單顆晶片算力快 很多人當初吹得比老黃單晶片快 但拉到Data Center 老黃就是比人家強 靠者NVLink 一堆串連 就能提供整體算力比別家快 老黃就喜歡拉者一堆供應鏈整合 去痛揍競爭對手 從用台積電產能卡蘇媽 當年就玩過一次 現在老黃想要靠算力去揍人 就是走記憶體坪寬速度 這條路好處是 現在供應鏈都老黃人 日本韓國台灣 先進製程 ABF HBM 很早就有人說過算力大戰就是當年顯示卡算力大戰 當年老黃拉者技嘉 微星 一票OEM 去胖揍3DFX這個自己想搞自己品牌顯卡 老黃定律 這條路只是重新再走過一次 AI晶片大戰 這就是意味者 算力(超級電腦) 是一個軟體硬體全面整合的結果 這條路的終點 就是資料中心的建成 你其他算力小隊 只能靠架構去打 如果也要靠系統整合去提高算力 就會被HBM/ABF 先進製程 台積產能 這些廠商供應鏈卡死 我現在不買老黃是因為我已經有夠多老黃 加上他市值太大 沒有敷糗了 所以我寧願賭蘇媽 蘇媽不可能會輸的 喊出我立志餘生不再為哈佛MBA工作 這個公司一定能上2T 是不可能會輸的QQ 狗家就純生態圈 TPU就算是老二老三也不影響 他就是那個狗家聖殿 算力以後主流現在一定是朝坪寬速度這個來 存<->算 互換 就是記憶卡哇算力卡哇未來 坪寬速度你可以靠疊加HBM 老黃只是走了另一條捷徑 把控制器放到HBM 加快速度 這另一個好處就是 你家的HBM客製化給老黃用後 其他算力小隊是不能直接用 ※ 引述《psw (ICK)》之銘言： : 我看不懂這zHBM : 現意思是出現NVHBM可跟邏輯閘GPU搭讓三星嚇到要自創新規格意思？ : 畢竟記憶體離GPU太遠會拖慢運算效率？ : 強者解釋一下 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 98.37.67.135 (美國)
推
08/30 13:31, 13小時前 , 1F
AMD 1000
08/30 13:31, 1F
推
08/30 13:35, 13小時前 , 2F
為什麼是壓AMD?現在有推出什麼驚豔的晶片或產品嗎
08/30 13:35, 2F
就樓下這個概念 ai模型已經開始有 豪華版跟銅板價 兩者都是有大量市場 以後的算力平台八成也是這樣 豪華版跟銅板價 算力需求過大 老二喝湯 但股價上升幅度 會比老大快 因為市值低 就只是單純這樣的猜測 以及賭上蘇媽的人格特質
推
08/30 13:37, 13小時前 , 3F
AMD就是平窮版GPU
08/30 13:37, 3F
推
08/30 13:40, 13小時前 , 4F
蘇媽在供應鏈會被老黃玩死-.-
08/30 13:40, 4F
推
08/30 13:43, 12小時前 , 5F
確實啊 老黃市值已經很高了 買一些相對沒那麼高的不
08/30 13:43, 5F
→
08/30 13:43, 12小時前 , 6F
錯
08/30 13:43, 6F
推
08/30 13:47, 12小時前 , 7F
還不如買三星現在市值才1.23兆美
08/30 13:47, 7F
滿手記憶體個股和dram.....@@/ 記憶小隊 忠誠 這場戰爭贏了我們就能回家了 ※ 編輯: LDPC (98.37.67.135 美國), 08/30/2026 13:59:29
推
08/30 13:59, 12小時前 , 8F
我年初也是類似的想法 不過今年以來我覺得AMD跟老
08/30 13:59, 8F
→
08/30 13:59, 12小時前 , 9F
黃技術差距 沒有追近還被拉開了一點 雖然股價有追
08/30 13:59, 9F
→
08/30 13:59, 12小時前 , 10F
上 不過我老黃還不夠多 我還是先補老黃跟三大CSP
08/30 13:59, 10F
我老黃已經多到 股息換算成月薪約等台灣22k了.現在買股就著重在記憶sector+蘇媽+狗家
推
08/30 13:59, 12小時前 , 11F
嗚嗚嗚買到美股DRAM ETF 70往下撿到55
08/30 13:59, 11F
※ 編輯: LDPC (98.37.67.135 美國), 08/30/2026 14:01:44 ※ 編輯: LDPC (98.37.67.135 美國), 08/30/2026 14:02:41
→
08/30 14:05, 12小時前 , 12F
99蘇媽 和蘇媽合作的CBRS應該還有救吧 高位套牢
08/30 14:05, 12F
推
08/30 14:06, 12小時前 , 13F
謝謝
08/30 14:06, 13F
→
08/30 14:09, 12小時前 , 14F
我現在手上就是老黃家跟狗狗家，加上被套牢的核能
08/30 14:09, 14F
→
08/30 14:09, 12小時前 , 15F
股。我家人問我美股要買什麼，我一樣說買NVDA。我
08/30 14:09, 15F
→
08/30 14:09, 12小時前 , 16F
才不要家人虧錢了回來找我碎念
08/30 14:09, 16F
推
08/30 14:17, 12小時前 , 17F
推LDPC大大分享
08/30 14:17, 17F
推
08/30 14:23, 12小時前 , 18F
推
08/30 14:23, 18F
推
08/30 14:27, 12小時前 , 19F
記憶体直接運算的成品 目前只看到中國跟美國有而已
08/30 14:27, 19F
→
08/30 14:27, 12小時前 , 20F
其他公司還沒看到
08/30 14:27, 20F
→
08/30 14:28, 12小時前 , 21F
記憶體直接運算是用在已經建好的AI 模型 加快AI模
08/30 14:28, 21F
→
08/30 14:28, 12小時前 , 22F
型輸出結果
08/30 14:28, 22F
→
08/30 14:29, 12小時前 , 23F
跟簡單來說是用在推理 ，而不是AI 建模，雖然叫記
08/30 14:29, 23F
→
08/30 14:29, 12小時前 , 24F
憶體但不同結構 作用也不同
08/30 14:29, 24F
推
08/30 14:33, 12小時前 , 25F
aws看到老黃nvhbm馬上貼上去了
08/30 14:33, 25F
推
08/30 14:38, 12小時前 , 26F
看來要買AMD了QQ
08/30 14:38, 26F
推
08/30 14:55, 11小時前 , 27F
吹的是老黃，買的是蘇媽@@
08/30 14:55, 27F
推
08/30 14:58, 11小時前 , 28F
請教LDPC大大，那以後真的HBM只需8hi，然後靠NVlink
08/30 14:58, 28F
→
08/30 14:58, 11小時前 , 29F
之類的連結嗎? 甚至只需要4hi，不太需要12hi, 16hi
08/30 14:58, 29F
→
08/30 14:58, 11小時前 , 30F
了嗎?
08/30 14:58, 30F
推
08/30 15:12, 11小時前 , 31F
滿手美股記憶體 ...@@
08/30 15:12, 31F
→
08/30 15:13, 11小時前 , 32F
改8hi 似有出貨量考量 一來損耗較少 二來同產量可
08/30 15:13, 32F
→
08/30 15:14, 11小時前 , 33F
裝更多櫃
08/30 15:14, 33F
→
08/30 15:14, 11小時前 , 34F
其實nv的技術還是很強老實的說，黃氏定律基本已經超
08/30 15:14, 34F
→
08/30 15:14, 11小時前 , 35F
越摩爾定律，目前來看
08/30 15:14, 35F
→
08/30 15:57, 10小時前 , 36F
要走到存算互換的"商業"格局 主要來至於單位效能價
08/30 15:57, 36F
→
08/30 15:58, 10小時前 , 37F
格競爭 做不到這點 存換互換的價值拉不上台面..舉例
08/30 15:58, 37F
→
08/30 15:58, 10小時前 , 38F
當初SSD為什麼會火爆? 因為速度遠高於原本的HD? 重
08/30 15:58, 38F
→
08/30 15:59, 10小時前 , 39F
點是本IO就是門檻 透過高量升級門檻能造成整體系統
08/30 15:59, 39F
→
08/30 15:59, 10小時前 , 40F
效能和架構可能性爆發..但這是純技術角度 說白了HDD
08/30 15:59, 40F
→
08/30 16:00, 10小時前 , 41F
扣除掉物理限制問題 難道不能再快嗎? 其實可以嘛 那
08/30 16:00, 41F
→
08/30 16:00, 10小時前 , 42F
為啥更快的沒有變標配 反而是7200轉的變常態標配?說
08/30 16:00, 42F
→
08/30 16:00, 10小時前 , 43F
白了不就是單位效能價格的問題嗎 =_=..這波記憶體也
08/30 16:00, 43F
→
08/30 16:01, 10小時前 , 44F
一樣 你要突破架構限制 創造出可能性 那只有一個商
08/30 16:01, 44F
→
08/30 16:01, 10小時前 , 45F
業模式能合 就是記憶體賤價或是GPU賤價帶動記憶體賤
08/30 16:01, 45F
→
08/30 16:02, 10小時前 , 46F
價 但以目前規模和技術門檻來說 記憶體賤價這條路比
08/30 16:02, 46F
→
08/30 16:02, 10小時前 , 47F
較有機會觸發(相對於後者)
08/30 16:02, 47F
→
08/30 16:34, 10小時前 , 48F
改8hi更多是為了整體記憶體的出貨考量，要用總dram
08/30 16:34, 48F
→
08/30 16:34, 10小時前 , 49F
跟hbm需求去看，hbm的良率會讓總出貨量下降，現在
08/30 16:34, 49F
→
08/30 16:34, 10小時前 , 50F
就是找平衡點，若沒有產能問題那當然是12hi
08/30 16:34, 50F
→
08/30 16:39, 10小時前 , 51F
當然老黃想辦法增加cluster數量去堆容量也是種路線
08/30 16:39, 51F
→
08/30 16:39, 10小時前 , 52F
所以cpo scale up這東西是加速在推進的
08/30 16:39, 52F
推
08/30 16:57, 9小時前 , 53F
這些道理我都懂 但為什麼卡蛙還是不會噴？QQ
08/30 16:57, 53F
推
08/30 17:03, 9小時前 , 54F
留言區看起來都是超越三星高層的評論者，穩了
08/30 17:03, 54F
→
08/30 17:14, 9小時前 , 55F
因為台灣卡哇跟這些都沒有關係
08/30 17:14, 55F
→
08/30 17:15, 9小時前 , 56F
記憶體直接運算的架構 跟一般記憶體就不一樣
08/30 17:15, 56F
→
08/30 17:15, 9小時前 , 57F
是在IC設計時候連同架構一起就設計好的 不能分拆
08/30 17:15, 57F
→
08/30 17:16, 9小時前 , 58F
生產的時候直接由一般晶圓廠生產 根本沒經過卡哇
08/30 17:16, 58F
→
08/30 17:19, 9小時前 , 59F
呃 但是不會噴的是美韓卡蛙 哭哭QQ
08/30 17:19, 59F
→
08/30 17:22, 9小時前 , 60F
台美韓卡哇早就噴過了 沒跟上是自己的問題
08/30 17:22, 60F
推
08/30 17:45, 8小時前 , 61F
說認真韓股卡蛙是被故意壓價的，我個人感覺像是彈簧
08/30 17:45, 61F
→
08/30 17:45, 8小時前 , 62F
啦，現在各家記憶體只給到本益比7我覺得不合理，週
08/30 17:45, 62F
→
08/30 17:45, 8小時前 , 63F
期的定義是只能好一陣子，其實有用過AI就知道，AI沒
08/30 17:45, 63F
→
08/30 17:45, 8小時前 , 64F
有記憶就是笨蛋，聰明的模型在訓練上需要記憶，在推
08/30 17:45, 64F
→
08/30 17:45, 8小時前 , 65F
理上也需要記憶，目前記憶的工藝技術也隨著hbm技術
08/30 17:45, 65F
→
08/30 17:45, 8小時前 , 66F
規格越來越高，越來越難被輕易複製，應用面到了未來
08/30 17:45, 66F
→
08/30 17:45, 8小時前 , 67F
機器人物理AI，記憶的需求我認為只會更高，現在被壓
08/30 17:45, 67F
→
08/30 17:45, 8小時前 , 68F
到只有7本益比我反而覺得是好入場點，我估NV30的話
08/30 17:45, 68F
→
08/30 17:45, 8小時前 , 69F
，記憶體應該可以給到15左右
08/30 17:45, 69F
推
08/30 17:59, 8小時前 , 70F
感謝分享
08/30 17:59, 70F
推
08/30 18:03, 8小時前 , 71F
美光早就噴了，三月底還在劉德音防線攻防戰，現在
08/30 18:03, 71F
→
08/30 18:03, 8小時前 , 72F
快三倍了
08/30 18:03, 72F
推
08/30 18:08, 8小時前 , 73F
已知利多就不是利多 六月美光財報財測都那麼好
08/30 18:08, 73F
→
08/30 18:08, 8小時前 , 74F
很難再有什麼更大的利多了 當然現金流強勁
08/30 18:08, 74F
→
08/30 18:08, 8小時前 , 75F
也不會跌到哪 比一堆本益比五十一百倍夢想股有撐
08/30 18:08, 75F
→
08/30 18:08, 8小時前 , 76F
等年底看美光會不會回購 但也是半個已知
08/30 18:08, 76F
→
08/30 18:10, 8小時前 , 77F
跟nv有點類似 公司賺錢 但都是已知 散戶太多
08/30 18:10, 77F
噓
08/30 18:36, 8小時前 , 78F
推
08/30 18:36, 78F
推
08/30 18:38, 8小時前 , 79F
抱歉按錯了 補推QQ
08/30 18:38, 79F
推
08/30 21:58, 4小時前 , 80F
挖賽 您有9000股 nvda才能達成 22k 太強了
08/30 21:58, 80F
‣ 更多 LDPC 的文章
文章代碼(AID): #1gax-J14 (Stock)
討論串 (同標題文章)
完整討論串 (本文為第 3 之 4 篇)：
排序： 最新先 | 最舊先 | 留言數
在新視窗開啟完整討論串 (共4篇)
‣ 更多 LDPC 的文章
文章代碼(AID): #1gax-J14 (Stock)