Re: [情報] AMD 7800XT/7700XT 售價US$449起 9/6上市
AMD的GPU行銷真的是笨死了。每個人都拜託他們出24GB或48GB的卡,這麼簡單就大賣的方法不作。還在搞FSR,難道不知道現在是大AI時代嗎?
7800xtx 24GB,549鎂,還不賣爆。
79x0xtx 48GB,1200鎂,還不搶光。
現在一堆AI inference的需求,欠缺在ram不夠。Training也許還是不行,但inference社群作一堆了,就等你出卡而已。結果你出16GB???
例如最近mlc-llm測試7900xtx 推理可達4090的80%。
https://blog.mlc.ai/2023/08/09/Making-AMD-GPUs-competitive-for-LLM-inference
原作者的中文版
https://zhuanlan.zhihu.com/p/649088095
因為在推理(inference)上gpu的效能已經夠了,是卡在記憶頻寬,所以4090/3090ti/7900xtx效能是大同小異。
https://github.com/ggerganov/llama.cpp
現在4bit 30B模型需要19.5GB記憶體,這個模型好又剛好主流24GB卡可跑,3090二手卡搶爆
4bit 65B模型需要38.5 GB,沒有主流卡可跑,只能用CPU慢慢的推動,等於不能用。
7800xtx 24GB,79x0xtx 48GB。AI社群搶爆,程式幫你寫好。不用在那搞沒用的FSR,沒用的FSR,沒用的FSR<<很重要講三遍
https://i.imgur.com/LeYPRd4.jpg
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 219.70.128.119 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1693060246.A.862.html
推
08/26 22:36,
8月前
, 1F
08/26 22:36, 1F
→
08/26 22:36,
8月前
, 2F
08/26 22:36, 2F
→
08/26 22:37,
8月前
, 3F
08/26 22:37, 3F
→
08/26 22:37,
8月前
, 4F
08/26 22:37, 4F
推
08/26 22:40,
8月前
, 5F
08/26 22:40, 5F
→
08/26 22:40,
8月前
, 6F
08/26 22:40, 6F
→
08/26 22:45,
8月前
, 7F
08/26 22:45, 7F
→
08/26 22:46,
8月前
, 8F
08/26 22:46, 8F
→
08/26 22:47,
8月前
, 9F
08/26 22:47, 9F
→
08/26 22:47,
8月前
, 10F
08/26 22:47, 10F
推
08/26 22:48,
8月前
, 11F
08/26 22:48, 11F
→
08/26 22:48,
8月前
, 12F
08/26 22:48, 12F
→
08/26 22:48,
8月前
, 13F
08/26 22:48, 13F
→
08/26 22:49,
8月前
, 14F
08/26 22:49, 14F
真的是恨鐵不成鋼。有一個大市場在那,ai論壇裡多少人拜託AMD出個大ram的顯卡,就是不理
→
08/26 23:03,
8月前
, 15F
08/26 23:03, 15F
推
08/26 23:08,
8月前
, 16F
08/26 23:08, 16F
→
08/26 23:26,
8月前
, 17F
08/26 23:26, 17F
推
08/26 23:30,
8月前
, 18F
08/26 23:30, 18F
推
08/26 23:32,
8月前
, 19F
08/26 23:32, 19F
→
08/26 23:32,
8月前
, 20F
08/26 23:32, 20F
→
08/26 23:33,
8月前
, 21F
08/26 23:33, 21F
AMD在AI根本沒有策略,根本也還沒整合。
噓
08/26 23:35,
8月前
, 22F
08/26 23:35, 22F
→
08/26 23:35,
8月前
, 23F
08/26 23:35, 23F
→
08/26 23:40,
8月前
, 24F
08/26 23:40, 24F
→
08/26 23:41,
8月前
, 25F
08/26 23:41, 25F
→
08/26 23:41,
8月前
, 26F
08/26 23:41, 26F
→
08/26 23:46,
8月前
, 27F
08/26 23:46, 27F
噓
08/26 23:53,
8月前
, 28F
08/26 23:53, 28F
→
08/27 00:13,
8月前
, 29F
08/27 00:13, 29F
→
08/27 00:14,
8月前
, 30F
08/27 00:14, 30F
噓
08/27 00:18,
8月前
, 31F
08/27 00:18, 31F
推
08/27 00:31,
8月前
, 32F
08/27 00:31, 32F
→
08/27 00:32,
8月前
, 33F
08/27 00:32, 33F
→
08/27 00:32,
8月前
, 34F
08/27 00:32, 34F
你要不要看現在電蝦多少單是要跑AI的,今年才是AI元年而已
噓
08/27 00:34,
8月前
, 35F
08/27 00:34, 35F
→
08/27 00:34,
8月前
, 36F
08/27 00:34, 36F
還有 57 則推文
還有 3 段內文
→
08/27 12:48,
8月前
, 94F
08/27 12:48, 94F
現在就要讓利給社群,讓社群把AMD的ai生態系統做大。
48GB那價格就買老黃的就好了,但降到美金2000以下,那就會很多人跳進來玩。
我講的都是AMD可以馬上出的產品,價格可以更有彈性,也讓AIB有點湯吃。
→
08/27 13:16,
8月前
, 95F
08/27 13:16, 95F
→
08/27 13:25,
8月前
, 96F
08/27 13:25, 96F
→
08/27 13:35,
8月前
, 97F
08/27 13:35, 97F
→
08/27 13:35,
8月前
, 98F
08/27 13:35, 98F
現在是ai需求才讓老黃予取予求。就看AMD醒不醒的過來,還是等INTEL把牛肉端出來
※ 編輯: oopFoo (36.224.213.216 臺灣), 08/27/2023 14:01:15
推
08/27 14:29,
8月前
, 99F
08/27 14:29, 99F
→
08/27 14:32,
8月前
, 100F
08/27 14:32, 100F
已經有10%還不殺進來,要等紅海?
→
08/27 16:53,
8月前
, 101F
08/27 16:53, 101F
→
08/27 16:53,
8月前
, 102F
08/27 16:53, 102F
→
08/27 16:53,
8月前
, 103F
08/27 16:53, 103F
→
08/27 16:53,
8月前
, 104F
08/27 16:53, 104F
→
08/27 16:53,
8月前
, 105F
08/27 16:53, 105F
所以FSR的人要轉ai啊,老黃家的都轉了,AMD還不轉。
AI的人少可是現在掌握大量預算,真的再不全力投入就真的被淘汰了。
→
08/27 17:44,
8月前
, 106F
08/27 17:44, 106F
→
08/27 17:44,
8月前
, 107F
08/27 17:44, 107F
→
08/27 17:44,
8月前
, 108F
08/27 17:44, 108F
http://www.incompleteideas.net/IncIdeas/BitterLesson.html
不做ml,不相信gpu compute的效率提昇,證明都是錯的。FSR時代已過,再不跟上連Intel都要把AMD拋下了。
※ 編輯: oopFoo (36.224.213.216 臺灣), 08/27/2023 18:50:13
推
08/27 20:20,
8月前
, 109F
08/27 20:20, 109F
→
08/27 20:20,
8月前
, 110F
08/27 20:20, 110F
→
08/27 20:43,
8月前
, 111F
08/27 20:43, 111F
→
08/27 21:06,
8月前
, 112F
08/27 21:06, 112F
→
08/27 21:06,
8月前
, 113F
08/27 21:06, 113F
→
08/27 21:06,
8月前
, 114F
08/27 21:06, 114F
→
08/27 23:44,
8月前
, 115F
08/27 23:44, 115F
→
08/28 05:54,
8月前
, 116F
08/28 05:54, 116F
→
08/28 05:56,
8月前
, 117F
08/28 05:56, 117F
→
08/28 05:57,
8月前
, 118F
08/28 05:57, 118F
→
08/28 05:58,
8月前
, 119F
08/28 05:58, 119F
→
08/28 05:59,
8月前
, 120F
08/28 05:59, 120F
→
08/28 06:01,
8月前
, 121F
08/28 06:01, 121F
→
08/28 06:07,
8月前
, 122F
08/28 06:07, 122F
噓
08/28 16:12,
8月前
, 123F
08/28 16:12, 123F
→
08/28 16:13,
8月前
, 124F
08/28 16:13, 124F
→
08/28 16:18,
8月前
, 125F
08/28 16:18, 125F
→
08/28 16:19,
8月前
, 126F
08/28 16:19, 126F
→
08/28 16:21,
8月前
, 127F
08/28 16:21, 127F
→
08/28 16:30,
8月前
, 128F
08/28 16:30, 128F
討論串 (同標題文章)
完整討論串 (本文為第 2 之 3 篇):