[硬體] M2 Ultra的強大

看板MAC作者 (我是阿肥巴你頭)時間10月前 (2023/07/03 12:22), 10月前編輯推噓36(38推 2噓 96→)
留言136則, 27人參與, 10月前最新討論串1/1
https://youtu.be/UsfmqTb2NVY
YTer林亦常常講解一些蘋果生態的玩意 看他講M2 Ultra才知道到底晶片有多強大 感覺可以開始期待未來幾年的Macbook Air大幅提升了 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 101.137.247.250 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/MAC/M.1688358170.A.F3E.html
推
07/03 12:38, 10月前 , 1F
拜託一下現在LLM都是幾萬張H100在搞的
07/03 12:38, 1F
→
07/03 12:38, 10月前 , 2F
沒有人會搞什麼單機跑AI這種項目了
07/03 12:38, 2F
→
07/03 12:38, 10月前 , 3F
邊緣系統真的搞得起來得只有推理
07/03 12:38, 3F
噓
07/03 12:41, 10月前 , 4F
你確定要PO這廝的片？在B站被罵翻 內容概念錯誤百出
07/03 12:41, 4F
真假？還想說他講的東西都不錯XD
→
07/03 13:29, 10月前 , 5F
越會畫虎爛的越多受眾
07/03 13:29, 5F
推
07/03 14:19, 10月前 , 6F
低成本記憶體方案吧，畢竟這趨勢下去M3 ultra M4 ultra才
07/03 14:19, 6F
→
07/03 14:19, 10月前 , 7F
是未來值得期待的。NV一張卡抵一台了
07/03 14:19, 7F
→
07/03 14:20, 10月前 , 8F
至於有沒有用我覺得對大模型不夠但對一般小公司很好用了
07/03 14:20, 8F
→
07/03 14:21, 10月前 , 9F
正常人不會把自己的know how放到雲端給別人的機器學習的
07/03 14:21, 9F
推
07/03 15:08, 10月前 , 10F
LLM能在本地端自己做推理也是很有價值
07/03 15:08, 10F
→
07/03 15:08, 10月前 , 11F
很多隱私的資料或著沒有外網的環境
07/03 15:08, 11F
推
07/03 15:58, 10月前 , 12F
M系列的晶片問題在於記憶體最大上限只到192GB，超過的話
07/03 15:58, 12F
→
07/03 15:59, 10月前 , 13F
蘋果沒有提供任何解決方案，就連最新推出的Mac pro都無解
07/03 15:59, 13F
未來沒機會再提升嗎？
→
07/03 16:31, 10月前 , 14F
未看先猜是不是拿影像編輯來吹噓？怎麼不探討M系列最弱「
07/03 16:31, 14F
→
07/03 16:31, 10月前 , 15F
穩定性」及「周邊設備相容性」？
07/03 16:31, 15F
穩定性我不知道，週邊設備是只要跟什麼相容？
推
07/03 17:12, 10月前 , 16F
一樓是在搞笑嗎?H100一張3.6萬鎂,哪來幾萬張?
07/03 17:12, 16F
→
07/03 17:13, 10月前 , 17F
OpenAI人家估算成本也不過用了3600張A100
07/03 17:13, 17F
※ 編輯: huabandd (101.137.247.250 臺灣), 07/03/2023 20:08:37
推
07/03 20:13, 10月前 , 18F
蘋果近幾年應該會推自己的顯示晶片 3d方面實在不行
07/03 20:13, 18F
推
07/03 20:40, 10月前 , 19F
目前M2 Ultra堆到頂就192GB，除非蘋果還有技術可以串連多
07/03 20:40, 19F
→
07/03 20:41, 10月前 , 20F
顆M2 Ultra，或者開放支援一般的DDR記憶體，不然頂點就在
07/03 20:41, 20F
→
07/03 20:41, 10月前 , 21F
那邊卡著
07/03 20:41, 21F
推
07/03 21:02, 10月前 , 22F
這影片就一直在誇一張192GB RAM的顯卡，不能說這沒有用處，
07/03 21:02, 22F
→
07/03 21:02, 10月前 , 23F
但是一台只有192GB RAM的工作站問題更大
07/03 21:02, 23F
→
07/03 21:05, 10月前 , 24F
蘋果先解決ssd跟ram的價格吧，都快10年過去了
07/03 21:05, 24F
→
07/03 21:05, 10月前 , 25F
ram跟ssd價格還在賣天價...配再快cpu也是白搭
07/03 21:05, 25F
推
07/03 21:33, 10月前 , 26F
他明明就在講個人電腦，有需要扯到工作站嗎？
07/03 21:33, 26F
→
07/03 21:35, 10月前 , 27F
就是個能在自己的電腦載入超大模型，他講的優點沒啥
07/03 21:35, 27F
→
07/03 21:35, 10月前 , 28F
毛病啊。顯卡需要幾張才能夠載入這麼大的模型？
07/03 21:35, 28F
推
07/03 22:16, 10月前 , 29F
高階個人電腦RAM早就不只是192GB，更不用說工作站以TB為單位
07/03 22:16, 29F
→
07/03 22:16, 10月前 , 30F
很久了，蘋果的x86 Mac Pro幾年前就可以裝1.5TB RAM，現在Ma
07/03 22:16, 30F
→
07/03 22:16, 10月前 , 31F
c Pro或Studio就整個被M2 Ultra卡住，這影片就完全避開CPU的
07/03 22:16, 31F
→
07/03 22:16, 10月前 , 32F
需求，只拿純GPU的用途，不能說沒用，只是用途有限
07/03 22:16, 32F
推
07/03 22:27, 10月前 , 33F
還有是市佔太低了，第三方支援真的跟windows還有一
07/03 22:27, 33F
→
07/03 22:27, 10月前 , 34F
段差距
07/03 22:27, 34F
推
07/03 22:44, 10月前 , 35F
另一點是ARM Mac完全沒有GPU的擴充能力，就算是最新的Mac Pr
07/03 22:44, 35F
還有 61 則推文
推
07/04 12:41, 10月前 , 97F
NV A6000湊到192GB 某家組好報價107萬，這我玩票的買不起
07/04 12:41, 97F
→
07/04 12:44, 10月前 , 98F
一直拿工作站來比，不知道是在講啥，開AI服務公司的嗎...
07/04 12:44, 98F
→
07/04 13:39, 10月前 , 99F
這個就是土砲的野路子
07/04 13:39, 99F
→
07/04 13:40, 10月前 , 100F
就剛好蘋果統一記憶體做這個合適
07/04 13:40, 100F
→
07/04 13:41, 10月前 , 101F
算是窮人方案吧，當然和正規不能比
07/04 13:41, 101F
→
07/04 13:42, 10月前 , 102F
但是噴的人好歹先看看價錢啊
07/04 13:42, 102F
推
07/04 15:21, 10月前 , 103F
就AI不只是GPT，而GPT看規模學生用一般顯卡就可以學了，也聽
07/04 15:21, 103F
→
07/04 15:21, 10月前 , 104F
說有model大到沒有單張顯卡塞得下，也有人做CPU+GPU+SSD而不
07/04 15:21, 104F
→
07/04 15:21, 10月前 , 105F
是只用GPU。玩票的自然不會花上百萬買來只是玩玩，一般人也
07/04 15:21, 105F
→
07/04 15:21, 10月前 , 106F
不容易掏出十幾二十萬只為了跑GPT
07/04 15:21, 106F
推
07/04 16:44, 10月前 , 107F
當初M1有Pro跟Max開發社群玩AI的早就摩拳擦掌在玩了
07/04 16:44, 107F
→
07/04 16:44, 10月前 , 108F
07/04 16:44, 108F
→
07/04 16:50, 10月前 , 109F
最近另一個熱門話題AI自動繪圖像Stable Diffusion也有Apple
07/04 16:50, 109F
→
07/04 16:50, 10月前 , 110F
Silicon版，效能還是比不上x86+NVIDIA。不過蘋果在開發者平
07/04 16:50, 110F
→
07/04 16:50, 10月前 , 111F
台還是一直投入AI資源，沒有廠商會缺席，只是蘋果的架構未來
07/04 16:50, 111F
→
07/04 16:50, 10月前 , 112F
能翻轉多少現況就再看看了，我是很想梭一台Studio來算圖啦，
07/04 16:50, 112F
→
07/04 16:50, 10月前 , 113F
慢點是還好起碼比較不吵
07/04 16:50, 113F
推
07/04 17:03, 10月前 , 114F
也不是全部ram都可以當vram用，64G機器mps只能用48G
07/04 17:03, 114F
→
07/04 17:04, 10月前 , 115F
07/04 17:04, 115F
推
07/04 17:42, 10月前 , 116F
其實我還蠻喜歡m系列的架構的 未來越來越成熟 他一體化gpu
07/04 17:42, 116F
→
07/04 17:43, 10月前 , 117F
的優點的確是存在的 但是此時此刻 他還不成熟 但他對於大模
07/04 17:43, 117F
→
07/04 17:44, 10月前 , 118F
型也真的有一定的用途 只是你是看到他一開始說吊打NV而心動
07/04 17:44, 118F
→
07/04 17:45, 10月前 , 119F
跳進去 那一定會後悔就是了 他至少在這代 還離真的成熟很遠
07/04 17:45, 119F
→
07/04 21:24, 10月前 , 120F
這個價位標配1TSSD沒關係，蘋果本來就這種尿性，但都買
07/04 21:24, 120F
→
07/04 21:24, 10月前 , 121F
到Mac pro我居然沒辦法自行升級SSD？又是該死的slicon把S
07/04 21:24, 121F
→
07/04 21:24, 10月前 , 122F
SD跟CPU黏在ㄧ起。
07/04 21:24, 122F
→
07/04 21:52, 10月前 , 123F
Mac Pro 2023 應該能插 PCIe SSD，
07/04 21:52, 123F
→
07/04 21:52, 10月前 , 124F
不然它大可直說不能用，就像顯卡那樣
07/04 21:52, 124F
→
07/04 22:06, 10月前 , 125F
可以裝 SSD ，不過要注意插槽共用頻寬的問題
07/04 22:06, 125F
→
07/04 22:36, 10月前 , 126F
2019 Mac pro有標配兩個M.2槽可以插SSD。2023年的Mac pro
07/04 22:36, 126F
→
07/04 22:36, 10月前 , 127F
走pci插槽有可能也認不到SSD,畢竟顯卡、記憶體、SSD都跟CP
07/04 22:36, 127F
→
07/04 22:36, 10月前 , 128F
U綁在一起了。
07/04 22:36, 128F
→
07/05 10:55, 10月前 , 129F
這影片到處都有人在宣傳 感覺有鬼
07/05 10:55, 129F
噓
07/05 12:37, 10月前 , 130F
中國幹片還是少看
07/05 12:37, 130F
推
07/05 15:34, 10月前 , 131F
因為中國人買不了H100，當然只能吹M2
07/05 15:34, 131F
→
07/05 16:45, 10月前 , 132F
2023 Mac Pro 可以裝 PCIe SSD ， Highpoint 的產品已經
07/05 16:45, 132F
→
07/05 16:46, 10月前 , 133F
聲明可以用了，目前只是不清楚相容性是否會有特殊問題
07/05 16:46, 133F
→
07/07 01:03, 10月前 , 134F
口音我不行，噁心
07/07 01:03, 134F
推
07/08 17:00, 10月前 , 135F
其實對於模型訓練來說，VRAM遠比算力重要，沒有batch s
07/08 17:00, 135F
→
07/08 17:00, 10月前 , 136F
ize沒有收斂。
07/08 17:00, 136F
‣ 更多 huabandd 的文章
文章代碼(AID): #1aeaqQy- (MAC)