[新聞] 別小看Gaudi 3,其採取低成本和慢慢蠶食戰略,伺機奪下AI晶片市場
別小看Gaudi 3,其採取低成本和慢慢蠶食戰略,伺機奪下AI晶片市場
原文網址:
https://bit.ly/3xOU5as
原文:
為了加強與輝達在AI訓練和推理應用晶片市場的競爭,英特爾推出了人工智慧加速器晶片
Gaudi 3。該公司聲稱它比Nvidia的H100 GPU更快、更有效率,並且與Nvidia最近推出的
Blackwell級GPU相比「極具競爭力」。
英特爾聲稱,Gaudi 3在訓練大語言模型方面比H100快1.7倍。在推理方面,Gaudi 3的推
理應用速度比H100快1.5倍,也比H200快1.3倍。英特爾還表示,Gaudi 3在運行LLM時的能
效比H100高出2.3倍。最重要的是,Gaudi 3的成本預算僅僅是輝達H100的一小部分。
由於這些因素,使得Naver(韓國網路公司)、博世、IBM、Ola等成為英特爾Gaudi 3的客
戶和合作夥伴。而2024年第二季度,英特爾將向戴爾、惠普以及超微型電腦(Super
Micro Computer)、和聯想等OEM廠商首批供貨。正式上市時程卻是在第三季。
基本上,Gaudi 3 AI加速器可描述為具有「異質電腦架構」。它擁有64顆Tensor處理器核
心(第五代)、8個矩陣數學引擎、128 GB HBM容量(3.7 TB/s)、96 MB SRAM(12.8
TB/s)、24個200 GbE RoCE乙太網路連接埠和PCIe 5。
雖然Gaudi 3比起H100更好,但是卻不足以對抗輝達Blackwell平台。英特爾構思的策略是
,隨著企業面臨AI成本不斷上升的問題,任何能夠保持效能但價格更實惠的產品都將是非
常具吸引力的解決方案。從平台特性和功能來說,輝達Blackwell平台絕對沒有一家公司
能夠與之抗衡,但是價格標籤是Blackwell的一個嚴重阻礙,更何況輝達宣稱,B100晶片
初期將供不應求。
這就給英特爾一個戰略的切入點,畢竟,想要省錢但卻在可接受替代方案上,Gaudi 3產
品的確是最佳選擇。
如果當初英特爾直接研發出超越B100的AI晶片,可能會面臨在硬體技術領先,但整體生態
追不上,且成本過高的窘境。反而沒有其他公司願意嘗試Gaudi 3。如今在成本優勢下,
Gaudi 3在性能上超越H100,就足以讓其他公司願意嘗試採用,畢竟,英特爾並未擁有
CUDA的軟體。
換句話說,想要其他企業採用Gaudi 3,英特爾必須在軟體上齊頭並進。有了低成本的硬
體,企業才有嘗試UXL開源軟體平台的勇氣。
英特爾知道輝達成功的關鍵之一是CUDA,甚至說是軟硬體結合的生態體系,所以初期策略
絕對不要硬碰硬,而且慢慢蠶食輝達的市場佔有率。先讓一小部分企業願意嘗試Gaudi 3
和其開源軟體平台,再透過口耳相傳以及企業反饋,來搶奪市場大餅。
如今仍難以知道英特爾這些戰略會不會奏效,還是要等產品上市才能揭曉。但從戰略角度
上,的確是具有威脅力的嘗試啊!
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1713311560.A.60B.html
推
04/17 08:27,
2周前
, 1F
04/17 08:27, 1F
→
04/17 11:12,
2周前
, 2F
04/17 11:12, 2F
推
04/17 11:15,
2周前
, 3F
04/17 11:15, 3F
→
04/17 11:24,
2周前
, 4F
04/17 11:24, 4F
推
04/17 12:32,
2周前
, 5F
04/17 12:32, 5F
推
04/17 16:58,
2周前
, 6F
04/17 16:58, 6F
推
04/17 17:06,
2周前
, 7F
04/17 17:06, 7F
推
04/17 18:09,
2周前
, 8F
04/17 18:09, 8F
→
04/17 18:15,
2周前
, 9F
04/17 18:15, 9F