[新聞] IBM開發出一款類比AI晶片雛型，在性能上匹敵GPU，在功耗上更勝GPU

看板Tech_Job作者 (H)時間8月前 (2023/08/23 14:01), 編輯推噓24(27推 3噓 23→)
留言53則, 30人參與, 8月前最新討論串1/1
IBM開發出一款類比AI晶片雛型，在性能上匹敵GPU，在功耗上更勝GPU https://bit.ly/3KR6ZbW IBM一直處於量子運算和許多其他研究領域的前沿，最近其展示了它認為的新AI處理解決 方案。IBM的願景並不是以GPU為中心，相反的，其認為混合訊號類比晶片中，可以大幅提 高能源效率，同時提供與市場當前主流產品GPU相同競爭力的性能。 如今IBM開發了一款類比AI晶片雛型。經過測試，該晶片與GPU等數位晶片一樣擅長電腦視 覺AI任務。就這一點來說，它的能源效率比GPU要高得多。在過程中，它將多個數位處理 單元和數位通訊結構與類比記憶體內運算結合。 換句話說，這是一種將部分混合訊號和類比晶片結合在一起的晶片。此外，該晶片結合了 相變記憶體（PCM）和數位電路，其聲稱在人工智慧推理方面將與GPU性能相匹配，但效率 高上得多。 AI推理現有的主要瓶頸之一涉及在記憶體和處理晶片之間分流數據，這會減慢處理速度並 消耗電力。至於IBM的類比AI晶片採用了不同的方式，使用PCM單元將推理權重儲存為類比 值並執行運算。 簡單來說，IBM的類比AI晶片本質上是在同一位置運算和儲存記憶體，因此可以糾正數據 傳輸中引起的畸變，同時也使系統變得更加節能。它幾乎像人腦的運作方式一樣，神經網 路就是在技術處理上和儲存發生在同一個位置的方式。 不過，目前這款類比AI晶片還只是紐約IBM的Albany奈米技術中心之研究雛型機，且處於 實驗階段。因此，仍還需要一段時間才能看到這類產品商業化。所以現階段，GPU在AI推 理的使用上仍是獨一無二的存在，可是其高功耗的型態必須慢慢的解決。 現今GPU在AI推理上的功耗是非AI處理器的10倍。一旦全球愈來愈多廠商佈建更多的AI伺 服器，那麼以現今的發電系統，將面臨負荷過重的情況。畢竟，電動車愈來愈普及的情況 下，也需要全球各國重新思考如何佈建更有效率地發電系統。 如果IBM這種記憶體內運算之類比AI晶片在AI推理領域起飛，那麼微軟、谷歌等公司將減 少從輝達公司購買的GPU數量，同時限制AI處理中對GPU的猛增需求，這對於市場遊戲規則 的改變，又將帶來很大衝擊。不過，IBM並沒有跟市場明說，這款晶片何時能夠進行量產 ，所以短中期來說，AI市場仍舊需要依賴GPU。從這可以看出，當許多廠商跟隨輝達追求 GPU市場大餅的同時，IBM以反向操作模式，給產業界一個新的研發方向。 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1692770471.A.3BE.html
推
08/23 14:14, 8月前 , 1F
這篇是那招 ....
08/23 14:14, 1F
→
08/23 14:15, 8月前 , 2F
IBM還是…算了…過氣
08/23 14:15, 2F
推
08/23 14:21, 8月前 , 3F
AI新燃料
08/23 14:21, 3F
推
08/23 14:24, 8月前 , 4F
詐騙業龍頭IBM?
08/23 14:24, 4F
推
08/23 14:29, 8月前 , 5F
XXX殺手定律 買XXX就對了
08/23 14:29, 5F
推
08/23 14:42, 8月前 , 6F
所以名稱叫IPU?
08/23 14:42, 6F
推
08/23 14:42, 8月前 , 7F
這個東西如果能做穩定且商用功耗應該會小幾個數量
08/23 14:42, 7F
→
08/23 14:42, 8月前 , 8F
級
08/23 14:42, 8F
推
08/23 14:50, 8月前 , 9F
炒很久了 cim+pcm
08/23 14:50, 9F
推
08/23 15:03, 8月前 , 10F
ibm研發應該是先進，不過生產就
08/23 15:03, 10F
→
08/23 15:32, 8月前 , 11F
旺宏表示：
08/23 15:32, 11F
推
08/23 15:34, 8月前 , 12F
分久必合，合久必分。CPU和GPU要合併了嗎？
08/23 15:34, 12F
推
08/23 15:52, 8月前 , 13F
上個玩PCM的INTEL都已經收工了
08/23 15:52, 13F
推
08/23 15:52, 8月前 , 14F
類比..記憶體…應該跟人腦特性一樣，有人聰明有人
08/23 15:52, 14F
→
08/23 15:52, 8月前 , 15F
笨，有人過目不忘有人當場就忘，類比的特性
08/23 15:52, 15F
推
08/23 16:03, 8月前 , 16F
IBM…想想算了
08/23 16:03, 16F
推
08/23 16:20, 8月前 , 17F
IBM給的錢想做出好成果真的不容易，祝福
08/23 16:20, 17F
→
08/23 16:20, 8月前 , 18F
之前也看過IBM在實驗室很早就做出2nm晶片，然後就
08/23 16:20, 18F
→
08/23 16:20, 8月前 , 19F
沒然後了...
08/23 16:20, 19F
推
08/23 16:25, 8月前 , 20F
ibm的東西留在實驗室就好
08/23 16:25, 20F
→
08/23 16:38, 8月前 , 21F
痾首先你要說他能跟GPU比性能，那應該去比訓練啊，
08/23 16:38, 21F
→
08/23 16:38, 8月前 , 22F
比推理幹啥
08/23 16:38, 22F
噓
08/23 16:51, 8月前 , 23F
何時轉單
08/23 16:51, 23F
→
08/23 17:02, 8月前 , 24F
以前教科書提到AI都拿IBM深藍來舉例
08/23 17:02, 24F
推
08/23 17:31, 8月前 , 25F
等大家都買IBM股票的時候才是真的
08/23 17:31, 25F
推
08/23 18:27, 8月前 , 26F
然後量產落賽
08/23 18:27, 26F
推
08/23 18:32, 8月前 , 27F
不是 我好像跟這個組合作過 哈哈哈
08/23 18:32, 27F
推
08/23 18:46, 8月前 , 28F
ibm有那個製程成果量產的嗎？三星的？
08/23 18:46, 28F
推
08/23 19:40, 8月前 , 29F
比推理才對吧 edge computing很重要好嘛
08/23 19:40, 29F
→
08/23 20:52, 8月前 , 30F
Edge就在比省電，GPU有在跟你省電的嗎，誰會在edge
08/23 20:52, 30F
→
08/23 20:52, 8月前 , 31F
放一個h100在那邊推理
08/23 20:52, 31F
推
08/23 21:31, 8月前 , 32F
IBM不是歷史課本裡才出現的組織嗎
08/23 21:31, 32F
推
08/23 22:26, 8月前 , 33F
IBM 2022年全球35萬員工, Revenue 60B(USD)...
08/23 22:26, 33F
推
08/23 22:34, 8月前 , 34F
有趣的是 IBM美國股價比Intel/AMD/TSMC(ADR)都高...
08/23 22:34, 34F
噓
08/23 22:49, 8月前 , 35F
毛利率大於40%+股本越小的漲的快。
08/23 22:49, 35F
推
08/23 22:49, 8月前 , 36F
樓上這樣講就外行了……股價不代表什麼，要看market
08/23 22:49, 36F
→
08/23 22:49, 8月前 , 37F
cap才準。
08/23 22:49, 37F
→
08/23 22:50, 8月前 , 38F
流通股數少的聯發科比台積快漲停。股本差15倍
08/23 22:50, 38F
→
08/23 22:50, 8月前 , 39F
聯發科可能創新高就漲停。股本159億 台積股本2594
08/23 22:50, 39F
→
08/23 22:50, 8月前 , 40F
億
08/23 22:50, 40F
推
08/23 22:54, 8月前 , 41F
只要華爾街主要持有券商假動作倒5萬張就不會漲
08/23 22:54, 41F
→
08/23 22:55, 8月前 , 42F
高盛常常放假新聞做假動作當然沒ibm高
08/23 22:55, 42F
→
08/23 22:56, 8月前 , 43F
不代表t和a的研發比I 弱
08/23 22:56, 43F
→
08/24 00:53, 8月前 , 44F
IBM開發，懂得就懂
08/24 00:53, 44F
推
08/24 01:13, 8月前 , 45F
edge也不是用GPU來比啊XD
08/24 01:13, 45F
推
08/24 03:45, 8月前 , 46F
如果我也沒記錯類比AI晶片是希望可以達到更有效率
08/24 03:45, 46F
→
08/24 03:45, 8月前 , 47F
的on-chip training?
08/24 03:45, 47F
→
08/24 03:45, 8月前 , 48F
多打了也*
08/24 03:45, 48F
→
08/24 12:26, 8月前 , 49F
真要去跟GPU對幹好歹TOPS先寫出來
08/24 12:26, 49F
推
08/24 13:12, 8月前 , 50F
其實inference GPU就不是什麼大宗啊
08/24 13:12, 50F
→
08/24 15:06, 8月前 , 51F
所以這篇通篇不知道在比什麼
08/24 15:06, 51F
噓
08/25 13:32, 8月前 , 52F
笑死了整篇文章，大概就是想壓股價的文章。量產了
08/25 13:32, 52F
→
08/25 13:32, 8月前 , 53F
沒，沒頭沒尾就下結論。減少購買輝達 呵呵呵
08/25 13:32, 53F
‣ 更多 stpiknow 的文章
文章代碼(AID): #1avQ2dE- (Tech_Job)