[情報] Google TPU吊打GPU？NVIDA表示不服

看板PC_Shopping作者 (便當加雞腿)時間7年前 (2017/04/11 20:49), 7年前編輯推噓39(39推 0噓 39→)
留言78則, 29人參與, 最新討論串1/1
Google TPU吊打GPU？NVIDA表示不服並扔出Tesla P40 Google昨天宣布旗下的AlphaGo今年5月份將與圍棋世界冠軍柯潔對戰，去年的人機大戰已 經顯示了AI在這方面強大的實力，而此前柯傑與AlphaGo也在網上對戰過，結果輸了。 Google在圍棋AI上這麼高調實則是展示自家在機器學習、人工智能等新領域的實力，前幾 天Google還公佈了專門為AI運算研發的TPU加速芯片，在AI性能上比GPU加速還要快幾十倍 ，一時間TPU吊打GPU的報導滿天飛了。不過宣傳吊打GPU勢必會惹到專注GPU加速AI的 NVIDIA公司，他們表示不服，並扔出了Telsa P40加速卡——老黃沒拿出Tesla P100這種 核彈說明還是很低調的。 http://imgur.com/y6HYRH2
先說說Google的TPU是怎麼回事——TPU全稱是Tensor Processing Unit（張量處理單元） ，這是Google為機器學習開發的專用芯片，計算性能會比傳統的CPU/GPU組合要強大。根 據Google公佈的測試結果，TPU要比CPU/GPU加速快上15-30倍，而且能效比還要高達多， 這個看要具體的TPU/CPU、TPU/GPU等不同組合了。 http://imgur.com/v8zZewV
Google的TPU性能比傳統的CPU/GPU組合要快上幾十倍 如果只看Google公佈的結果，那麼TPU確實在性能及能效上吊打GPU加速了，不過Google宣 傳自家的AI加速芯片沒問題，Google的研究人員其實探討的也只是技術上的選擇問題，不 過牽涉到其他家的產品就容易惹來爭議了，特別是涉及到了NVIDIA這家懟誰都不怕的公司 ，因為Google的TPU性能對比用了他們家的Teksa K80加速卡。 日前NVIDIA官方博客就發表了一篇文章回應TPU加速與GPU加速孰好孰壞的問題，這篇文章 說的很客氣，並沒有什麼火藥味，只不過NVIDIA擺事實講道理列舉了Google的不對之處— —你們的TPU對比的其實我們五年前的GPU加速卡。 http://imgur.com/KbZQTNy
NVIDIA列舉了Pascal一代的Tesla P40加速卡性能 Google之前對比的加速卡是Tesla K80，這是Kepler架構的產品了，發佈於2012年，放到 今天確實已經落伍了，性能只有Google TPU處理器的1/13也不足為奇。NVIDIA這次扔出的 是Tesla P40，是Pascal架構中的加速卡產品，發佈於2016年，是Quadro M6000之後第二 款完整版GP102核心，3840個CUDA核心，24GB顯存，單精度性能12TFLOPS，不過針對AI運 算的Int8（FP8，1/4精度）達到了47TFLOPS，NVIDIA表示P40加速卡的加速性能達到了TPU 的2倍，帶寬則是TPU的10倍，還支持TPU沒有的FP32運算。 NVIDIA這篇文章裡還是挺客觀的，其中也說了不少TPU加速的優點，而雙方這次的過節實 際上是選擇了不同的技術路線，這個問題也不只是TPU與GPU之爭，要是擴大起來，Intel 的CPU也要表示不服了，畢竟Google對比的CPU還是Haswell時代的Xeon E5-2699 v3處理器 。 不過Intel即便不服氣也不可能拿CPU來跟Google對懟了，因為CPU這種通用處理器並不適 合AI加速運算，所以Intel才買了Altera，後者的FPGA芯片也可以用來做AI加速，Intel要 是不服的話大可以拿最新的Stratix 10 FPGA芯片來說話 https://goo.gl/IZuGPH TPU 功耗75W K80 300W K40 250W 功耗是人家3~4倍 效能至少也要這麼多倍才說得過去吧 -- http://imgur.com/QLlVVoM
-- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.159.80.64 ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1491914943.A.2B6.html ※ 編輯: kerorog66 (49.159.80.64), 04/11/2017 20:54:44
推
04/11 20:55, , 1F
這次還會吐血嗎
04/11 20:55, 1F
推
04/11 20:57, , 2F
儲值
04/11 20:57, 2F
推
04/11 21:12, , 3F
NV要被夾殺了 最後贏家很明顯不是它們了
04/11 21:12, 3F
推
04/11 21:16, , 4F
搭配信仰加成可以多300%效能 TPU行嗎
04/11 21:16, 4F
推
04/11 21:17, , 5F
TPU本來就不是用來單純取代CPU/GPU的，只是拿舊卡
04/11 21:17, 5F
→
04/11 21:17, , 6F
比出來，把GPU打得一無是處，當然要跳出來替大家充
04/11 21:17, 6F
→
04/11 21:17, , 7F
值一下信仰
04/11 21:17, 7F
→
04/11 21:25, , 8F
nv很難玩的贏google吧
04/11 21:25, 8F
→
04/11 21:26, , 9F
我記得google砸了很多在研發新東西上
04/11 21:26, 9F
推
04/11 21:28, , 10F
是說這種AI跟我想像中的AI不太一樣就是了
04/11 21:28, 10F
推
04/11 21:30, , 11F
不過這個應該也只有Google做得出來吧？
04/11 21:30, 11F
推
04/11 21:31, , 12F
AMD和老黃不愧是難兄難弟 共同漲跌
04/11 21:31, 12F
推
04/11 21:35, , 13F
用途不一樣有啥好比的? 比較起來 GPU 又是汎用了
04/11 21:35, 13F
→
04/11 21:41, , 14F
靠真的 難兄難弟
04/11 21:41, 14F
→
04/11 21:42, , 15F
走勢超像
04/11 21:42, 15F
推
04/11 21:43, , 16F
NV的地瓜又不是沒跌倒過
04/11 21:43, 16F
推
04/11 21:45, , 17F
特化的用在專用用途沒比較快 就..........
04/11 21:45, 17F
推
04/11 22:00, , 18F
老黃:誰在跟你難兄難弟,你自己農藥吧,我要漲了
04/11 22:00, 18F
推
04/11 22:23, , 19F
其實這跟挖礦很像... 一開始 GPU 輕鬆的取代 CPU
04/11 22:23, 19F
→
04/11 22:23, , 20F
然後過一陣子有人開發專門的 ASIC, GPU 就被屌打了
04/11 22:23, 20F
→
04/11 22:24, , 21F
Google 的路線也很明確, 先開發一套開源的程式庫
04/11 22:24, 21F
→
04/11 22:24, , 22F
然後再開發專門的硬體, 等到社群養起來就可以賣服務
04/11 22:24, 22F
→
04/11 22:34, , 23F
老黃：幹！ 到嘴的肉，又要被搶走了
04/11 22:34, 23F
推
04/11 22:41, , 24F
training還是一樣用GPU啊
04/11 22:41, 24F
→
04/11 22:42, , 25F
現在這塊唯一哭泣的只有AMD吧
04/11 22:42, 25F
推
04/11 22:43, , 26F
今天兩間股價應該是繼續難兄難弟了
04/11 22:43, 26F
→
04/11 22:43, , 27F
AMD雖然沒什麼吃到AI這塊 不過之前Google也買了一批
04/11 22:43, 27F
→
04/11 22:45, , 28F
回去用 是說挖礦演進的速度真的很快...
04/11 22:45, 28F
推
04/11 22:49, , 29F
感覺ASIC的出現跟去中心化的宗旨有所違背 但好像很
04/11 22:49, 29F
→
04/11 22:50, , 30F
難避免
04/11 22:50, 30F
推
04/11 22:50, , 31F
AMD就是硬體加減賺 NV則是別人沒佔到市場前賺一票
04/11 22:50, 31F
推
04/11 23:05, , 32F
TPU 和初期的 GPU 很像啊... 為特定API打造的硬體
04/11 23:05, 32F
→
04/11 23:31, , 33F
那我用 390 跑有 1080 兩倍速
04/11 23:31, 33F
→
04/11 23:31, , 34F
這樣算起來 furyX 不就超強
04/11 23:31, 34F
推
04/11 23:36, , 35F
其實Google有說TPU還是要搭配老黃的運算卡才能運作
04/11 23:36, 35F
→
04/11 23:36, , 36F
目前還沒有辦法取代NV運算卡
04/11 23:36, 36F
→
04/11 23:38, , 37F
老黃看起來還可以在這領域爽個兩三年
04/11 23:38, 37F
推
04/12 00:04, , 38F
估狗自己的paper有講 如果全部用老黃卡
04/12 00:04, 38F
→
04/12 00:04, , 39F
估計電費還捨摸的會爆炸兩倍
04/12 00:04, 39F
→
04/12 00:05, , 40F
inference這部份老黃大概要被擠開惹
04/12 00:05, 40F
→
04/12 00:05, , 41F
一葛用int8就能算的東西 你拿一陀fp16幹嘛QQ
04/12 00:05, 41F
→
04/12 00:06, , 42F
目前ai主要應用還是影音辨識 尤其是影像
04/12 00:06, 42F
→
04/12 00:06, , 43F
等到training熱潮差不多以後 就真的都判斷而已
04/12 00:06, 43F
推
04/12 00:16, , 44F
樓上 教主開示
04/12 00:16, 44F
推
04/12 00:31, , 45F
想太多了 哪來的要用老黃運算 google又不是台灣
04/12 00:31, 45F
→
04/12 00:31, , 46F
學術界被cuda綁架才會NV好棒棒的世界
04/12 00:31, 46F
推
04/12 01:00, , 47F
NV好棒棒 by tori
04/12 01:00, 47F
推
04/12 01:02, , 48F
笑了 現在GPU運算幾乎就是CUDA 哪是台灣學術界特例
04/12 01:02, 48F
→
04/12 01:03, , 49F
GPU不會被TPU取代 只是會減少
04/12 01:03, 49F
推
04/12 01:34, , 50F
幾乎全球學界都被cuda綁架好嗎
04/12 01:34, 50F
推
04/12 01:35, , 51F
笑死XDDDD 在那邊瞎扯台灣學術界
04/12 01:35, 51F
推
04/12 01:38, , 52F
現在training還是用GPU阿 等到能用TPU train NVQQ
04/12 01:38, 52F
推
04/12 01:39, , 53F
你要用TPU Train 那就要提高精度 一提高精度
04/12 01:39, 53F
→
04/12 01:39, , 54F
我記得Qcom也有這別出一個單元來做inference QQ
04/12 01:39, 54F
→
04/12 01:40, , 55F
TPU能耗比上升 相對GPU的優勢就小了 懂？？？
04/12 01:40, 55F
→
04/12 01:41, , 56F
而且老黃從Pascal開始就看得出來打算為計算卡做
04/12 01:41, 56F
→
04/12 01:41, , 57F
特化GPU 不僅是改記憶體也捨棄一些顯示才用的到的
04/12 01:41, 57F
→
04/12 01:42, , 58F
電路 減少計算卡拖著一堆沒用到的顯示電路當累贅
04/12 01:42, 58F
推
04/12 01:44, , 59F
敢跟教主打對台？ 了不起，負責！
04/12 01:44, 59F
→
04/12 01:47, , 60F
V寶的閱讀能力？？？
04/12 01:47, 60F
推
04/12 01:50, , 61F
OpenCL : QQ
04/12 01:50, 61F
推
04/12 01:59, , 62F
好八我看錯
04/12 01:59, 62F
→
04/12 02:00, , 63F
不過OpenCL也是蠻有用的啦 挖礦熱就得靠他來
04/12 02:00, 63F
推
04/12 02:02, , 64F
真的是快笑死........好羨慕寶貝蛋們的開發能力
04/12 02:02, 64F
推
04/12 02:21, , 65F
OpencL大概就是通用計算界的Vaulken……
04/12 02:21, 65F
→
04/12 02:21, , 66F
好像很厲害 可是真正用的人不多……
04/12 02:21, 66F
推
04/12 02:36, , 67F
Google 是打算自駕車也用這種晶片嗎？
04/12 02:36, 67F
推
04/12 06:52, , 68F
OpenCL 不好嗎
04/12 06:52, 68F
→
04/12 09:27, , 69F
XDDDD
04/12 09:27, 69F
推
04/12 11:08, , 70F
OpenCL: QQ
04/12 11:08, 70F
→
04/12 13:26, , 71F
TPU就是ASIC阿，只是現在草創，改架構前代就廢了
04/12 13:26, 71F
→
04/12 13:27, , 72F
但是google沒差，架構一旦弄好，第N代TPU就開始威了
04/12 13:27, 72F
→
04/12 13:28, , 73F
就是泛用度問題，CPU>GPU>ASIC，中間搖擺
04/12 13:28, 73F
→
04/12 13:47, , 74F
OPENCL哪會QQ，OpenCL可以放上FPGA和CPU上或是玩
04/12 13:47, 74F
→
04/12 13:48, , 75F
CPU GPU協同運算，其實國外蠻多研究的
04/12 13:48, 75F
推
04/12 13:57, , 76F
現在的學生大概很少自主研究拔 都是吃飼料為多 QQ
04/12 13:57, 76F
推
04/12 14:08, , 77F
Google 是要推雲服務的 一代省下來的錢就不得了了
04/12 14:08, 77F
推
04/12 15:37, , 78F
NV怕被影響生意，趕快發新聞稿
04/12 15:37, 78F
‣ 更多 kerorog66 的文章
文章代碼(AID): #1OxD2_As (PC_Shopping)