[情報] NV發佈Tesla V100:Volta架構 5120個CUDA
Nvidia發佈Tesla V100計算卡:Volta架構,恐怖的5120個CUDA
http://www.expreview.com/54059.html
昨晚NVIDIA CEO黃仁勳在GTC 2017大會上發佈了基於Volta架構的旗艦計算卡 Tesla V100
,為了應付日益龐大的AI以及高性能計算需求,Tesla V100擁有超越上一代的5120個CUDA
單元,並且增加能提高深度計算性能的Tensor單元,因此電晶體數目足足有210億之多,
核心頻率為1455MHz ,16GB HBM2顯存,浮點性能更是達到單精確度浮點15 TFLOPS,雙精
度浮點7.5 TFLOPS。
對比上一代Tesla P100,Tesla V100最大變化就是增加了與深度學習高度相關的Tensor單
元,Tensor性能可以達到120 TFLOPS;而且CUDA數目暴增,由3584個增至5120個,增長了
42%;全新的台積電12nm FFN工藝 製造有史以來最大的815mm2 GPU核心(16nm的第四代改
良版本,更高的電晶體密度,更低的功耗;管中窺豹,估計Volta遊戲卡都是使用這個工
藝了);雖然依然是4096bit 16GB的HBM2顯存,但是頻寬已經Tesla P100 720GB/s提升至
900GB/s水準。
除了CUDA單元數量增加,Tesla V100為了更好提升高性能計算,繼續增加二級緩存及寄存
器大小,L2緩存由Tesla P100的4096KB增加到了6144KB,每組SM單元的寄存器檔案大小總
數從14336KB增加到了20480KB。
NVIDIA計算卡專享的NVLink是一種高頻寬的互聯技術,能夠在CPU-GPU和GPU-GPU之間實現
超高速的資料傳輸。 誕生之初就獲得傳統PCIe 3.0 5-12倍的資料傳送速率,還能大幅提
升應用程式的處理速度。 現在NVIDIA將其提升至300GB/s水準,當然了這個技術主要還是
用在高性能計算上,估計不會下放至遊戲卡上。
http://img.expreview.com/news/2017/05/11/Tesla-V1003.jpg
Tesla V100架構:
6組GPC單元,每組GPC單元由14組SM單元構成,滿血版應該是6 x 14 = 84組SM單元,但
Tesla V100只有80組,每組SM單元64個CUDA單元,因此共同構成80 x 64 = 5120個CUDA單
元。 每組SM單元中,FP32:FP64:Tensor單元比例為8:4:1。
http://img.expreview.com/news/2017/05/11/NVIDIA-Volta-GV1001.png
那麼問題來了,強大如斯的Tesla V100究竟用在哪裡? NVIDIA表示將會率先更新用於深
度學習超算DGX-1上,內部同樣集成了8張Tesla V100,提供960 TFLOPS Tensor深度計算
性能,能夠在8小時完成TITAN X需時8天的計算量,極大地節約科研人員等待深度計算結
果時間。 就當然啦,擁有8張真·核彈的新DGX-1售價並不便宜,149000美元。
--
老黃已經公布Volta 蘇媽的VEGA仍然保持神祕
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.224.79.89
※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1494441973.A.BD9.html
→
05/11 02:54, , 1F
05/11 02:54, 1F
→
05/11 02:56, , 2F
05/11 02:56, 2F
推
05/11 02:57, , 3F
05/11 02:57, 3F
推
05/11 02:59, , 4F
05/11 02:59, 4F
推
05/11 03:13, , 5F
05/11 03:13, 5F
推
05/11 03:22, , 6F
05/11 03:22, 6F
→
05/11 03:23, , 7F
05/11 03:23, 7F
→
05/11 03:57, , 8F
05/11 03:57, 8F
推
05/11 05:21, , 9F
05/11 05:21, 9F
推
05/11 05:52, , 10F
05/11 05:52, 10F
→
05/11 06:16, , 11F
05/11 06:16, 11F
推
05/11 06:42, , 12F
05/11 06:42, 12F
推
05/11 07:05, , 13F
05/11 07:05, 13F
→
05/11 07:17, , 14F
05/11 07:17, 14F
推
05/11 07:23, , 15F
05/11 07:23, 15F
推
05/11 07:24, , 16F
05/11 07:24, 16F
推
05/11 07:26, , 17F
05/11 07:26, 17F
推
05/11 07:36, , 18F
05/11 07:36, 18F
推
05/11 07:46, , 19F
05/11 07:46, 19F
→
05/11 08:01, , 20F
05/11 08:01, 20F
推
05/11 08:10, , 21F
05/11 08:10, 21F
推
05/11 08:16, , 22F
05/11 08:16, 22F
推
05/11 08:23, , 23F
05/11 08:23, 23F
→
05/11 08:36, , 24F
05/11 08:36, 24F
推
05/11 08:43, , 25F
05/11 08:43, 25F
推
05/11 08:56, , 26F
05/11 08:56, 26F
→
05/11 09:37, , 27F
05/11 09:37, 27F
→
05/11 09:41, , 28F
05/11 09:41, 28F
→
05/11 09:42, , 29F
05/11 09:42, 29F
→
05/11 09:49, , 30F
05/11 09:49, 30F
噓
05/11 10:03, , 31F
05/11 10:03, 31F
→
05/11 10:04, , 32F
05/11 10:04, 32F
推
05/11 10:12, , 33F
05/11 10:12, 33F
推
05/11 10:36, , 34F
05/11 10:36, 34F
推
05/11 10:43, , 35F
05/11 10:43, 35F
→
05/11 10:43, , 36F
05/11 10:43, 36F
推
05/11 10:52, , 37F
05/11 10:52, 37F
推
05/11 11:05, , 38F
05/11 11:05, 38F
→
05/11 11:05, , 39F
05/11 11:05, 39F
→
05/11 11:09, , 40F
05/11 11:09, 40F
→
05/11 11:11, , 41F
05/11 11:11, 41F
→
05/11 11:12, , 42F
05/11 11:12, 42F
→
05/11 11:12, , 43F
05/11 11:12, 43F
推
05/11 11:17, , 44F
05/11 11:17, 44F
推
05/11 11:22, , 45F
05/11 11:22, 45F
推
05/11 11:22, , 46F
05/11 11:22, 46F
→
05/11 11:23, , 47F
05/11 11:23, 47F
推
05/11 11:27, , 48F
05/11 11:27, 48F
→
05/11 11:27, , 49F
05/11 11:27, 49F
→
05/11 11:27, , 50F
05/11 11:27, 50F
推
05/11 11:29, , 51F
05/11 11:29, 51F
→
05/11 11:39, , 52F
05/11 11:39, 52F
→
05/11 11:42, , 53F
05/11 11:42, 53F
推
05/11 11:49, , 54F
05/11 11:49, 54F
→
05/11 12:01, , 55F
05/11 12:01, 55F
推
05/11 12:08, , 56F
05/11 12:08, 56F
→
05/11 12:14, , 57F
05/11 12:14, 57F
→
05/11 12:14, , 58F
05/11 12:14, 58F
推
05/11 12:25, , 59F
05/11 12:25, 59F
推
05/11 12:35, , 60F
05/11 12:35, 60F
推
05/11 12:37, , 61F
05/11 12:37, 61F
推
05/11 12:40, , 62F
05/11 12:40, 62F
推
05/11 12:42, , 63F
05/11 12:42, 63F
→
05/11 12:43, , 64F
05/11 12:43, 64F
→
05/11 12:49, , 65F
05/11 12:49, 65F
→
05/11 12:49, , 66F
05/11 12:49, 66F
→
05/11 12:50, , 67F
05/11 12:50, 67F
→
05/11 12:51, , 68F
05/11 12:51, 68F
推
05/11 13:18, , 69F
05/11 13:18, 69F
推
05/11 13:53, , 70F
05/11 13:53, 70F
推
05/11 13:53, , 71F
05/11 13:53, 71F
推
05/11 13:54, , 72F
05/11 13:54, 72F
→
05/11 14:45, , 73F
05/11 14:45, 73F
推
05/11 21:21, , 74F
05/11 21:21, 74F
推
05/12 03:08, , 75F
05/12 03:08, 75F