[請益] 市面上有可以用於DL訓練的TPU電腦嗎

看板PC_Shopping作者 (dinosaur)時間3年前 (2020/07/18 00:04), 3年前編輯推噓7(7推 0噓 30→)
留言37則, 14人參與, 3年前最新討論串1/1
現在市面上有可以用於深度學習訓練的TPU電腦嗎 google找了一下 好像有google TPU 的版子 可是算力好像只能用來預測 有能用來訓練的嗎 還是要買GPU? 可是用GPU跟TPU速度真的差很多 用kaggle TPU 20多分鐘的模型 用kaggle GPU 要6個小時(雖然優化一些程式碼應該可以加快) 另外問一個問題 9月要出的N卡30XX系列的 會對機器學習部份做優化嗎 不然一定被google的TPU打趴阿 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.42.190.19 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1595001867.A.229.html
推
07/18 00:11, 3年前 , 1F
別說優化，NV消費級的顯卡只有被閹割的分
07/18 00:11, 1F
推
07/18 00:29, 3年前 , 2F
半精度2080Ti就夠強啦?
07/18 00:29, 2F
推
07/18 00:59, 3年前 , 3F
不是阿，專門開發的設備和市售卡不能比也是正常的吧
07/18 00:59, 3F
→
07/18 01:02, 3年前 , 4F
專門架構當然屌虐
07/18 01:02, 4F
→
07/18 01:02, 3年前 , 5F
但就是沒有市場
07/18 01:02, 5F
推
07/18 01:05, 3年前 , 6F
真的要用也只能cloud tpu吧，google就是想靠這個賺
07/18 01:05, 6F
→
07/18 01:31, 3年前 , 7F
TPU沒有外賣吧 就算有板子也拿不到TPU吧 只有跟Goog
07/18 01:31, 7F
→
07/18 01:31, 3年前 , 8F
le租的方式
07/18 01:31, 8F
https://www.asus.com/tw/AIoT-Industrial-Solutions/Tinker-Edge-T/ 那這個是? ※ 編輯: cs410567cs (114.42.190.19 臺灣), 07/18/2020 01:44:43
推
07/18 01:47, 3年前 , 9F
用gcs吧，不然colab加減用
07/18 01:47, 9F
推
07/18 01:48, 3年前 , 10F
edge tpu不等於tpu吧
07/18 01:48, 10F
我甩蠢了
→
07/18 01:55, 3年前 , 11F
有看過NV的jetson nano嗎？128cuda夠不夠你用？
07/18 01:55, 11F
→
07/18 01:56, 3年前 , 12F
dev kit 99鎂應該負擔得起吧
07/18 01:56, 12F
→
07/18 01:57, 3年前 , 13F
這是老黃專門為dl開發的工具
07/18 01:57, 13F
※ 編輯: cs410567cs (114.42.190.19 臺灣), 07/18/2020 02:01:30
→
07/18 07:07, 3年前 , 14F
07/18 07:07, 14F
→
07/18 07:07, 3年前 , 15F
他只建議做Transfer learning
07/18 07:07, 15F
→
07/18 07:08, 3年前 , 16F
這文件你有興趣可看看
07/18 07:08, 16F
→
07/18 07:08, 3年前 , 17F
07/18 07:08, 17F
→
07/18 07:08, 3年前 , 18F
sfer-learning
07/18 07:08, 18F
→
07/18 07:11, 3年前 , 19F
而且TPU可套的model也很少
07/18 07:11, 19F
→
07/18 07:11, 3年前 , 20F
RNN CNN 有些不支援
07/18 07:11, 20F
→
07/18 07:11, 3年前 , 21F
GPU大部分都可以訓練
07/18 07:11, 21F
→
07/18 14:03, 3年前 , 22F
論專業AI, TPU本來就會比泛用GPU更有效率
07/18 14:03, 22F
→
07/18 14:04, 3年前 , 23F
不然廠商做TPU是嫌錢太多嗎
07/18 14:04, 23F
→
07/18 14:04, 3年前 , 24F
GPU優勢是親民 有遊戲市場當分母
07/18 14:04, 24F
→
07/18 14:05, 3年前 , 25F
1對1打不贏, 你有考慮多對1嗎
07/18 14:05, 25F
→
07/18 14:06, 3年前 , 26F
如果你有足夠需求 我記得谷歌有賣雲端算力
07/18 14:06, 26F
→
07/18 14:06, 3年前 , 27F
不賣TPU, 但可以賣算力
07/18 14:06, 27F
→
07/18 14:31, 3年前 , 28F
Coral board記得有管道可以買 但這只有edge
07/18 14:31, 28F
推
07/18 16:12, 3年前 , 29F
通常都是給edge device用的
07/18 16:12, 29F
→
07/18 19:26, 3年前 , 30F
cloud tpu精度到底多少 看起來怎麼好像是只有bfloat
07/18 19:26, 30F
→
07/18 19:27, 3年前 , 31F
32? 用老黃顯卡你願意自己去修code 用到int4 int8
07/18 19:27, 31F
→
07/18 19:27, 3年前 , 32F
fp16之類的也都會有巨幅提升阿 新一代應該87%遊戲卡
07/18 19:27, 32F
→
07/18 19:28, 3年前 , 33F
還是有一定的tensor core 30系列有tf32 也是大
07/18 19:28, 33F
→
07/18 19:28, 3年前 , 34F
進步八
07/18 19:28, 34F
→
07/18 19:31, 3年前 , 35F
TF32雖然偷精度 但是原先code都不用改 能套的範圍
07/18 19:31, 35F
→
07/18 19:31, 3年前 , 36F
更大一點
07/18 19:31, 36F
→
07/18 21:12, 3年前 , 37F
intel neural compute stick ?
07/18 21:12, 37F
‣ 更多 cs410567cs 的文章
文章代碼(AID): #1V4SmB8f (PC_Shopping)