Re: [討論] AI晶片已刪文

看板Tech_Job作者 (廢文製造機)時間1年前 (2022/09/18 05:29), 1年前編輯推噓-9(1推 10噓 15→)
留言26則, 12人參與, 1年前最新討論串3/5 (看更多)
AI 人工智慧 30年前就有了 以前有部電影 說的就是AI 聰明的霍金也警惕人們 因為AI有可能有仿生的狀況 導致人類走向毀滅 所以我想知道的是 AI晶片是否有自我發展的空間 ※ 引述《sheepmanager (AI專家)》之銘言： : 這我來回答吧 : AI晶片一般是指用來加速深度學習模型推理的晶片 : 如果是訓練通常還是利用Gpu 因為生態系比較成熟 : 那麼深度學習推理時間會耗在哪裡呢 : 通常就是convolution 或是Gemm : 當然convolution 可以透過線性代數幾次的轉換 : 變成gemm 這也是一門學問 : 所以矩陣相乘等於是最重要的運算了 : 你只要能加速這麼簡單的東西 : 就能號稱你在做AI晶片了 : 不斷的堆硬體上去 性能就出來了 : 甚至有些公司走火入魔 : 連非矩陣運算的指令都做了 : 因為深度學習的模型越來越大 : 所以並行去運算矩陣相乘就是很重要的事了 : 你的硬體並行時 耗電跟降頻做得夠好的話 : 就能有點能見度了 現在中國的新創沒有一家做到的 : 所以就有一些人腦袋動到光計算上面 : 訊號轉成光能計算 算完再轉回電 : 但這非常的不穩定 基本上也是不可能回收成本 : 好了 你說這麼簡單的話 那也很容易啊 : 然而 深度學習在運行過程中 還有一個很大的耗損 : 就是算子與算子之間的資料傳輸 : 用硬體加速過後 每個算子的時間大幅縮短 : 但是彼此之間的memory copy仍然耗損嚴重 : 於是cache或是local memory變的異常重要 : 算子與算子之間的fusion做得好 : 搭配上速度夠快又大的memory基本上也很厲害了 : 中國那一堆新創耗電降頻不行 : 現在就往這方向拼命做 : 那麼AI晶片前景怎麼樣呢 : 老實說 前景是死路一條 : CPU GPU 大公司都在從自家指令來優化模型 : 或是直接配上特殊資料格式 如tf32 fp8 : 華為的c4比起來就是個花拳繡腿 還推行不起來 : 我現在底下50多人就在做未來的方向 : 從模型優化演算法 記憶體策略 框架 : 到底層assembly加速 完整的一套方案 : 如果你有關注一些新的paper : 優化到最後 對比常用硬體 AI晶片根本沒有優勢 : 就像挖礦沒有收益時的礦機一樣 : 純電子垃圾 : ※ 引述《QQmickey》之銘言 : : 雖然從新聞上看到 三星已經出了 不知道是不是唬爛的 : : 自己也是理工背景 但是想問科技版的大大們 : : 這是真的嗎? : : 我所學的 覺得不太可能 : : 雖然很多事很難講 已知用火 : : 諾貝爾物理獎也一堆錯的 : : 難道是神學 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.230.13.9 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1663450164.A.62C.html
推
09/18 07:20, 1年前 , 1F
美國真的猛 以前皆把黃人騙去蓋鐵路 挖金山 後來不
09/18 07:20, 1F
→
09/18 07:20, 1年前 , 2F
好管理容易有民族英雄暴動 後來洗腦養成一堆阿宅工
09/18 07:20, 2F
→
09/18 07:21, 1年前 , 3F
程師 主動變成黃奴 黃種人被吃死死
09/18 07:21, 3F
先不討論美帝 對其他國方針 反正就是賣武器 跟 戰爭不要在我國 黃種人有古以來都被白人殖民
噓
09/18 08:20, 1年前 , 4F
到底在供三小==
09/18 08:20, 4F
你看不懂也不用噓我.... ※ 編輯: QQmickey (61.230.13.9 臺灣), 09/18/2022 08:33:29 ※ 編輯: QQmickey (61.230.13.9 臺灣), 09/18/2022 08:34:14
→
09/18 08:40, 1年前 , 5F
所謂的AI晶片就是種accelator在那邊說啥仿生自我發
09/18 08:40, 5F
→
09/18 08:40, 1年前 , 6F
展導致人類走向毀滅 說到底你根本連現在常說的AI是
09/18 08:40, 6F
→
09/18 08:40, 1年前 , 7F
什麼都不懂 講這種一看就是只會看新聞跟風的發言就
09/18 08:40, 7F
→
09/18 08:40, 1年前 , 8F
是欠噓
09/18 08:40, 8F
我說的是AI不是AI晶片 所以我才會問阿 都跟你說我的理解AI晶片怪怪的
噓
09/18 08:41, 1年前 , 9F
這裡是科技版不是文組幻想版耶
09/18 08:41, 9F
我是理工不是幻想 只是討論 氣啥???
噓
09/18 08:42, 1年前 , 10F
你可以回你原文去編輯
09/18 08:42, 10F
※ 編輯: QQmickey (61.230.13.9 臺灣), 09/18/2022 08:44:29 ※ 編輯: QQmickey (61.230.13.9 臺灣), 09/18/2022 08:45:53
噓
09/18 08:47, 1年前 , 11F
現在連科技板都有連ai都不動的智x?
09/18 08:47, 11F
→
09/18 08:49, 1年前 , 12F
看你回覆 嗯 看來跟你認真就輸了 你就算真的是理組
09/18 08:49, 12F
→
09/18 08:49, 1年前 , 13F
講出來的話在這邊看來就是標準的文組幻想式發言是
09/18 08:49, 13F
→
09/18 08:49, 1年前 , 14F
要討論啥
09/18 08:49, 14F
噓
09/18 09:06, 1年前 , 15F
文組的?
09/18 09:06, 15F
噓
09/18 09:14, 1年前 , 16F
想太多了，起碼現在科技還不會發生
09/18 09:14, 16F
→
09/18 09:16, 1年前 , 17F
問題在於AI為什麼要毀滅人類，你要先搞清楚目前的
09/18 09:16, 17F
→
09/18 09:16, 1年前 , 18F
演算法仍然是由人類設計的，如果短期內真的有想毀
09/18 09:16, 18F
→
09/18 09:16, 1年前 , 19F
滅人類AI出來，那問題是設計那個AI演算法的人類而
09/18 09:16, 19F
→
09/18 09:16, 1年前 , 20F
不是AI
09/18 09:16, 20F
我知道問題是設計那個AI演算法 電腦也是人類想出來 但是我的問題是AI 自我成長 不是你設定好 ※ 編輯: QQmickey (61.230.13.9 臺灣), 09/18/2022 09:24:15
→
09/18 10:08, 1年前 , 21F
科幻跟科技是有差別的
09/18 10:08, 21F
噓
09/18 10:22, 1年前 , 22F
從上一篇就寫得亂七八糟 還敢說別人看不懂
09/18 10:22, 22F
噓
09/18 10:24, 1年前 , 23F
以後AI晶片會跟你說 The answer is 42.
09/18 10:24, 23F
→
09/18 11:33, 1年前 , 24F
看來你有很大的勇氣..
09/18 11:33, 24F
噓
09/18 12:19, 1年前 , 25F
哦?
09/18 12:19, 25F
噓
09/18 12:30, 1年前 , 26F
在AI搞人類之前先關掉它的power不就沒事了......XDD
09/18 12:30, 26F
‣ 更多 QQmickey 的文章
文章代碼(AID): #1Z9ZmqOi (Tech_Job)
討論串 (同標題文章)
本文引述了以下文章的的內容：
完整討論串 (本文為第 3 之 5 篇)：
排序： 最舊先 | 最新先 | 留言數
討論
11
35
[討論] AI晶片 AI晶片
QQmickey
1年前, 09/17
討論
11
21
Re: [討論] AI晶片 Re: AI晶片
waitrop
1年前, 09/18
在新視窗開啟完整討論串 (共5篇)
‣ 更多 QQmickey 的文章
文章代碼(AID): #1Z9ZmqOi (Tech_Job)