[新聞] 韓成功研發全球首項人腦模擬超低電耗AI半導體技術
原文標題:
韓成功研發全球首項人腦模擬超低電耗AI半導體技術
原文連結:
https://cn.yna.co.kr/view/ACK20240306003700881
發布時間:
2024年 03月 06日 16:57
記者署名:
張黎莉
原文內容:
韓聯社首爾3月6日電 韓國研究團隊全球最初研發出即可減少電耗,又可超高速處理大語
言模型(LLM)的人工智慧(AI)半導體核心技術“互補型轉換器”(
Complementary-Transformer)。
韓國科學技術資訊通訊部6日表示,韓國科學技術院(KAIST)PIM半導體研究中心和人工
智慧半導體研究生院柳會峻教授研究小組憑藉三星電子28納米工藝開發出互補型轉換器。
所謂“互補型轉換器技術”,是指選擇性使用模仿人腦結構與功能設計而成的脈衝神經網
路(SNN)和深度神經網路(DNN),實現轉換功能的技術。轉換器(Transformer)也是
積累文章內詞彙等資料內部關係進而學習條理和含義的神經網路,屬於ChatGPT的原創技
術。
https://i.imgur.com/Djw6x4c.jpg
脈衝神經網路和深度神經網路的互補特性 韓國科學技術資訊通訊部供圖
諸如GPT的大語言模型,其間通過大量的圖片處理器(GPU)和250瓦特的電耗才能實現驅
動,但此次研究小組成功在一個4.5毫米×4.5毫米的小型人工智慧半導體內,以400毫瓦
的超低電耗實現了超高速驅動。
該研究結果在上月19日至23日美國舊金山舉行的國際固態電路會議(ISSCC)上公開並演
示。研究小組介紹稱,將神經形態計算技術的精準度提升至與摺積神經網路(CNN)相同
的水平,並運用了可適用於諸多應用領域的互補型深度神經網路(C-DNN)。
科技部介紹稱,研究小組將互補型深度神經網路技術用於大語言模型,實際驗證了超低電
耗、高性能的端側人工智慧(On-device AI)能夠存在,全球首次以人工智慧半導體的形
式呈現出此前僅停留在理論階段的研究內容。
據研究小組介紹,互補型轉換器使用的電力僅為NVIDIA A100圖片處理器625分之1的水平
,利用GPT-2模型生成語言時僅需0.4秒,利用T5翻譯語言只需0.2秒。研究小組計畫今後
擴大研究範圍,將神經形態計算技術從語言模型拓展至更多應用領域。(完)
https://i.imgur.com/qrjfoXx.jpg
AI半導體發展方向 韓國科學技術資訊通訊部供圖
心得/評論:
之前版上有文章討論AI PC和AI手機的未來
這研究證實了高性能且超低電耗On-device AI的可行性
原本250W才能實現驅動 這個只用400mW就能高速驅動
電力消耗更只有NVIDIA A100的625分之1
而且這還只用三星28nm 之後改用先進製程功耗能更低
GPT2生成語言0.4秒 T5翻譯語言0.2秒
我看接下來就是On-device AI的天下了
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.44.242.74 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1709798091.A.1DF.html
※ 編輯: madeinheaven (114.44.242.74 臺灣), 03/07/2024 15:55:24
→
03/07 15:55,
1月前
, 1F
03/07 15:55, 1F
噓
03/07 15:55,
1月前
, 2F
03/07 15:55, 2F
推
03/07 15:56,
1月前
, 3F
03/07 15:56, 3F
推
03/07 15:56,
1月前
, 4F
03/07 15:56, 4F
→
03/07 15:56,
1月前
, 5F
03/07 15:56, 5F
推
03/07 15:56,
1月前
, 6F
03/07 15:56, 6F
※ 編輯: madeinheaven (114.44.242.74 臺灣), 03/07/2024 15:57:52
噓
03/07 15:57,
1月前
, 7F
03/07 15:57, 7F
→
03/07 15:57,
1月前
, 8F
03/07 15:57, 8F
推
03/07 15:57,
1月前
, 9F
03/07 15:57, 9F
推
03/07 15:57,
1月前
, 10F
03/07 15:57, 10F
→
03/07 15:57,
1月前
, 11F
03/07 15:57, 11F
→
03/07 15:58,
1月前
, 12F
03/07 15:58, 12F
推
03/07 15:58,
1月前
, 13F
03/07 15:58, 13F
推
03/07 15:58,
1月前
, 14F
03/07 15:58, 14F
噓
03/07 15:58,
1月前
, 15F
03/07 15:58, 15F
※ 編輯: madeinheaven (114.44.242.74 臺灣), 03/07/2024 15:59:31
→
03/07 15:59,
1月前
, 16F
03/07 15:59, 16F
推
03/07 15:59,
1月前
, 17F
03/07 15:59, 17F
噓
03/07 15:59,
1月前
, 18F
03/07 15:59, 18F
→
03/07 16:00,
1月前
, 19F
03/07 16:00, 19F
→
03/07 16:00,
1月前
, 20F
03/07 16:00, 20F
推
03/07 16:00,
1月前
, 21F
03/07 16:00, 21F
推
03/07 16:00,
1月前
, 22F
03/07 16:00, 22F
→
03/07 16:01,
1月前
, 23F
03/07 16:01, 23F
→
03/07 16:01,
1月前
, 24F
03/07 16:01, 24F
推
03/07 16:01,
1月前
, 25F
03/07 16:01, 25F
→
03/07 16:02,
1月前
, 26F
03/07 16:02, 26F
→
03/07 16:03,
1月前
, 27F
03/07 16:03, 27F
噓
03/07 16:04,
1月前
, 28F
03/07 16:04, 28F
推
03/07 16:05,
1月前
, 29F
03/07 16:05, 29F
→
03/07 16:05,
1月前
, 30F
03/07 16:05, 30F
推
03/07 16:05,
1月前
, 31F
03/07 16:05, 31F
推
03/07 16:06,
1月前
, 32F
03/07 16:06, 32F
※ 編輯: madeinheaven (114.44.242.74 臺灣), 03/07/2024 16:09:21
推
03/07 16:09,
1月前
, 33F
03/07 16:09, 33F
→
03/07 16:09,
1月前
, 34F
03/07 16:09, 34F
噓
03/07 16:10,
1月前
, 35F
03/07 16:10, 35F
※ 編輯: madeinheaven (114.44.242.74 臺灣), 03/07/2024 16:12:43
→
03/07 16:13,
1月前
, 36F
03/07 16:13, 36F
→
03/07 16:13,
1月前
, 37F
03/07 16:13, 37F
推
03/07 16:14,
1月前
, 38F
03/07 16:14, 38F
→
03/07 16:15,
1月前
, 39F
03/07 16:15, 39F
→
03/07 16:16,
1月前
, 40F
03/07 16:16, 40F
推
03/07 16:17,
1月前
, 41F
03/07 16:17, 41F
推
03/07 16:21,
1月前
, 42F
03/07 16:21, 42F
→
03/07 16:22,
1月前
, 43F
03/07 16:22, 43F
→
03/07 16:22,
1月前
, 44F
03/07 16:22, 44F
推
03/07 16:23,
1月前
, 45F
03/07 16:23, 45F
推
03/07 16:23,
1月前
, 46F
03/07 16:23, 46F
噓
03/07 16:24,
1月前
, 47F
03/07 16:24, 47F
噓
03/07 16:26,
1月前
, 48F
03/07 16:26, 48F
推
03/07 16:28,
1月前
, 49F
03/07 16:28, 49F
推
03/07 16:28,
1月前
, 50F
03/07 16:28, 50F
推
03/07 16:29,
1月前
, 51F
03/07 16:29, 51F
噓
03/07 16:33,
1月前
, 52F
03/07 16:33, 52F
噓
03/07 16:33,
1月前
, 53F
03/07 16:33, 53F
噓
03/07 16:33,
1月前
, 54F
03/07 16:33, 54F
→
03/07 16:34,
1月前
, 55F
03/07 16:34, 55F
推
03/07 16:35,
1月前
, 56F
03/07 16:35, 56F
推
03/07 16:38,
1月前
, 57F
03/07 16:38, 57F
推
03/07 16:39,
1月前
, 58F
03/07 16:39, 58F
→
03/07 16:39,
1月前
, 59F
03/07 16:39, 59F
推
03/07 16:40,
1月前
, 60F
03/07 16:40, 60F
噓
03/07 16:40,
1月前
, 61F
03/07 16:40, 61F
推
03/07 16:43,
1月前
, 62F
03/07 16:43, 62F
→
03/07 16:43,
1月前
, 63F
03/07 16:43, 63F
推
03/07 16:44,
1月前
, 64F
03/07 16:44, 64F
→
03/07 16:45,
1月前
, 65F
03/07 16:45, 65F
→
03/07 16:47,
1月前
, 66F
03/07 16:47, 66F
推
03/07 16:50,
1月前
, 67F
03/07 16:50, 67F
推
03/07 16:52,
1月前
, 68F
03/07 16:52, 68F
推
03/07 16:54,
1月前
, 69F
03/07 16:54, 69F
→
03/07 16:54,
1月前
, 70F
03/07 16:54, 70F
推
03/07 17:07,
1月前
, 71F
03/07 17:07, 71F
推
03/07 17:11,
1月前
, 72F
03/07 17:11, 72F
→
03/07 17:14,
1月前
, 73F
03/07 17:14, 73F
推
03/07 17:29,
1月前
, 74F
03/07 17:29, 74F
推
03/07 17:32,
1月前
, 75F
03/07 17:32, 75F
推
03/07 17:46,
1月前
, 76F
03/07 17:46, 76F
噓
03/07 17:49,
1月前
, 77F
03/07 17:49, 77F
推
03/07 18:08,
1月前
, 78F
03/07 18:08, 78F
噓
03/07 18:26,
1月前
, 79F
03/07 18:26, 79F
推
03/07 18:26,
1月前
, 80F
03/07 18:26, 80F
推
03/07 18:35,
1月前
, 81F
03/07 18:35, 81F
推
03/07 18:39,
1月前
, 82F
03/07 18:39, 82F
推
03/07 19:08,
1月前
, 83F
03/07 19:08, 83F
→
03/07 19:14,
1月前
, 84F
03/07 19:14, 84F
噓
03/07 19:17,
1月前
, 85F
03/07 19:17, 85F
推
03/07 19:36,
1月前
, 86F
03/07 19:36, 86F
推
03/07 21:09,
1月前
, 87F
03/07 21:09, 87F
推
03/07 21:13,
1月前
, 88F
03/07 21:13, 88F
推
03/07 22:49,
1月前
, 89F
03/07 22:49, 89F
噓
03/08 16:30,
1月前
, 90F
03/08 16:30, 90F