[閒聊] 串連數千個 Nvidia GPU，微軟打造 Chat

看板PC_Shopping作者 (工人智慧)時間1年前 (2023/03/14 15:14), 編輯推噓21(23推 2噓 11→)
留言36則, 32人參與, 1年前最新討論串1/1
technews 串連數千個 Nvidia GPU，微軟打造 ChatGPT 的超級電腦 March 14, 2023 by 陳 冠榮 https://i.imgur.com/9bqEe8D.jpg
微軟斥資數億美元打造一台大型超級電腦，串連數千個 Nvidia GPU，為 OpenAI 的聊天機 器人 ChatGPT 提供運算動力。 微軟 2019 年向 OpenAI 投資 10 億美元起，同意為這家 AI 新創建構一台大型超級電腦。 它將數千個 Nvidia A100 GPU 和 Azure 雲端運算平台串連在一起，這些 GPU 用於高效能 運算，以 NVIDIA Quantum InfiniBand 架構為基礎，能以高吞吐量、低延遲網路連接在一 起。這讓 OpenAI 訓練 AI 模型能獲取大量數據並學習參數，開發具 AI 功能的新工具如 C hatGPT。 利用 OpenAI 訓練 AI 模型的同一套資源，微軟也用來訓練自己的大型 AI 模型，包括上個 月推出的新版 Bing 搜尋引擎。如此一來，任何想要訓練大型 AI 模型的企業能以同一套資 源操作、改進，Azure 成為能夠廣泛應用的 AI 雲。 「微軟在 OpenAI 的專案上可能花費數億美元」，負責雲端和 AI 業務的微軟副總裁 Scott Guthrie 向《彭博社》透露，雖然這對於近期延長對 OpenAI 多年、數十億美元投資的微 軟來說，似乎是九牛一毛，而微軟就是願意在 AI 領域砸錢投資。 此外，微軟 13 日也為 Azure 宣布功能強大且能大規模擴展的虛擬機器，整合最新的 NVID IA H100 Tensor 核心 GPU 和 NVIDIA Quantum 2 InfiniBand 架構，可以根據客戶的 AI 任務規模進行擴展。微軟指出，這允許 OpenAI 和其他仰賴 Azure 的公司訓練更大、更複 雜的 AI 模型，並加速推出生成式 AI 應用。 微軟親手建構大型超級電腦為 ChatGPT 提供 AI 運算動力，更能將運算資源以客製化方式 提供不同客戶運用，擴大 Azure AI 雲的應用範疇。 https://reurl.cc/vk0Dxy 咱等等黨要不就等50系吧 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.71.214.87 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1678778079.A.B08.html
推
03/14 15:18, 1年前 , 1F
N或最贏 還是 G或最贏
03/14 15:18, 1F
→
03/14 15:23, 1年前 , 2F
你不買 我不買 微軟爸爸大買特買
03/14 15:23, 2F
推
03/14 15:23, 1年前 , 3F
老黃:買愈多省愈多
03/14 15:23, 3F
推
03/14 15:30, 1年前 , 4F
為什麼不用A卡
03/14 15:30, 4F
推
03/14 15:33, 1年前 , 5F
終於知道老黃的底氣在哪裡了
03/14 15:33, 5F
推
03/14 15:33, 1年前 , 6F
老黃GPU+蘇媽EPYC 牙膏吃大便
03/14 15:33, 6F
推
03/14 15:38, 1年前 , 7F
H100是用SPR，又不關蘇嬤的事
03/14 15:38, 7F
推
03/14 15:40, 1年前 , 8F
老黃：早跟你說買越多省越多，還不開團購
03/14 15:40, 8F
→
03/14 15:41, 1年前 , 9F
03/14 15:41, 9F
噓
03/14 15:47, 1年前 , 10F
ChatGPT說它CPU是用Xeon
03/14 15:47, 10F
→
03/14 15:50, 1年前 , 11F
你各位不要再讓AI發廢文畫色圖讓老黃繼續拿翹
03/14 15:50, 11F
推
03/14 16:04, 1年前 , 12F
你不買 我不買 靠腰微軟買光了
03/14 16:04, 12F
推
03/14 16:13, 1年前 , 13F
另類的礦場 但算的不是區塊練 是AI
03/14 16:13, 13F
推
03/14 16:14, 1年前 , 14F
A100跟消費級是不一樣的產品線吧
03/14 16:14, 14F
→
03/14 16:39, 1年前 , 15F
short MSFT/AMD/INTC,long NVDA
03/14 16:39, 15F
噓
03/14 16:40, 1年前 , 16F
出貨文 等等黨崩潰噓
03/14 16:40, 16F
推
03/14 16:55, 1年前 , 17F
以後會不會有洋垃圾顯卡？
03/14 16:55, 17F
推
03/14 16:58, 1年前 , 18F
大家懂是誰害你買不到顯卡的了
03/14 16:58, 18F
推
03/14 17:10, 1年前 , 19F
要不要再學挖礦 把全世界礦卡都串起來 生產天網
03/14 17:10, 19F
推
03/14 17:32, 1年前 , 20F
4090可以在家用了 fb的
03/14 17:32, 20F
→
03/14 17:45, 1年前 , 21F
別的新聞有說他們也有用4090
03/14 17:45, 21F
推
03/14 18:02, 1年前 , 22F
我等5090
03/14 18:02, 22F
推
03/14 18:10, 1年前 , 23F
AMD：AI不重要....
03/14 18:10, 23F
→
03/14 18:29, 1年前 , 24F
NV 或成最大贏家，市場機制證明，這樣的價格並不貴
03/14 18:29, 24F
→
03/14 19:00, 1年前 , 25F
微軟可以說不貴，我不是微軟沒辦法XD
03/14 19:00, 25F
推
03/14 19:08, 1年前 , 26F
OpenAI平台使用的AMD CPU型號是 AMD EPYC 7742。
03/14 19:08, 26F
→
03/14 19:08, 1年前 , 27F
這是ChatGPT跟我說的
03/14 19:08, 27F
→
03/14 19:47, 1年前 , 28F
4090是給免費的ChatGPT用的吧XD
03/14 19:47, 28F
→
03/14 19:47, 1年前 , 29F
付費仔用A100
03/14 19:47, 29F
推
03/14 20:53, 1年前 , 30F
你不買我不買微軟買
03/14 20:53, 30F
推
03/14 21:27, 1年前 , 31F
我那openai說用的是M2唉 到底
03/14 21:27, 31F
推
03/14 21:47, 1年前 , 32F
微軟爸：你有幾張？
03/14 21:47, 32F
→
03/15 00:16, 1年前 , 33F
這要是拿來跑F@H個幾天應該蠻爽的 ;;
03/15 00:16, 33F
推
03/15 11:27, 1年前 , 34F
03/15 11:27, 34F
推
03/15 14:33, 1年前 , 35F
有錢就買NVDA，跟著老黃賺爛
03/15 14:33, 35F
推
03/16 08:54, 1年前 , 36F
次
03/16 08:54, 36F
‣ 更多 aigame 的文章
文章代碼(AID): #1a41xVi8 (PC_Shopping)