Re: [閒聊] 欸不是,買個顯卡還要買驅動= =

看板PC_Shopping作者 (吃臉哥哥)時間1年前 (2023/04/10 12:07), 1年前編輯推噓17(1709)
留言26則, 17人參與, 1年前最新討論串6/6 (看更多)
看到版上在討論vGPU 身為vGPU相關的工程師應該是有資格來討論(? 先來談談虛擬化這件事情 虛擬化就是透過hypervisor(如VMware,kvm)之類的平台 在單一主機的環境上面,虛擬出多個作業系統 單機版就如vmware workstation,或是各類模擬器也算是(bluestack) 了解玩虛擬化之後就可以往下討論 如何讓虛擬化之後的作業系統(guest os)拿到GPU 市面上有各種千奇百怪的方式,所以以下只探討N家有認證的方式 1.Passthrought/直通道/Diretch Path I/O 這三種名稱的意思都差不多 將整張GPU卡片直接分配給guest OS,這種方式嚴格說不是虛擬化 畢竟沒有虛擬化GPU的成分,將整張卡片丟給虛擬機,何來虛擬化GPU之稱 透過這種方式驅動程式是使用一般家用的驅動程式,所以可以直接使用 2.vGPU 看到前一種方式,有一個很大的限制,就是單一虛擬機單一卡片 這種方式以企業等級的方式來看是非常浪費資源的 Datacenter系列卡片通常都16GB up,並且效能也非常強大 單一虛擬機很難用光其效能 所以vGPU就是將GPU利用虛擬的方式,分給多台虛擬機 讓每一台虛擬機都可以有固定份額的GPU 切分方式就是透過GB的方式切分(xGB) 當然這種功能是面相企業的,所以當然會有收費的問題 所以N家就簡單粗暴地綁定驅動程式 要購買才能下載特定的驅動,並且驅動程式也會需要輸入授權 提完以上可以額外來講一下vGPU各種授權種類 其中有分成4+1種 vWs拿來做圖像運算(這種功能可以讓vGPU開啟圖像渲染、directx 相關功能) vApp 利用做RDSH vPC 跟vWs類似,但是關掉圖像進階功能,純顯示 vCs 純計算,拿來做計算相關 當然,費用不相同XDD 順便來討論一下看到文章內提到的有趣問題 1.NVIDIA早期有datacenter系列的卡片(k1/k2/m10) 這種卡片的驅動程式只能使用vGPU的驅動程式 簡單說,就算改成直通道模式,依然只能只用vGPU的驅動 沒辦法使用一般的驅動 印象中在V系列(對照20系列)之後再見過這種模式 P4印象中也是? 2.T4,A2,L4 印象中這幾張的效能差不多(明明不同世代,效能也可做得差不多 就我收到的消息時A2的產線大暴死,所以才T4繼續頂 應該不是市場接受度的問題,A2定價便宜很多呢XD 3.A100,MIG MIG這項技術是否可以完全脫離vGPU呢 是,但也不是 MIG是驅動程式自帶的操作指令,可以切分成多張GPU 在監控介面下就是看到多張卡片 然後可以進行分配使用 但是前面提到,要在驅動程式的介面下操作 所以必須還是得使用前面提到的方式(直通道orvGPU) 1.直通道給虛擬機之後,再從虛擬機端操作 2.或是直接在hypervisor層進行MIG操作之後,再將切分出來的GPU打出來分配給虛擬機 第二種方式依然還是要購買授權呢 所以是但也不是 4. 這邊可以提到N家一個非常複雜的新授權NVIDIA AI Enterprise 嚴格來說它就是vcs+軟體服務的授權 他有著完全不同的驅動以及授權 但是使用方式還是跟vcs一樣 這刀法是真的強 以上,想到甚麼再補充 ※ 引述《wei115 (社畜)》之銘言: : 是這樣的 : 最近看對岸有批好便宜的tesla p4 : 一張大概只要NT 2000 : 性能大概有1070-10%等級 功耗不到75w 長期在資料中心吹冷氣 : 而且還支援vGPU : 想說買來裝在我的proxmox主機上 玩我心心念念的顯卡虛擬化 : 可是查了一些資料發現 : 虛擬化確實很簡單,但裝進去後 每個虛擬機還要授權 : 如果沒有授權 20分鐘就限制性能 只能跑15fps : 阿我都買硬體惹 現在連裝個驅動都要收錢喔= = : https://i.imgur.com/HIy4YHd.jpeg
: -- : ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.134.21.189 (臺灣) : ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1680955923.A.E6F.html : 推 skyrain1234: 那授權費要5000嗎 04/08 20:14 : 每年收 : 而且只收企業,個人用戶還會掛你電話 : 比5000還值錢= = : ※ 編輯: wei115 (220.134.21.189 臺灣), 04/08/2023 20:16:08 : 推 Fezico: 老黃驅動值5000買越多賺越多 04/08 20:16 : → Fezico: 這東西本來就不是放出來給零售市場的,你怎會期望他屌你 04/08 20:17 : 推 cowboyas0413: 我是覺得對岸論壇翻一翻 找到能用的驅動的機率不小 04/08 20:18 : 驅動要網路認證 但我有看到幾個解決方案 有一個github專案可以使用24小時 然後重啟驅 : 動再用24小時 : 推 sheng76314: 有這種事 難怪便宜沒好貨 04/08 20:18 : 推 DsLove710: 不然你要買AMD嗎 04/08 20:19 : amd顯卡= = : 推 fenix220: 貪小便宜的代價 04/08 20:24 : 推 gameboy0618: 不然你要買AMD嗎 04/08 20:24 : 推 Cubelia: 雖然I的內顯被酸亮機用,但在GVT-g和SR-IOV的vGPU支援 04/08 20:25 : → Cubelia: 給得很大方 04/08 20:26 : 本來也打算組intel方案的 只是那時候pve不怎麼支援大小核+amd礦渣主板很便宜就改裝580 : 0x惹 : → Cubelia: 不過性能就有總比沒有好 04/08 20:26 : → AreLies: 我之前買V520結果發現 我沒有驅動 04/08 20:26 : → Severine: 所以相較之下4090真的太便宜了 04/08 20:28 : → scarbywind: 工商用硬體一堆這樣搞的. 04/08 20:33 : ※ 編輯: wei115 (42.79.242.21 臺灣), 04/08/2023 20:41:12 : → newsnew: 商用很多都這樣 不是買斷制了 04/08 20:45 : 推 keyman2: 賣家沒有先說喔? 04/08 21:07 : → smallreader: 商用本來就要買授權了 04/08 21:24 : → gyannor: 不如買1066 04/08 21:31 : 推 harry886901: 沒辦法虛擬化 那就顯卡直通吧 04/08 21:31 : 我現在主力機就是跑在虛擬機內的R : 分配全部CPU核心、64GB RAM、直通一張大哥3060 12G : → harry886901: 我買海鮮的p104 才1000也是1070同一個核心也不差 04/08 21:32 : 推 harry886901: proxmox base on debian 04/08 21:36 : → harry886901: 我記得某版debian就對大小核有支援了 04/08 21:36 : 我看好像6.0kernel才支援 : 現在pve更新到最新kernel才5.15 : 噓 pcfox: 自己選的 04/08 21:41 : 推 tennyleaz: 不知道可不可以刷vbios破解 04/08 22:25 : 有看用unlock改成quadro來跑 這就不需要授權 : 可是cuda會沒辦法使用 : 推 Transposon: 不知道何時換丟T4 04/08 22:25 : → MACROSS2K: T4大概還要好一段時間,A2前陣子缺貨大概都用T4 04/08 22:40 : → MACROSS2K: L4又剛發,不知道市場接受度如何 04/08 22:40 : 推 ArSaBuLu: 跟百變金剛一樣 雖然預算低 蛋便宜有便宜的辦法 04/08 22:41 : 推 johnson0319: google一下就有各種unlock教學不是 04/08 22:50 : unlock是改id : 主要是主機支援,可是虛擬機還是要另外裝驅動 : ※ 編輯: wei115 (220.134.21.189 臺灣), 04/08/2023 23:16:51 : → lc85301: 不然你要買 AMD 嗎 04/08 23:21 : 推 marunaru: vGPU要買阿 老黃的商法 04/08 23:31 : → marunaru: 如果你是A100那種等級的就不用了 自帶授權 04/08 23:31 : → marunaru: 不想花vGPU的授權你就只能改成Passthrough的方法 04/08 23:32 : → MACROSS2K: 其實AMD我也覺得蠻可惜的,MxGPU其實有出過一波 04/08 23:32 : → MACROSS2K: 但不知道是不是軟體沒跟上,感覺沒有打開市場 04/08 23:32 : → MACROSS2K: 然後MI200其實有出ESXi驅動,但測過好像沒有作用 04/08 23:34 : → MACROSS2K: 也無法開出VF,有點不太理解想要設計成什麼樣子 04/08 23:35 : 推 laeva75: 企業級的常見情況,買一個好像功能很多很強硬體只含最最 04/09 07:33 : → laeva75: 最少最簡單的功能,其他功能的都要另外買授權 04/09 07:33 : 推 corum68972: 恭喜你現在知道企業用戶是怎麼被老黃強姦的了 04/09 07:55 : → winiel559: 還好有這些企業級盤子,不然4090還不一張20萬 04/09 10:01 : 推 kamir: 一個願打,一個願挨 04/09 10:50 : → kamir: 都說是垃圾了,還花錢 04/09 10:50 : 推 Windcws9Z: 難怪賣這麼便宜 04/09 13:11 : → game0502: RTX8000+NLS乖乖付錢的的人路過… 04/09 16:16 : → nOhiTmE: pve 現在有optin 6.2 kernel. 04/09 22:39 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.219.70.171 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/PC_Shopping/M.1681099648.A.512.html

04/10 12:17, 1年前 , 1F
感覺是給nvidia now用的@@
04/10 12:17, 1F

04/10 12:56, 1年前 , 2F
有點看懂了
04/10 12:56, 2F

04/10 13:19, 1年前 , 3F
所以顯卡掛給虛擬機後,再從虛擬機切分給不同的程式跑(
04/10 13:19, 3F

04/10 13:19, 1年前 , 4F
MIG),應該是可行的吧XD 也不會用到vGPU授權?
04/10 13:19, 4F
沒錯,這種方式很推薦 但是就要花時間維護環境(要很懂MIG架構)

04/10 13:19, 1年前 , 5F
推科普 稍微懂了
04/10 13:19, 5F

04/10 13:23, 1年前 , 6F
推,MIG記得也吃硬體架構,所以只有特定卡才能用
04/10 13:23, 6F

04/10 13:24, 1年前 , 7F
然後MIG的初衷是為了給容器,給VM用反倒是其次
04/10 13:24, 7F
目前就我所知A30,A100,H100有支援MIG功能,並且購買單卡有送vGPU授權 看來內部也很競爭 ※ 編輯: aa210682 (61.219.70.171 臺灣), 04/10/2023 13:32:49

04/10 14:13, 1年前 , 8F
推,看ptt漲姿勢
04/10 14:13, 8F

04/10 15:15, 1年前 , 9F
T4跟A2效能差不多 不過A2省了一點功耗?
04/10 15:15, 9F

04/10 15:49, 1年前 , 10F
好文分享堆一個
04/10 15:49, 10F

04/10 17:09, 1年前 , 11F
先收藏,晚點研究看看
04/10 17:09, 11F

04/10 17:11, 1年前 , 12F
04/10 17:11, 12F

04/10 18:47, 1年前 , 13F
A2很爛欸,除了VRAM大小根本是亮機卡等級,只有極少應
04/10 18:47, 13F

04/10 18:47, 1年前 , 14F
用能贏T4
04/10 18:47, 14F

04/10 18:50, 1年前 , 15F
然後L4以他75W的效能來說其實算很強
04/10 18:50, 15F

04/10 18:53, 1年前 , 16F
A2真實性能大概只有T4的1/3
04/10 18:53, 16F
根據我手邊有的資料,效能差不多就是了 不過我是沒有實際跑過跑分,不過真實性能這塊還是有很多面向的 繪圖、運算、FP32..等,這些都是,不能單純概括而論

04/10 19:12, 1年前 , 17F
推推
04/10 19:12, 17F

04/10 19:18, 1年前 , 18F
感謝分享
04/10 19:18, 18F

04/10 19:31, 1年前 , 19F
方法1 現在Workstation能用了?
04/10 19:31, 19F

04/10 19:31, 1年前 , 20F
一般遊戲卡也行嗎?
04/10 19:31, 20F
可以,直通道技術跟hypervisor產品有關 講一個更好裡解的部分,要讓CD ROM or USB讓USB讀取的到 邏輯上就是跟直通道一樣的概念

04/10 19:35, 1年前 , 21F
04/10 19:35, 21F

04/10 21:06, 1年前 , 22F
推推
04/10 21:06, 22F

04/11 01:53, 1年前 , 23F
玩過這個 聞聞看 對這個有什麼看法
04/11 01:53, 23F

04/11 01:53, 1年前 , 24F

04/11 01:53, 1年前 , 25F
V
04/11 01:53, 25F

04/11 01:54, 1年前 , 26F
看起來是hyper-v專用 本人是不推薦這種作法的,畢竟誰也無法保證效能那些是否在虛擬機上正常(望向VMware Bitfusion) ※ 編輯: aa210682 (61.221.67.195 臺灣), 04/11/2023 13:31:40
文章代碼(AID): #1aCuk0KI (PC_Shopping)
討論串 (同標題文章)
文章代碼(AID): #1aCuk0KI (PC_Shopping)