[情報]nvidia的官方webui tensorRT外掛

看板AI_Art作者 (mayasoo)時間6月前 (2023/10/20 14:35), 編輯推噓5(503)
留言8則, 5人參與, 6月前最新討論串1/1
https://github.com/NVIDIA/Stable-Diffusion-WebUI-TensorRT 就webui的擴展 1. 每個checkpoint就要產出一個對應的Tensor模型,產圖速度可以加倍 2. HiresFix問題很大 HIRES FIX:如果在Automatic1111中使用hires.fix選項,您必須建立匹配開始和結束解 析度的引擎。例如,如果初始大小為512 x 512且hires.fix 升級為1024 x 1024,則您必 須產生兩個引擎,一個為 512,一個為 1024,或產生一個覆蓋整個範圍的動態引擎。目 前擁有兩個獨立的引擎將嚴重影響性能。 簡單來說開HiresFix得不償失 然後refiner也不WORK -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.75.213.197 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/AI_Art/M.1697783718.A.BC7.html

10/20 15:04, 6月前 , 1F
好像lora controlnet也不行?
10/20 15:04, 1F

10/20 16:24, 6月前 , 2F
對,總之原廠跳下來做就等慢慢完善
10/20 16:24, 2F

10/20 18:32, 6月前 , 3F
nvidia之前驅動好像因為安全因素使得sd運算速度降低,最近
10/20 18:32, 3F

10/20 18:32, 6月前 , 4F
的驅動似乎修正了,不過我沒想到他們會親自跳下來開發外掛
10/20 18:32, 4F

10/20 18:37, 6月前 , 5F
看了說明,SDXL現在還未正式支援,要嚐鮮需要改使用dev分支
10/20 18:37, 5F

10/20 19:48, 6月前 , 6F
tensorRT應該是不支援動態插入,所以lora有難度吧
10/20 19:48, 6F

10/20 23:13, 6月前 , 7F
就算弄出來 大模型+lora 每換一個組合就要存一個 然後con
10/20 23:13, 7F

10/20 23:13, 6月前 , 8F
trolnet應該很難
10/20 23:13, 8F
文章代碼(AID): #1bCX-cl7 (AI_Art)