xFormers是一個(gè)模塊化和可編程的Transformer建模庫(kù),可以加速圖像的生成。
這種優(yōu)化僅適用于nvidia gpus,它加快了圖像生成,并降低了vram的使用量,而成本產(chǎn)生了非確定性的結(jié)果。
下載地址:
https://github.com/facebookresearch/xformershttps://github.com/facebookresearch/xformers
啟用xformers對(duì)大圖及以上有極為巨大的性能提升,極大幅度降低顯存占用,并且有很大可能修復(fù)黑圖。代價(jià)是部分細(xì)節(jié)可能有些許改變(有可能有巨大改變)。如果不是非常吹毛求疵,強(qiáng)烈推薦使用xformers生成高分辨率的圖片。
即使同一種子、同一參數(shù),使用xFormers后每次出的圖都有點(diǎn)變化,主要是物件的邊緣。但是和顯卡型號(hào)的改變一樣,只是細(xì)節(jié)上一些變化,不對(duì)比看不出來(lái)。請(qǐng)自行衡量能不能接受這些改變。
切換到webui根目錄
- source ./venv/bin/activate
- cd repositories
- git clone https://github.com/facebookresearch/xformers.git
- cd xformers
- git submodule update --init --recursive
- pip install -r requirements.txt
- pip install -e
安裝依賴(lài)項(xiàng):
1、安裝VS Build Tools 2022,只需要安裝Desktop development with C++
https://visualstudio.microsoft.com/downloads/?q=build+tools#build-tools-for-visual-studio-2022https://visualstudio.microsoft.com/downloads/?q=build+tools#build-tools-for-visual-studio-20222、安裝Install CUDA 11.3,如果已安裝Stable Diffusion WebUI,則忽略
拉取xformers源碼,創(chuàng)建venv并激活
- git clone https://github.com/facebookresearch/xformers.git
- cd xformers
- git submodule update --init --recursive
- python -m venv venv
- .\venv\scripts\activate.bat
然后安裝其余的依賴(lài)項(xiàng)
- pip install -r requirements.txt
- pip install wheel
運(yùn)行以下內(nèi)容:
- python setup.py build
- python setup.py bdist_wheel
在xformers目錄下,進(jìn)入dist文件夾,將.whl文件復(fù)制到目錄stable-diffusion-webui。
如果當(dāng)前安裝的是Python3.10版本,也可以直接下載打包好的whlhttps://github.com/C43H66N12O12S2/stable-diffusion-webui/releases/download/f/xformers-0.0.14.dev0-cp310-cp310-win_amd64.whlhttps://github.com/C43H66N12O12S2/stable-diffusion-webui/releases/download/f/xformers-0.0.14.dev0-cp310-cp310-win_amd64.whl
在stable-diffusion-webui目錄下,安裝.whl,如果名稱(chēng)不同,請(qǐng)?jiān)谝韵旅钪懈奈募Q(chēng):
- .\venv\scripts\activate.bat
- pip install xformers-0.0.14.dev0-cp310-cp310-win_amd64.whl
修改webui-user.bat,確保xformers被啟用
set COMMANDLINE_ARGS=--xformers
最新版本的xformers不需要編譯代碼,可以直接通過(guò)pip安裝
在stable-diffusion-webui目錄下
- .\venv\scripts\activate.bat
- pip install xformers
聯(lián)系客服