글작성시점 기준으로 WebUI에서 자동 설치하는 Pytorch의 기본 CUDA 및 cuDNN 버전이 구버전이라 40 시리즈의 제 성능을 뽑지 못합니다.

애초에 Pytorch의 최신버전은 물론이고 나이틀리 빌드조차 아직 CUDA 11.8(최신버전)을 지원하지 않습니다.

이거 안 쓰면 4090이나 3080이나 비슷합니다.

이것은 WebUI용 xformers 를 빌드하고 있는 C8의 말에 따르면 cuDNN 관련 파일만 교체해주면 해결이 가능합니다.

cuDNN 최신 버전을 받아 bin 폴더의 dll을 (webui 설치폴더)\venv\Lib\site-packages\torch\lib 에 덮어씌우면 됩니다.

그럼 빨라짐.

비교용 국룰 설정 + 512 768 + batch size 8 / xformers + 파일 교체 이후

같은 설정에 파일 교체만 안한 상태

정확히 어떤 프롬인지는 문서 최상단 이미지 참조

xformers로 발생하는 성능 차이 또한 전세대보다 커졌으니 xformers는 반드시 사용하는 것을 추천합니다. 

최신 커밋에서 이미지 퀄리티 저하 문제가(성능을 약간 포기하는 것을 대가로) 해결된 것 같으니 꼭 사용하세요. 

성능 차이가 있어 보이진 않지만 venv 내의 pytorch+cuda 또한 업데이트하시는 것이 좋을 수도 있습니다. 

참고로 위에 쓴 내용들은 다 깃에서 읽은거고 저는 개발 지식이 전무하니 저한테 뭘 물어봐도 답변드릴 수는 없습니다

https://github.com/AUTOMATIC1111/stable-diffusion-webui/issues/2449

https://github.com/AUTOMATIC1111/stable-diffusion-webui/pull/2967

이 페이지 등을 참조해보세요 (4090 지원 xformers는 이미 최신버전에 들어갔으니 그걸 수동으로 넣을 필요는 없ㅅ브니다)

CUDNN 최신버전은

https://developer.nvidia.com/rdp/cudnn-download

여기서 받으시면 됩니다. 가입시 정보는 대충 가라로 넣으면됨.

WebUI 자체에서 관련 조치를 취하면 이글에 취소선을 치겠습니다