선생님 안그래도 저 4000대로 바꾸고 최적화로 고통받고있는데 
https://arca.live/b/aiart/71559091 
이 게시글에서 4번 자기환경에 맞게 컴파일하기

4. 명령프롬프트 창에 pip uninstall xformers 입력하기
잘못 설치된 xformers를 지워주는 과정

이부분을 선생님처럼 xformers 를 날려버려도 되는건가요?

제가 좀 무뇌라 venv 상태일때 pip install -U torch torchvision --index-url https://download.pytorch.org/whl/cu118
입력해서 설치하고 설치끝나면 바로 --xformers를 --opt-sdp-attention 이렇게 입력후 엔터 하면 되는건가요?..

저게 뭐가 어떻게 좋은것?

글카 저사양이면 117로 설치해야 하나? 118로 하니까 쿠다메모리 없어서 뻗길래 117로 설치했더니 되긴 하는데 빨라진건지 잘 모르겠음...

지우는 것부터 막혔는데 그냥 파이썬 들어가서 uninstall 명령어 집어 넣으면 돼?

혹시 원클릭설치한사람도 이거만 바꿔도되는거지?
정식설치버전으로 새로해야하나

cuddn 바꾸는 짓은 여전히 해야 하죠?

뭔가 건들기 무섭다.... 통파일 설치라 자동 업데이트도 안 해놨는데. 흠....

A100은 XFORMERS가 나음?

일단 호환성이슈라던지 해골물 여부까지 나오면 그때 해봐야겠다

어 뭐지 난 3060 인데 쿠다가 Cuda compilation tools, release 12.0, V12.0.140
Build cuda_12.0.r12.0/compiler.32267302_0 왜이랬지??

브램거지는 걍 xformers 계속 써야겠다

그래픽 3000 번대는 11.7 이고 4000번대는 11.8 쓰라는 말임???

pip install -U torch torchvision --index-url https://download.pytorch.org/whl/cu118

이거 붙여넣을 때 파워셀 뭘로 켠 거야? 이상한 질문해서 미안한데 정말 몰라서 그래...

내가 뭐 잘못했나 3060ti인데 기존에 쓰던쪽이 빠르네

코랩 이식 존버

launch.py: error: unrecognized arguments: --opt-sdp-attention

Xformers랑 비교해서 torch 2.0이 어떤 우위가 있는 거임? 속도도 xformers랑 거의 동일하다고 했고 40번대 글카 쓰고있는 거 아니면 딱히 바꿀 필요 없는 거야?

나도 Applying cross attention optimization (Doggettx).로 나오는데 짐작가는거 있음?

나도 일단 내용대로 설치는 다하고 진행시켰는데 WEBUI 하단은  torch: 1.13.1+cu117 표시되고
Applying cross attention optimization (Doggettx).
내용은 계속 이걸로 뜸

일단 추천박고 주말에 해본다

만약에 cuda가 11.7 버전이면

pip install -U torch torchvision --index-url https://download.pytorch.org/whl/cu118 여기서 끝을 117로 해야됨?

그지 1080ti 할아버지는 그대로 xformers 쓰면되는건가

이걸 해도 왜 webui 최하단에는
 python: 3.10.6  •  torch: 1.13.1+cu117  •  xformers: N/A  •  gradio: 3.16.2  •  commit: a9fed7c3  •  checkpoint: 0fc198c490
이렇게 뜨지

선생님 정말 감사합니다. 4000번대 세팅글 진짜 10번을 넘게 재시도했는데도 안되서 포기하고있었는데 이거따라하니 바로 적용되네요 ㅠㅠ

2.0정식버전으로 하니 xformers할때 보다 4090 평균속도 26에서28됬고 최고속도 34에서 35된거같음 해골물일수도있고~

launch.py: error: unrecognized arguments: --opt-sdp-attention 에러 
bash에다 대고 
git remote add origin https://github.com/AUTOMATIC1111/stable-diffusion-webui.git
git pull origin master
하셈
겉핥기로 코딩 알아서 구글링 하다가 git push origin master 할뻔;;

맥에서는 안되겠지..? ㅠㅠ

정보글 감사!
나도 Applying cross attention optimization (Doggettx)떠서
set COMMANDLINE_ARGS=--reinstall-torch로 해결함

3060ti 쓰는데 cuda 메모리부족 떠서 시키는대로 다 했거든
근데 webui 실행할때 cmd창에 이렇게 뜨는데 설치 안된거 맞지? xformers가 아직도 남아있어서 그런가?

From https://github.com/AUTOMATIC1111/stable-diffusion-webui
 * branch            master     -> FETCH_HEAD
Already up to date.
venv "C:\Stable Diffusion\venv\Scripts\Python.exe"
Python 3.10.8 (tags/v3.10.8:aaaf517, Oct 11 2022, 16:50:30) [MSC v.1933 64 bit (AMD64)]
Commit hash: a9fed7c364061ae6efb37f797b6b522cb3cf7aa2
Installing requirements for Web UI
Launching Web UI with arguments: --xformers --opt-split-attention --autolaunch --enable-insecure-extension-access
Loading weights [1d8d6e1204] from C:\Stable Diffusion\models\Stable-diffusion\henmixReal_v10.ckpt
Creating model from config: C:\Stable Diffusion\configs\v1-inference.yaml
LatentDiffusion: Running in eps-prediction mode
DiffusionWrapper has 859.52 M params.
Loading VAE weights specified in settings: C:\Stable Diffusion\models\VAE\vae-ft-mse-840000-ema-pruned.ckpt
Applying xformers cross attention optimization.
Textual inversion embeddings loaded(0):
Model loaded in 3.1s (load weights from disk: 0.7s, create model: 0.3s, apply weights to model: 0.3s, apply half(): 0.4s, load VAE: 0.2s, move model to device: 0.4s, load textual inversion embeddings: 0.8s).
Running on local URL:  http://127.0.0.1:7860

To create a public link, set `share=True` in `launch()`.
Startup time: 8.2s (import gradio: 1.5s, import ldm: 0.5s, other imports: 0.9s, list extensions: 0.4s, load scripts: 1.1s, load SD checkpoint: 3.2s, create ui: 0.3s, gradio launch: 0.2s).

3060으로 해봤는데 xformers가 더 빠르네요 하지만 xformers 없이 써야 한다면 이 방법은 매우 매우 좋네요 

이렇게 설치함

WEBUI git에서 받고 최초 실행을 아래와 같이 함

@echo off

set PYTHON=
set GIT=
set VENV_DIR=
set COMMANDLINE_ARGS=--opt-sdp-attention --autolaunch
set TORCH_COMMAND=pip install -U torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118

call webui.bat

뒤늦게봐서 댓글올림 1000번대 지포스도 해안단물급으로 속도향상 누빌수있을까?

선생님. 나도 위에 사람처럼 webui 하단에  torch: 1.13.1+cu117 뜹니다. 분명 하라는대로 했고, 지우고 다시 해봐도 똑같네요.. 수동설치로 새로 했는데도..

torch:2.0.0+cu118, xformers 0.0.17rc482: 24.95 / 31.17 / 32.95
torch:2.0.0+cu118, opt-sdp-attention: 25.76 / 31.99 / 34.4
개추!!

선생님 헬프....ㅠㅠ


venv "C:\test\stable-diffusion-webui\venv\Scripts\Python.exe"
Python 3.10.8 (tags/v3.10.8:aaaf517, Oct 11 2022, 16:50:30) [MSC v.1933 64 bit (AMD64)]
Commit hash: 22bcc7be428c94e9408f589966c2040187245d81
Traceback (most recent call last):
  File "C:\test\stable-diffusion-webui\launch.py", line 355, in <module>
    prepare_environment()
  File "C:\test\stable-diffusion-webui\launch.py", line 260, in prepare_environment
    run_python("import torch; assert torch.cuda.is_available(), 'Torch is not able to use GPU; add --skip-torch-cuda-test to COMMANDLINE_ARGS variable to disable this check'")
  File "C:\test\stable-diffusion-webui\launch.py", line 121, in run_python
    return run(f'"{python}" -c "{code}"', desc, errdesc)
  File "C:\test\stable-diffusion-webui\launch.py", line 97, in run
    raise RuntimeError(message)
RuntimeError: Error running command.
Command: "C:\test\stable-diffusion-webui\venv\Scripts\python.exe" -c "import torch; assert torch.cuda.is_available(), 'Torch is not able to use GPU; add --skip-torch-cuda-test to COMMANDLINE_ARGS variable to disable this check'"
Error code: 1
stdout: <empty>
stderr: Traceback (most recent call last):
  File "<string>", line 1, in <module>
AssertionError: Torch is not able to use GPU; add --skip-torch-cuda-test to COMMANDLINE_ARGS variable to disable this check