RuntimeError: shape '[64, 10, -1]' is invalid for input of size 320 이거 무슨 오류인가요?

AI 그림 채널

채널위키 알림 알림 중 알림 취소

구독자 74725명 알림수신 1651명 @NO_NSFW

인공지능으로 제작한 그림을 자랑하고 정보를 공유하는 채널

질문 RuntimeError: shape '[64, 10, -1]' is invalid for input of size 320 이거 무슨 오류인가요?

비공개2

추천 0 비추천 0 댓글 19 조회수 1599 작성일 2023-01-17 02:48:21

⚠️ 이 게시물은 작성자가 삭제할 수 없도록 설정되어 있습니다.

https://arca.live/b/aiart/67672200

DirectML을 사용해 윈도우 환경에서 AMD 라데온, 인텔 아크 그래픽카드로 stable diffusion 돌리기 - AI그림 채널 (arca.live)

을 따라했는데 이런 오류가 나오네요

첫 실행 시에는 stable-diffusion-webui 구동에 필요한 패키지들을 설치하기 때문에 오래 걸릴 수 있습니다.

Python 3.10.8 | packaged by conda-forge | (main, Nov 24 2022, 14:07:00) [MSC v.1916 64 bit (AMD64)]

Commit hash: 93fa2c28d1094ea8a5b9023882ec217f4463cb35

Installing gfpgan

Installing clip

Installing open_clip

Installing requirements for CodeFormer

Installing requirements for Web UI

Launching Web UI with arguments: --no-half

No module 'xformers'. Proceeding without it.

Warning: caught exception 'Torch not compiled with CUDA enabled', memory monitor disabled

LatentDiffusion: Running in eps-prediction mode

DiffusionWrapper has 859.52 M params.

Calculating sha256 for C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\models\Stable-diffusion\model.ckpt.ckpt: cc6cb27103417325ff94f52b7a5d2dde45a7515b25c255d8e396c90014281516

Loading weights [cc6cb27103] from C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\models\Stable-diffusion\model.ckpt.ckpt

Applying cross attention optimization (InvokeAI).

Textual inversion embeddings loaded(0):

Model loaded in 16.7s (0.5s create model, 12.0s load weights).

Running on local URL: http://127.0.0.1:7860

To create a public link, set `share=True` in `launch()`.

0%| | 0/20 [00:00<?, ?it/s]

Error completing request

Arguments: ('task(t8suhi7to3pm8c1)', 'blue', '', 'None', 'None', 20, 0, False, False, 1, 1, 7, -1.0, -1.0, 0, 0, 0, False, 512, 512, False, 0.7, 2, 'Latent', 0, 0, 0, 0, False, False, False, False, '', 1, '', 0, '', True, False, False) {}

Traceback (most recent call last):

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\modules\call_queue.py", line 56, in f

res = list(func(*args, **kwargs))

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\modules\call_queue.py", line 37, in f

res = func(*args, **kwargs)

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\modules\txt2img.py", line 52, in txt2img

processed = process_images(p)

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\modules\processing.py", line 479, in process_images

res = process_images_inner(p)

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\modules\processing.py", line 608, in process_images_inner

samples_ddim = p.sample(conditioning=c, unconditional_conditioning=uc, seeds=seeds, subseeds=subseeds, subseed_strength=p.subseed_strength, prompts=prompts)

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\modules\processing.py", line 797, in sample

samples = self.sampler.sample(self, x, conditioning, unconditional_conditioning, image_conditioning=self.txt2img_image_conditioning(x))

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\modules\sd_samplers.py", line 542, in sample

samples = self.launch_sampling(steps, lambda: self.func(self.model_wrap_cfg, x, extra_args={

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\modules\sd_samplers.py", line 445, in launch_sampling

return func()

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\modules\sd_samplers.py", line 542, in <lambda>

samples = self.launch_sampling(steps, lambda: self.func(self.model_wrap_cfg, x, extra_args={

File "C:\Users\rlgud\miniconda3\envs\webuidml\lib\site-packages\torch\autograd\grad_mode.py", line 27, in decorate_context

return func(*args, **kwargs)

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\repositories\k-diffusion\k_diffusion\sampling.py", line 145, in sample_euler_ancestral

denoised = model(x, sigmas[i] * s_in, **extra_args)

File "C:\Users\rlgud\miniconda3\envs\webuidml\lib\site-packages\torch\nn\modules\module.py", line 1194, in _call_impl

return forward_call(*input, **kwargs)

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\modules\sd_samplers.py", line 337, in forward

x_out = self.inner_model(x_in, sigma_in, cond={"c_crossattn": [cond_in], "c_concat": [image_cond_in]})

File "C:\Users\rlgud\miniconda3\envs\webuidml\lib\site-packages\torch\nn\modules\module.py", line 1194, in _call_impl

return forward_call(*input, **kwargs)

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\repositories\k-diffusion\k_diffusion\external.py", line 112, in forward

eps = self.get_eps(input * c_in, self.sigma_to_t(sigma), **kwargs)

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\repositories\k-diffusion\k_diffusion\external.py", line 138, in get_eps

return self.inner_model.apply_model(*args, **kwargs)

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\repositories\stable-diffusion-stability-ai\ldm\models\diffusion\ddpm.py", line 858, in apply_model

x_recon = self.model(x_noisy, t, **cond)

File "C:\Users\rlgud\miniconda3\envs\webuidml\lib\site-packages\torch\nn\modules\module.py", line 1194, in _call_impl

return forward_call(*input, **kwargs)

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\repositories\stable-diffusion-stability-ai\ldm\models\diffusion\ddpm.py", line 1329, in forward

out = self.diffusion_model(x, t, context=cc)

File "C:\Users\rlgud\miniconda3\envs\webuidml\lib\site-packages\torch\nn\modules\module.py", line 1194, in _call_impl

return forward_call(*input, **kwargs)

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\repositories\stable-diffusion-stability-ai\ldm\modules\diffusionmodules\openaimodel.py", line 776, in forward

h = module(h, emb, context)

File "C:\Users\rlgud\miniconda3\envs\webuidml\lib\site-packages\torch\nn\modules\module.py", line 1194, in _call_impl

return forward_call(*input, **kwargs)

x = layer(x, emb)

File "C:\Users\rlgud\miniconda3\envs\webuidml\lib\site-packages\torch\nn\modules\module.py", line 1194, in _call_impl

return forward_call(*input, **kwargs)

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\modules\sd_hijack_checkpoint.py", line 10, in ResBlock_forward

return checkpoint(self._forward, x, emb)

File "C:\Users\rlgud\miniconda3\envs\webuidml\lib\site-packages\torch\utils\checkpoint.py", line 249, in checkpoint

return CheckpointFunction.apply(function, preserve, *args)

File "C:\Users\rlgud\miniconda3\envs\webuidml\lib\site-packages\torch\utils\checkpoint.py", line 107, in forward

outputs = run_function(*args)

h = self.in_layers(x)

File "C:\Users\rlgud\miniconda3\envs\webuidml\lib\site-packages\torch\nn\modules\module.py", line 1194, in _call_impl

return forward_call(*input, **kwargs)

File "C:\Users\rlgud\miniconda3\envs\webuidml\lib\site-packages\torch\nn\modules\container.py", line 204, in forward

input = module(input)

File "C:\Users\rlgud\miniconda3\envs\webuidml\lib\site-packages\torch\nn\modules\module.py", line 1194, in _call_impl

return forward_call(*input, **kwargs)

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\repositories\stable-diffusion-stability-ai\ldm\modules\diffusionmodules\util.py", line 282, in forward

return super().forward(x.float()).type(x.dtype)

File "C:\Windows Stable Diffusion WebUI DirectML Easy-Setup\stable-diffusion-webui-directml\repositories\stable-diffusion-stability-ai\ldm\modules\diffusionmodules\util.py", line 264, in forward

self.weight = nn.Parameter(self.weight.view(NxG, D, -1))

RuntimeError: shape '[64, 10, -1]' is invalid for input of size 320

hgrsikghrd

2023-01-17 03:00:44

설정값 좀 알려주실 수 있으실까요 확인이 필요해보이네요

펼쳐보기▼

비공개2

2023-01-17 03:12:20

설정값은 어디서 보는건가요?

펼쳐보기▼

hgrsikghrd

2023-01-17 03:13:17

webui 화면에서 어떤 작업을 돌리셨는지랑 설정 만지신게 있다면 알려주시면 됩니다
일반적인 txt2img는 아닌 것 같이 보여서요

펼쳐보기▼

비공개2

2023-01-17 03:36:10

설정을 바꾼게 없어서요  우왕랑쥬ㅜ님 데로 하니가 되네요

펼쳐보기▼

hgrsikghrd

2023-01-17 05:32:21

*수정됨

패치했습니다. webui-directml-update.ps1 파일 우클릭하시고 "PowerShell에서 실행" 해주신 후 다시 webui-directml-run.ps1 실행해주시면 됩니다.
--medvram 빼셔도 RuntimeError: shape '[64, 10, -1]' is invalid for input of size 320 이 오류는 안날텐데 그래픽카드 모델에 따라 메모리 용량이 부족하면 메모리 부족 오류가 뜰 수도 있습니다.
그런 경우 Sampling Steps를 조절하시거나 --medvram이나 --lowvram 등 기타 최적화 옵션들을 넣어서 해결해주시면 됩니다.

펼쳐보기▼

비공개2

2023-01-17 08:06:33

감사합니다

펼쳐보기▼

2023-01-17 03:23:55

*수정됨

저도 RuntimeError: shape '[64, 10, -1]' is invalid for input of size 320 동일하게 뜨네요.

6900xt이고 run 파일 편집없이 http://127.0.0.1:7860/ txt2img사용, 512x768에 시험삼아 masterpiece만 넣고 돌려봤습니다.

펼쳐보기▼

hgrsikghrd

2023-01-17 03:35:46

아 재현 성공했네요 감사합니다
webui-directml-run.ps1 파일에서 python launch.py --no-half --medvram 으로 수정해주시면 일단 해결됩니다
원인은 대충 알 것 같으니 수정하겠습니다

펼쳐보기▼

2023-01-17 03:39:09

*수정됨

빠른 조치 감사합니다. 라데온에서는 구경도 못할 줄 알았는데 잘 돌아가니까 신기하네요.

펼쳐보기▼

hgrsikghrd

2023-01-17 05:32:32

*수정됨

패치했습니다. webui-directml-update.ps1 파일 우클릭하시고 "PowerShell에서 실행" 해주신 후 다시 webui-directml-run.ps1 실행해주시면 됩니다.
--medvram 빼셔도 RuntimeError: shape '[64, 10, -1]' is invalid for input of size 320 이 오류는 안날텐데 그래픽카드 모델에 따라 메모리 용량이 부족하면 메모리 부족 오류가 뜰 수도 있습니다.
그런 경우 Sampling Steps를 조절하시거나 --medvram이나 --lowvram 등 기타 최적화 옵션들을 넣어서 해결해주시면 됩니다.

펼쳐보기▼

2023-01-17 16:11:16

감사합니다. 구버전이라 그런가 업데이트에서 fatal 메세지가 나와서 그냥 지우고 가이드글에 올라온 버전으로 새로 설치했습니다.

말씀해주신대로 기존의 320 런타임 메세지는 안뜨는데 간헐적으로 메모리부족 오류가 뜨네요. --medvram값을 추가해서 써 봐야 겠습니다.

펼쳐보기▼

hgrsikghrd

2023-01-17 16:31:48

네 DirectML도 거쳐야하고 일부 구현도 최적화가 제대로 안되어있다보니까 vram을 엄청 써대네요ㅠㅠ

펼쳐보기▼

우왕랑쥬ㅜ

2023-01-17 03:26:14

같은 오류 있었는데,
webui-drectml-run 편집들어가셔서 
ryn.py 뒤에 설정을 
--no-half --medvram --opt-split-attention --precision full
으로 바꿔주세요,
vram이 부족하시면 medvram 을 low vram 으로 바꿔주시고, 512x768은 low ram 에서 작동하는데 medvram에서는 안되더군요(vega 64 8gb 사용중)
med vram 은 480x512는 작동됩니다, medvram 은 20초이내, low vram은 2분 30초 정도 생성 시간 걸립니다.

펼쳐보기▼

2023-01-17 03:35:07

*수정됨

적어주신대로 추가하니까 512x768도 오류 없이 되네요 감사합니다

펼쳐보기▼

비공개2

2023-01-17 03:36:30

감사합니다 잘되네요

펼쳐보기▼

빙수

2023-01-17 04:07:59

https://github.com/pytorch/pytorch/blob/0388400f3f8a8ecae2f809ba40ca3ddd5a8b9028/torch/_refs/__init__.py#L2930
여기의 파이토치 native_group_norm이나 다른 깃허브에서 본 group_norm이 다 브로드캐스팅으로 처리하던데, view하고 repeat 대신 브로드캐스팅으로 처리되게 해보시는건 어떰?

GitHub

pytorch/__init__.py at 0388400f3f8a8ecae2f809ba40ca3ddd5a8b9028 · pytorch/pytorch

Tensors and Dynamic neural networks in Python with strong GPU acceleration - pytorch/__init__.py at 0388400f3f8a8ecae2f809ba40ca3ddd5a8b9028 · pytorch/pytorch

여기의 파이토치 native_group_norm이나 다른 깃허브에서 본 group_norm이 다 브로드캐스팅으로 처리하던데, view하고 repeat 대신 브로드캐스팅으로 처리되게 해보시는건 어떰?

펼쳐보기▼

hgrsikghrd

2023-01-17 04:27:59

확인해보겠습니다

펼쳐보기▼

hgrsikghrd

2023-01-17 07:55:46

저도 한번 봤던 코드이긴 한데 view, repeat와 비교해본 결과 이렇습니다

옵션
--no-half --medvram
(vram 8GB짜리 그래픽카드라 medvram을 빼면 sampling step 10도 안돌아감)

- view, repeat
소요 시간: 1분 39초
속도: 1.99s/it
그래픽카드 로드율: 80%대 → 97% → 80%대 → 97% 반복
총 vram 점유: 8.6 ~ 8.7GB

- 브로드캐스팅
소요 시간: 2분 초반
속도: 2.52s/it
그래픽카드 로드율: 80%대 유지
총 vram 점유: 8.6 ~ 8.7GB

펼쳐보기▼

빙수

2023-01-17 09:21:06