이미 sd-scripts 깃허브 이슈에 보고된 사안이었음
어떤분이 https://arca.live/b/hypernetworks/105120155?p=1 요 글에 달아주신 댓글보고 찾아보니까 나옴
https://github.com/kohya-ss/sd-scripts/issues/523
여기 보면 bitsandbytes의 버전에 따라서 adamW8bit 훈련이 이상하다고 증상이 보고되어있음.
https://github.com/ShivamShrirao/diffusers/issues/230
https://github.com/TimDettmers/bitsandbytes/issues/659
비슷한 이슈가 더 있음 이건 머 관심있음 읽어보시길
개발자도 인지했다고 하고 41.1 버전 이후로는 해결되었다고 나오는데
지금 로컬 최신버전에 깔려있는 bitsandbytes는 requirements.txt 따르면 43버전인데 아직 이러는거보니까 35버전으로 낮추는게 좋아보이는듯
코랩 버전은 sd-scripts 0.6.5이고 bitsandbytes가 35.0 버전이기때문에 이상없이 잘 되는거였음
따라서 setup.bat의 옵션에서 bitsandbytes 다른 버전 설치를 선택하면 됨
나만 그런진 모르겠는데 kohya_ss 내의 sd-scripts 폴더에 bitsandbytes가 깔려있기때문에 (아마 kohya_ss Web UI 사용하면 이럴듯?)
밖으로 빼서 버전 바꾸고 다시 넣어주면될듯
그리고 그냥 시작하면 requirements 따라서 다시 최신버전 bitsandbytes를 설치하기 때문에
requirements_windows와 requirements에서 bitsandbytes 버전을 마찬가지로 0.35.0으로 바꿔줘야 유지됩니다.
