최근에 https://arca.live/b/aiart/68966157 글이 올라왔는데 해당 방식은 fp32로 만들어진 모델을 fp16으로, 비트수가 낮은 버전으로 바꾼것으로 용량크기를 유의미하게 줄일수 있긴 하지만 가장 작게 만드는 2 GB까지 줄이는 방식은 아님

위 방식을 간단하게 조금 더 자세히 설명하자면 일반적으로 7 GB짜리 모델은 EMA(약 3 GB)+fp32(약 4 GB)의 모델이 들어있는 것이고, fp32를 fp16으로 바꾸면 자릿수가 반통이 나며 대략 4~5 GB의 파일이 남게됨

근데 이 EMA는 본격적으로 학습을 할 때에만 사용되지 일반적인 병합이나 LoRA에서는 쓰지 않고, 그림만 뽑는다면 아예 신경쓸 필요없는 데이터 덩어리임, 쪼끔 더 쉽고 자세히 설명하자면 https://arca.live/b/aiart/67543561 참고

그러니 이 EMA를 떼어내면 약 3GB의 용량이 줄어드며, 이렇게 나온 모델들을 일반적으로 pruned라고 부름, 어원은 나도 몰?루? AI모델들 이름에 과일 많이써서 말린자두 생각나서 한건지, 가지치기 했다고 쓴건지 몰라도 아무튼 그럼

결론적으로 7 GB파일에서 EMA를 잘라내고 fp32를 fp16으로 바꾸면 2 GB짜리 모델만으로 그림을 뽑을 수 있다 이말임

그럼 그 방법을 알아보자

모델 컨버터는 확장기능에서 찾으면 됨, 한패 한다고 다들 써봤으니 익숙할텐데 저기서 converter라는 단어를 Ctrl+F로 찾아주면

바로 이렇게 나옴

저번달 즈음부터 이 목록에서 바로 찾을 수 있게 되었지만 이렇게 업데이트 된거 몰라서 URL로 확장기능 설치 이야기하는 분들이 있던데 지금은 여기 들어와있음

확장기능 설치와 적용하는거야 다들 알테니 넘어가고

설치하면 저렇게 Model Converter라는 탭이 추가됨

나는 AniDosMix 모델을 쓰려고 가져옴

아래에 있는 각 부분들에

모델에 변환할 원본모델

Precision은 fp16

Pruning Methods는 no-ema

Checkpoint Format은 솔직히 그냥 둬도 되는데 그냥 safetensors가 안전하다는 인식이 있으니 저거로 하자

이름 미리 바꿔 만들고싶으면 저기 적어놓으면 되는데 굳이?

* ckpt 찝찝하면 safetensors로 변환할때 써도 된다

시도하면 원클릭 기준에서 로그창에 저리 뜰텐데 저 숫자가 오르는 경우는 거의 없고 대부분 저대로 멈춘것마냥 되있는데...

*저거도 안뜨면 모델 자체가 문제일 수 있음, 해당 모델이 돌아가는지 확인하는걸 권장함

그냥 뜨지 않았을 뿐이지 모델쪽 확인하면 잘 만들어진거 확인 가능하다

근데 여기서 그냥 끝내면 안되고 변환된게 잘 동작하는지 확인까지 해야함

프롬 1girl, happy, smile, garden, sunflower, flower, masterpiece, finely detailed, intricate details, high resolution, 8k resolution, , distinct image,

네거 (worst quality, low quality:1.4)

프롬 1girl, happy, smile, garden, flower, masterpiece, finely detailed, intricate details, high resolution, 8k resolution, distinct image,

네거 (worst quality, low quality:1.4)

위에 시드 1111에서 머리에 꽃장식이 있었는데요 없었습니다 된거 말고는 차이가 없음, 애초에 이런 경우는 진짜 레어한 케이스로 일반적으로 차이 해봤자 머리카락 쬐끔밖에 차이 안남

https://huggingface.co/HIZ/aichan_pick/resolve/main/AniDosmix-pruned-fp16.safetensors

해당 모델 제작하신분에게 허락받고 올리는 변환된 모델 허깅페이스 링크

그러니 원래 fp32나 fp16이나 차이가 거의 없으니 안심하고 사용하면 됨 단, AnythingV3쪽 빼고...

그러니 다들 EMA를 빼버린 pruned 버전을 찾지 못했으면 직접 만들어서 용량 다이어트를 해보는건 어떨까?