코랩은 퀄 좋게 잘 나오는데 동일 스텝 데이터셋 에포크 등등 맞춘 로컬로는 디테일이 전혀 안나옴
이제 그냥 포기하기로 했다 아이디 돌아가면서 코랩 쓸 예정
도대체 뭐가 문제인가 싶어서 최대한 맞춘다고 맞춰봤는데 안되는걸보니
내 컴에 문제가 있거나 내가 모르는 설정이 다르거나 할듯 근데 설정이 달라고 먼가 나오긴해야할텐데 말귀를 전혀 못 알아듣는거같아서
참.....
Anything V3.1 (https://huggingface.co/tlsdlftn79/Anything-v3.0/resolve/main/anything-v3-1.safetensors)
14리핏10에포크,60장 ( 8400스텝)
fp16
랭크 32 알파 16
AdamW8bit / cosine with restarts (LR # cycles 3), 배치 2
Cache latents/to disk On
Max grad norm 1
LR warmup 5%
LR (Unet) 5e-4
TE LR 1e-4
enable buckets
Max resolution 768,768
Shuffle caption On
Clip skip 2, Keep n tokens 1
Max token Length 225
Min SNR gamma 5
Noise offset Type -> Multires, Multires noise discount 0.3
말곤 뭐 모르겠음 너무 평범한 세팅 아님...?
Huber loss는 만져야 적용되는거같고 L2라 영향 없을듯
진짜 한 40시간은 학습에만 쓴거같은데.....로컬학습은 뭐 다른거 있기 전엔 이제 안만질거같음 현타가 오지게옴....
아님 SDXL에 1.5 느낌의 좋은 믹스 좀 생기면 그때 만져볼듯 지금은 SDXL이 그릴줄은 아는데 때깔이 너무 별로라 안쓰는중
