이래저래 찾아보니 GUI에서 세팅하지 못하는 부분이 있어서 CUI로 다시 시작. 이번에는 세팅이 알맞았는지 VRAM이 충분했다. 1024,1024 기준 10~12GB 정도면 충분함. 대신 속도가 좀 느린것이 단점으로 768, 768을 하면 좀 빠름.

학습 결과는 순정 SD 인것을 감안하면 괜찮았음. 

다만 지금 알려진 SDXL 0.9 사용방법은 정상적인 사용 방법이 아니고 그림체 학습인 경우에는 Base 모델만 사용해야해서 정식 출시되면 달라지거나 개선될 수 있음.

사용한 세팅은 대충 이런 느낌. 리눅스에서 돌린거니 윈도우는 경로 지정이 다를거임.

config_file은

pretrained_model_name_or_path = "/home/username/sdxl/sd_xl_base_0.9.safetensors"
dataset_config = "/home/username/sdxl/testdata.toml"
output_dir = "/home/username/sdxl/out"

output_name = "test1"

resolution = "1024,1024"
train_batch_size = 4
max_train_steps = 3000
enable_bucket = true
save_model_as = "safetensors"
optimizer_type = "adafactor"
optimizer_args = [ "scale_parameter=False", "relative_step=False", "warmup_init=False" ]
lr_scheduler = "constant_with_warmup"
lr_warmup_steps = 100
learning_rate = 0.0001
no_half_vae = true
xformers = true
mixed_precision = "bf16"
save_precision = "fp16"
cache_latents = true
cache_text_encoder_outputs = true
gradient_checkpointing = true
save_every_n_epochs = 1
network_train_unet_only = true
min_timestep = 0
max_timestep = 1000
network_module = "networks.lora"

dataset_config는

[[datasets]]

  [[datasets.subsets]]
  image_dir = '/home/username/sdxl/teststyle'
  class_tokens = 'artistname anime style'
  num_repeats = 40
  caption_extension = ".txt"

이하는 보너스