지금 찾아본건데 https://github.com/hiyouga/LLaMA-Factory 이거 한번 써보려고요

axolotl 쓰실거면 가상환경 만들어서 파이썬 버전, 파이토치버전, 트랜스포머 버전, 엑셀러레이트 버전 등 다 맞추고 시작하시는게 편할겁니다. 거기에 쿠다 툴킷 버전도 미리 맞춰놓고요.
버전을 하나하나 다 맞춰줘야하는건 다른 프레임워크들도 다 비슷할겁니다.

Unsloth 추천드립니다.

axolotl은 저도 환경 갖춰진 도커 설치해서 해봤는데 그냥 알수없는 에러때문에 구동이 불가능하더라구요.. 도커 이미지 자체의 패치가 좀 필요할거같습니다

Unsloth multi gpu 쓰려면 돈내야할텐데... axolotl 이 한번 세팅해두면 편한듯합니다.