지금 공지에 있는 정보들 중에 현 시점에서 필요없는 것들은 다 지우고, 입문자의 형편에 따라 추천 모델과 추천 설치방법들만 모아서 다시 올리는게 좋을거 같아서 대충 정보공지글 뼈대 생각해봤는데, 각 경우별 추천 옵션이나 필요하다고 생각되는 정보들 댓글로 달아주시면 정리해서 공지로 건의하겠습니다



[입문자별 추천 모델과 추론 환경]

a. 나는 3090 이나 4090 dual 급 머신을 가지고 있다

b. 나는 3090 이나 4090을 가지고 있다

c. 나는 VRAM 8G 이상 글카를 가지고 있다

d. 나는 글카는 없지만 메인 cpu 는 어느정도 사양이 된다

e. 애플실리콘 맥으로는 어느정도 성능이 나오나?

f. pc CPU 만으로는 어느정도 성능이 나오나?

g. 로컬모델을 체험하고 싶어서 새로 장비를 구매하려고 한다. 예산별 추천 장비는?

h. 외부 서비스를 이용해서 로컬모델을 체험해볼 방법은? 런팟이 많이 쓰이던데 그거 쓰는 방법? (상업적 서비스 추천 가능)


[운영체제]

a. 윈도우로 되나? 

b. 맥osx 에서 잘 되나? 

c. 리눅스를 써야 한다는 말이 있던데?


[설치방법]

- 이쪽은 그냥 플레이신 유투브 채널 링크

https://www.youtube.com/watch?v=rr_BsjL4nQM


[소프트웨어]

 - 우바부가는 뭐고 리스는 뭔가?

 - 내가 원하는 캐릭터랑 채팅하려면 어떻게 해야 하나?

 - 이쪽 부분은 ai채팅 채널쪽 주요 개념 정보글로 링크


[개념]

 - 양자화란 뭔가? 

 - 여러가지 양자화된 모델중 뭘 선택해야 하나?

 - 내가 직접 양자화를 하려면 뭐가 필요하나?

 - 내가 모델을 만드는 것이 가능한가? 파인튜닝이란게 있다던데?

 - 파인튜닝없이 모델을 만드는 것이 가능한가? 모델 머지가 머지? (아재개그 죄송)

 - LoRA 튜닝은 뭐고? FSDP 는 뭐고? 딥스피드는 뭐고? QLora와 Lora 는 뭔 차이? QLora 써도 됨?