안녕하세요.. 오래간만에 다시 연락을 드리네요..

한달전쯤 한국어 llama2모델(komt)을 공개하고 논문준비랑 모델 성능 개선을 하면서 지내고 있습니다.

한달이 지난 지금에서야 기존 모델대비 상당히 많이 개선된 komt 모델이 나와서 평가를 받고 싶어 글을 올립니다.

같이 연구한 그룹에서는 대답을 상당히 잘하는 편이라 해당 모델을 기반으로 서비스 모델을 만들려고 하고 있고요, 

할루시네이션은 어느정도 있지만 이부분은 rag로 해결을 하고 있고, komt는 질문의 의도와 답변을 자연스럽게 하는 모델로 이해해주면 될것 같습니다.

그리고 사용방법에 파인튜닝관련해서도 초보자분들을 위해 다양한 레시피를 추가했으니 한번 사용해보시고 의견있으면 이슈로 남겨주세요.

파인튜닝을 쉽게 할수 있도록 코드와 komt 학습때 사용한 데이터도 추가했습니다.(라이센스문제로 일부만 공개했습니다.ㅜㅜ)

github 주소:https://github.com/davidkim205/komt

finetune 방법 소개

llama2-webui 에서 사용방법

text-generation-webui에서 사용방법