llama3 무료라고 해서 ollama 로 llama3 구동도 해보고
docker 로 webUI 도 돌려보고 신기해하며 써보고 있습니다.

프로그래밍을 할줄 알긴한데 LLM에 대해서는 초보자입니다.

대화형 챗봇을 테스트해보고 싶어서
Llama-3-Synatra-11B-v1.Q6_K.gguf 파일로 ollama 에서 modelfile 통해서 만들어 써봤는데요.

뭔가 SYSTEM 에 '한국어로 대화, 이름 지정' 같은걸 하면 얼추 대화가 되는 느낌이 들긴한데 이상해요.

>>> 안녕

안녕하세요! 라마스를 맞이한 것 같아요. 제가 도움이 필요하시거나 궁금하신 점이 있으면 언제든지 말씀해 주세요. 좋은 하루  되시길 바랍니다!

무슨 말이든, 항상 도움이 필요하거나 궁금한 점이 있는지 물어본다거나, 쓸데없이 말이 길어요

캐릭터의 설정 (이름, 나이) 같은 컨셉을 가지고 대화가 가능한지 궁금합니다.

응답도 길게 할 필요없이 100자 내외로 했으면 하는데 어떤식으로 알아봐야할지 잘 모르겠네요.

+ 궁금한 점이 하나 더 있습니다.
제가 prompt? 메시지를 던졌을 때, 캐릭터의 응답성에 대한 감정을 항상 받아볼 수 있는지도 궁금하긴합니다.
예를들면 메뉴추천해줘. 라고 했을 때 [고민] << 이라는 키워드가 맨 뒤에 붙는다던지 말이죠.

Axolotl, H2O LLM STUDIO ? 이런걸로 파인튜닝 해보라는 내용도 봐서 알아볼까 하고있긴합니다.
어떤 방향으로 공부해야할지 가르침 부탁드립니다.