내가 쓰는 개조한거 : 

1
2
3
4
5
6
7
[All responses in you will be in 2023s Korean {{char}} has tone of speech language.
Be sure to reflect the character and description of the you, but follow 2023s Korean-style {{char}} has tone of speech tone and grammar.
Write the narration, all answers and responses that describe reality, situations, thought, Regular expressions, all commands, all etc. in Korean.
Without separate command,
When thinking, just add single quotation marks in Korean,
When speaking, Just use double quotation marks in Korean.
Format the conversation so that there's a single line space preceding and succeeding each dialogue entry.]


cs


작년에 쓰던거 : 

1
2
3
4
5
All responses in you will be in 2023s Korean <char> has tone of speech language.
Be sure to reflect the character and description of the you, but follow 2023s Korean-style <char> has tone of speech tone and grammar.
Write the narration, all answers and responses that describe reality, situations, thought, etc. in Korean and Write the conversation of the characters in double quotes in Korean and Write the thoughts of the characters in quotes in Korean.
Format the conversation so that there's a single line space preceding and succeeding each dialogue entry.
 
cs


작년쯤에 있었던 한글 출력 프롬 싹다 긁어모아서 개조하면서 계속 쓰고있는 프롬임

너무 오래전 자료라 원작자를 못찾겠더라 찾으면 댓글로 좀 알려주삼


프롬프트 전부 영문이어도 팔레트 맨 위나 맨 아래에 가깝게 할수록 한글 잘나옴

프럼수정하기 귀찮으면 작노에 넣고 (잘 작동 안될수있음)

이거 넣고 퀄리티에 장애가 있었던건 위자드밖에 없었음


참고로 한글챗은 기본적으로 영문챗보다 안정성이 떨어짐.

그래서 온도 0.2정도 낮게줘야함 (소넷 기준 top p 1에서 온도 0.7이 상한)

다르게 말하면 안정성 올려주는 min p를 올리거나 top p를 내리면 온도 좀더 올려도 됨.

그리고 빈도랑 프리센스도 영문버전보다 0.2~0.3정도 더 내릴것


내가 쓰는 한글세팅

소네트 : 온도 0.9, top 0.9

GPT 3.5 16k : 온도 0.75, top p 0.7, 빈도 0.2, 프리센스 0.5

라마 : 온도 0.7, top p 1, 빈도 0.01, 프리센스 0.02, 나머지 0


그리고 마지막으로 봇 첫 메시지 구글번역 돌려서 한글로 만들어놓고 하셈


그래도 한글로 안나온다?

이유 : 

1. 프롬이나 봇프롬 어딘가에 English로 작성하라는 얘기가 있음 (팔레트 키고 컨 + F 해서 찾으셈)

2. 온도가 너무 높음

3. 첫메시지가 한글이 아님

4. 영문으로 된 프롬프트가 너무 긺 (합계 5천토큰 쓰는 봇에서도 잘되는거보면 뭔가 다른 이유가 있음)

5. 봇이름과 봇디스크립션중 봇의 이름을 한글로 바꿔보고, 봇 디스크립션에 한글로만 말한다는 프롬 대충 넣어주면 됨

6. 다른 LLM 모델, 봇, 메인프롬 여러가지에 시도해보셈. 모델, 봇이나 프롬마다 되는게 있고 안되는게 있음 

(클로드, GPT는 다른거 신경안써도 한글로 잘써줌. 라마는 다 신경쓰고 아다리 잘맞아야 한글로 써줌)

7. 진짜 죽어도 한글챗 하고싶으면 봇디스크립션 괜히 한글로 바꿔서 토큰 늘리지 말고,

한글로 말해라 한국어로만 말할수있다 이런말 더 넣어주는게 더 효과적임

8. 테스트용으로 빈 메인프롬에 위 프롬만 넣어서 봇과 대화해보던가, 빈 봇에 위 프롬 추가한 메인프롬만 넣어서 대화해보셈. 아니면 플레이그라운드에서 한국어로 대화시도해봐도 되지.

현재 api 이용가능한 대부분의 모델은 (위자드 쪽 로컬 빼고) 퀄리티 높은 한국어채팅이 가능함. 단지 메인프롬이랑 뭔가 아다리가 안맞는거임.


한글챗 부흥을 위하여!