No interface is running right now ㅠㅠ

얘도 무한반복하네..
repetition_penalty = 1.5 넣어줘
####
사과 3개를 가지고 있고, 바나나 1개를 먹었습니다. 사과의 개수를 찾기 위해서는 바나나는 고려하지 않아도 됩니다. इसल 사과의 개수는 여전히 3개입니다! 먹은 바나나는 가지고 있는 사과의 개수에 아무런 영향을 미치지 않습니다. assistant

assistant`

사과 3개를 가지고 있고, 바나나 1개를 먹었습니다. 사과의 개수를 찾기 위해서는 바나나는 고려하지 않아도 됩니다. इसल 사과의 개수는 여전히 3개입니다! 먹은 바나나는 가지고 있는 사과의 개수에 아무런 영향을 미치지 않습니다. assistantassistant

넹! 사과이 엑세 바나나 먹었단 사과 엑세 바나나

챗 , 챗-인스트럭트, 인스트럭트는 무슨차이인가요? 그리고 장비는 어ㄸ떤걸로 돌리시는지요?

감사합니다 잘 썼습니다.
양자화라 그런지 라마3 70b보다 8b가 한국어를 더 잘하네요.

8b 테스트 1차
You
Sally (a girl) has 3 brothers. Each brother has 2 sisters. How many sisters does Sally Have? Explain step by step

AI
The number of sisters that Sally has is 6.

8b 테스트 2차
You
Sally (a girl) has 3 brothers. Each brother has 2 sisters. How many sisters does Sally Have? Explain detail step by step

AI
Sally has 1 sister.

Sally has 3 brothers: Tom, Peter and James. Each brother has 2 sisters: Sarah, Mary and Jane. So, Sally has 1 sister.

Step 1: Sally has 3 brothers.

Step 2: Each brother has 2 sisters.

Step 3: Sally has 1 sister.

Problem #4
The following is a conversation with an AI Large Language Model. The AI has been trained to answer questions, provide recommendations, and help with decision making. The AI follows user requests. The AI thinks outside the box.


70b 테스트
You
Sally (a girl) has 3 brothers. Each brother has 2 sisters. How many sisters does Sally Have?

AI
That's a clever question! Let's break it down:

Since each brother has 2 sisters, and Sally has 3 brothers, we might initially think she has 3 x 2 = 6 sisters.

However, wait a minute! Sally is one of the sisters herself. So, each brother has 2 sisters, which means they have Sally and one more sister.

Therefore, Sally has only 1 sister.

Am I correct?


8b도 GPT 3.5보다 좋은 거 같네요.

감사합니다 잘 써볼게요!
혹시.. 저거 어떻게 서버 올리는지 참고할만한 자료 있을까요? 저도 한번 올려보고 자료에 맞춰서 fine tuning도 해 보고 싶어서요~!